Wetenschap: Onderzoekers bekritiseren AI Voice ChatGPT-zwakheden

Wetenschap: Onderzoekers bekritiseren AI Voice ChatGPT-zwakheden

Wetenschappen
Onderzoekers bekritiseren de kwetsbaarheden voor voicechat van AI ChatGPT

Promovendus en AI-expert Sven Schultz laat ChatGPT tekst genereren in zijn Darmstadt “Leap in Time Lab” als een negatief voorbeeld van een kleinzoonfraudeprocedure. Foto

© Frank Rumpenhorst / dpa / archiefbeeld

Onderzoekers van Darmstadt hebben via een onderzoek kwetsbaarheden in het kunstmatige-intelligentie-spraakprogramma ChatGPT aangetoond. “Op dit moment is er dit geluid. Ik heb het gevoel dat dit systeem nauwelijks beslissend wordt weerspiegeld”, zegt Roth Stock-Homburg, oprichter van het onderzoekslaboratorium Leap in Time Lab en professor bedrijfskunde aan de Technische Universiteit van Darmstadt. Duits persbureau. Wetenschappers en AI-experts waarschuwen voor kwetsbaarheden op het gebied van gegevensbescherming en gegevensbeveiliging, aanzetten tot haat en nepnieuws. In het wetenschappelijke project samen met de Technische Universiteit werden gedurende zeven weken duizenden queries zonder persoonsgegevens naar het systeem gestuurd om kwetsbaarheden op te sporen.

Onderzoekers van Darmstadt hebben via een onderzoek kwetsbaarheden in het kunstmatige-intelligentie-spraakprogramma ChatGPT aangetoond. “Op dit moment is er dit geluid. Ik heb het gevoel dat dit systeem nauwelijks beslissend wordt weerspiegeld”, zegt Roth Stock-Homburg, oprichter van het onderzoekslaboratorium Leap in Time Lab en professor bedrijfskunde aan de Technische Universiteit van Darmstadt. Duits persbureau. Wetenschappers en AI-experts waarschuwen voor kwetsbaarheden op het gebied van gegevensbescherming en gegevensbeveiliging, aanzetten tot haat en nepnieuws. In het wetenschappelijke project samen met de Technische Universiteit werden gedurende zeven weken duizenden queries zonder persoonsgegevens naar het systeem gestuurd om kwetsbaarheden op te sporen.

Het programma is ontwikkeld door een van de toonaangevende kunstmatige-intelligentiebedrijven in de Verenigde Staten, OpenAI. Softwarebedrijf Microsoft investeerde in 2019 al 1 miljard dollar in het bedrijf en maakte onlangs bekend dat het miljarden meer in het bedrijf gaat steken. De Windows-groep wil ChatGPT binnenkort beschikbaar stellen aan klanten van zijn clouddienst Azure.

Aankondiging van Microsoft / OpenAI-site van ChatGPT

dpa

READ  Klimaatverandering zal in de toekomst aanzienlijke gevolgen hebben voor de grondwaterstanden

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *