Wetenschap: Onderzoekers bekritiseren AI Voice ChatGPT-zwakheden
Wetenschappen
Onderzoekers bekritiseren de kwetsbaarheden voor voicechat van AI ChatGPT
Promovendus en AI-expert Sven Schultz laat ChatGPT tekst genereren in zijn Darmstadt “Leap in Time Lab” als een negatief voorbeeld van een kleinzoonfraudeprocedure. Foto
© Frank Rumpenhorst / dpa / archiefbeeld
Onderzoekers van Darmstadt hebben via een onderzoek kwetsbaarheden in het kunstmatige-intelligentie-spraakprogramma ChatGPT aangetoond. “Op dit moment is er dit geluid. Ik heb het gevoel dat dit systeem nauwelijks beslissend wordt weerspiegeld”, zegt Roth Stock-Homburg, oprichter van het onderzoekslaboratorium Leap in Time Lab en professor bedrijfskunde aan de Technische Universiteit van Darmstadt. Duits persbureau. Wetenschappers en AI-experts waarschuwen voor kwetsbaarheden op het gebied van gegevensbescherming en gegevensbeveiliging, aanzetten tot haat en nepnieuws. In het wetenschappelijke project samen met de Technische Universiteit werden gedurende zeven weken duizenden queries zonder persoonsgegevens naar het systeem gestuurd om kwetsbaarheden op te sporen.
Onderzoekers van Darmstadt hebben via een onderzoek kwetsbaarheden in het kunstmatige-intelligentie-spraakprogramma ChatGPT aangetoond. “Op dit moment is er dit geluid. Ik heb het gevoel dat dit systeem nauwelijks beslissend wordt weerspiegeld”, zegt Roth Stock-Homburg, oprichter van het onderzoekslaboratorium Leap in Time Lab en professor bedrijfskunde aan de Technische Universiteit van Darmstadt. Duits persbureau. Wetenschappers en AI-experts waarschuwen voor kwetsbaarheden op het gebied van gegevensbescherming en gegevensbeveiliging, aanzetten tot haat en nepnieuws. In het wetenschappelijke project samen met de Technische Universiteit werden gedurende zeven weken duizenden queries zonder persoonsgegevens naar het systeem gestuurd om kwetsbaarheden op te sporen.
Het programma is ontwikkeld door een van de toonaangevende kunstmatige-intelligentiebedrijven in de Verenigde Staten, OpenAI. Softwarebedrijf Microsoft investeerde in 2019 al 1 miljard dollar in het bedrijf en maakte onlangs bekend dat het miljarden meer in het bedrijf gaat steken. De Windows-groep wil ChatGPT binnenkort beschikbaar stellen aan klanten van zijn clouddienst Azure.
Aankondiging van Microsoft / OpenAI-site van ChatGPT
“Analist. Schepper. Zombiefanaat. Fervente reisjunkie. Popcultuurexpert. Alcoholfan.”