Vertrouwen in vragen over algoritmen – wissenschaft.de
Digitalisering roept niet alleen technische, maar ook ethische vragen op. Een team van HLRS is op zoek naar praktische aanbevelingen.
Het kan als een verrassing komen dat een promovendus werkt bij het Center for High Performance Computing in Stuttgart (HLRS). Het gaat immers vooral om krachtige computers, algoritmen, modellen en simulaties. Maar Niko Furmanek, sinds 2023 voorzitter van het Departement Filosofie van Computational Sciences, is niet de enige: “We werken met z’n zessen in onze groep. Iedereen heeft een dubbele kwalificatie: vaak een diploma wiskunde en natuurwetenschappen, gevolgd door een doctoraat in de filosofie of sociale wetenschappen.”
Aangezien computers alle gebieden van de samenleving en het beroepsleven blijven doordringen, roept dit niet alleen technische en wetenschappelijke vragen op, maar ook ethische en epistemologische vragen. “We kijken naar deze vragen”, zegt Furmanek.
De HLRS is hiervoor een soort natuurlijke biologie. Simulaties, artificiële intelligentie (AI) en het verwerken van grote hoeveelheden gegevens: er zijn altijd vragen over acceptatie en vertrouwen. Het meest recente voorbeeld hiervan dat media-aandacht heeft gekregen, is de AI-aangedreven Chatbot ChatGPT, waarmee in de toekomst als mens kan worden gechat. Dus het openbaar beschikbare prototype heeft de afgelopen maanden geleid tot hernieuwde discussies over de sociale implicaties van deze chatbots.
Uniek in Duitsland
De Formanek-divisie werd opgericht in 2016. Het is uniek onder de drie nationale high-performance rekencentra in Jülich, Garching en Stuttgart. “Ons voordeel is dat ons onderzoek heel dicht bij andere HLRS-projecten ligt, die voornamelijk technische en wetenschappelijke kwesties onderzoeken”, zegt Furmanek. Als het gaat om sociale of wetenschappelijke en historische vragen, werkt zijn team empirisch, bijvoorbeeld door middel van interviews, enquêtes en echte laboratoria, en als het gaat om filosofische vragen, werken ze veel met de wetenschappelijke literatuur om er nieuwe ideeën uit te halen .
Zo onderzocht de afdeling bij een reeds afgerond project wat de gevolgen waren als computercode in complexe simulaties niet meer volledig door individuele experts begrepen kon worden, en hoe er dan vertrouwen kon worden gewekt. In een ander project waarbij plastische chirurgie werd gesimuleerd bij baby’s met misvormde schedels, onderzocht de afdeling Wijsbegeerte van HLRS hoe ouders beslissingen nemen en hoe de simulatie hun beslissingen beïnvloedt. “In dit geval hebben we enquêtes gehouden en discussies waargenomen tussen getroffen ouders in de relevante fora”, zegt Furmanek.
bladzijde 1 | 2 | Lees op één pagina
“Analist. Schepper. Zombiefanaat. Fervente reisjunkie. Popcultuurexpert. Alcoholfan.”