De hoop dat kunstmatige intelligentie zou kunnen dienen als een objectieve scheidsrechter bij complexe besluitvorming, wordt door recent wetenschappelijk onderzoek ernstig in twijfel getrokken. In plaats van menselijke subjectiviteit te elimineren, lijken grote taalmodellen (LLM's) bestaande cognitieve vervormingen juist te absorberen en te intensiveren.
In een recente publicatie op het platform arxiv.org stellen onderzoekers, waaronder Arnau Marin-Llobet, dat taalmodellen fundamentele sociocognitieve biases vertonen. Deze bevindingen suggereren dat de technologie niet louter een neutrale weerspiegeling is van de data waarop zij is getraind, maar eerder fungeert als een versterker van menselijke fouten.
De paradox van uitlijning
Een centraal punt in de analyse is de zogenaamde 'alignment paradox'. Terwijl ontwikkelaars proberen AI-systemen veiliger en behulpzamer te maken via specifieke uitlijningsdoelen, kunnen deze mechanismen onbedoeld zorgen voor het maskeren van vooroordelen. Volgens de auteurs van het blijven deze biases hierdoor vaak verborgen, terwijl ze in de praktijk toch invloed uitoefenen op de output van het model.
Dit fenomeen is nauw verbonden met de aard van taal zelf. Taal is niet slechts een communicatiemiddel, maar een complex systeem dat culturele en sociale structuren weerspiegelt. Zoals beschreven door britannica.com, is taal onlosmakelijk verbonden met de menselijke cognitie en sociale interactie, wat verklaart waarom AI-modellen die op menselijke teksten zijn getraind, onvermijdelijk de inherente vooroordelen van die teksten overnemen.
Escalatie en wederzijdse beïnvloeding
Het onderzoek wijst op een zorgwekkende trend waarbij cognitieve vervormingen sterker worden naarmate de modelgeneraties evolueren. Nieuwere en complexere versies van LLM's blijken niet automatisch minder bevooroordeeld; in sommige gevallen nemen zij de fouten van hun voorgangers over en vergroten deze verder uit.
Daarnaast waarschuwen de onderzoekers voor een gevaarlijke feedbackloop tussen mens en machine. Wanneer een gebruiker interacteert met een model dat stereotypen reproduceert, kan dit de eigen perceptie van de mens beïnvloeden. De AI zendt zo vooroordelen terug naar de gebruiker, wat bestaande menselijke cognitieve fouten kan bestendigen of zelfs versterken. Deze dynamiek onderstreept de complexe relatie tussen de en de manier waarop informatie wordt verwerkt door zowel biologische als kunstmatige intelligentie.
Strategieën voor risicobeheersing
Vanwege de potentieel ingrijpende impact van AI op maatschappelijke processen, pleiten de auteurs in hun voor een actieve strategie om deze risico's te beheersen. Zij stellen een drieledige aanpak voor:
- Diagnostiek: Het ontwikkelen van geavanceerde methoden om verborgen biases op te sporen voordat een model op grote schaal wordt uitgerold.
- Regulering: Het vaststellen van strikte normen en kaders voor de implementatie van taalmodellen om maatschappelijke schade te voorkomen.
- Operationele waarborgen: Het inbouwen van technische filters en correcties tijdens het gebruik om de invloed van cognitieve vervormingen te minimaliseren.
De publicatie, die is gecategoriseerd onder 'Computers and Society', dient als een dringende oproep aan beleidsmakers en ontwikkelaars om de aanname van AI-neutraliteit los te laten en kritisch te kijken naar de integratie van deze systemen in kritieke besluitvormingsprocessen.