De inzet van kunstmatige intelligentie als vervanging voor menselijke participanten in sociale simulaties staat ter discussie na nieuwe wetenschappelijke inzichten. Een onderzoek naar de manier waarop grote taalmodellen (LLM's) reageren op overtuigende argumenten toont aan dat er een aanzienlijke kloof bestaat tussen de cognitieve processen van mensen en de verwerking door AI.
In een publicatie van 30 augustus 2026, getiteld arxiv.org, analyseerden onderzoekers Lin Chen, Yitong Chen en Yong Li of AI op dezelfde wijze van standpunt verandert als mensen wanneer zij worden geconfronteerd met overredende teksten. De resultaten wijzen uit dat de overeenstemming tussen beide groepen zeer beperkt is.
Zwakke correlatie in meningaanpassing
Voor het onderzoek werd gebruikgemaakt van een verzameling online discussies waarin gebruikers expliciet hadden aangegeven of een specifiek antwoord hun mening had beïnvloed. Toen LLM's in vergelijkbare scenario's werden geplaatst, bleek de correlatie tussen de menselijke reacties en die van de modellen zwak. De statistische waarde, gemeten via de Cohen's kappa, lag tussen de 0,079 en 0,178, wat volgens de duidt op een geringe overeenstemming.
Divergentie in overtuigingsfactoren
De analyse laat zien dat mensen en AI verschillende prioriteiten stellen bij het beoordelen van de overtuigingskracht van een tekst. Hoewel de sterkste signalen voor beide groepen herkenbaar zijn, ontstaan er grote verschillen bij subtielere kenmerken. Mensen blijken sterker te reageren op assertieve taal en de introductie van nieuwe, voorheen onbekende informatie.
AI-modellen vertonen daarentegen een voorkeur voor andere aspecten. Zij hechten meer waarde aan de oppervlakkige opmaak van een tekst en de mate waarin de inhoud aansluit bij het onderwerp (topicale gelijkenis). Daarnaast blijkt uit de dat LLM's minder gevoelig zijn voor emotionele argumenten, terwijl zij signalen van geloofwaardigheid juist zwaarder wegen dan mensen doen. Opvallend is dat het specifieke onderwerp van het debat geen invloed heeft op deze verschillen.
De rol van perspectief en techniek
Het onderzoek bracht ook uit dat de manier waarop een AI wordt aangesproken invloed heeft op de resultaten. Wanneer modellen een rol in de eerste persoon aannamen, reageerden zij anders dan wanneer zij als observator in de derde persoon fungeerden. In die laatste rol vertoonden alle geteste modellen een grotere weerstand tegen overtuiging, al varieerde dit effect per gebruikte strategie.
Deze verschillen zijn geworteld in de architectuur van de systemen. Volgens ibcom zijn grote taalmodellen een vorm van generatieve AI die transformer-modellen en aandachtmechanismen gebruiken om taal te verwerken. Hoewel deze techniek zeer geavanceerd is in het genereren van tekst, blijkt de simulatie van menselijke psychologische processen, zoals het aanpassen van een overtuiging, nog onvoldoende.
Conclusie voor sociale simulaties
De onderzoekers concluderen dat het risicovol is om LLM's te gebruiken als getrouwe proxies voor menselijk gedrag. Omdat de structurele verwerking van overredende discourse fundamenteel verschilt, kunnen AI-modellen op dit moment geen betrouwbare spiegel vormen voor de menselijke psyche bij het bijwerken van overtuigingen.