De scheidslijn tussen software en sociale partner vervaagt naarmate kunstmatige intelligentie steeds menselijker kenmerken vertoont. In een recente wetenschappelijke publicatie wordt beschreven hoe AI-agenten de transitie maken van een louter instrument naar een sociale entiteit. Deze verschuiving is vooral zichtbaar wanneer AI-systemen worden geïntegreerd in gedeelde digitale omgevingen, zoals groepsgesprekken op Signal of WhatsApp.
Volgens een studie van Leonardo Borges en Asif Q. Gill op arxiv.org wordt de psychologische status van een AI-agent niet bepaald door de technische kracht van het model, maar door specifieke ontwerpkeuzes. De onderzoekers introduceren hiervoor een raamwerk met zes 'identity markers'. Deze markers omvatten onder meer het toekennen van een persoonlijke naam, het gebruik van avatars en het bezitten van een eigen contactprofiel of telefoonnummer. Daarnaast spelen een consistente persoonlijkheid, de gelijktijdige aanwezigheid in een digitale ruimte en de persistentie over een langere periode een cruciale rol in hoe gebruikers de AI waarnemen.
Deze ontwikkeling sluit aan bij het concept van parasociale interacties. Dit zijn eenzijdige emotionele banden waarbij een individu een sterke connectie voelt met een kunstmatig personage of een publiek figuur. Over de vraag of dergelijke parasociale relaties een gat in de eenzaamheid kunnen opvullen, biedt harvard.edu verdere context over de psychologische dynamiek van deze verbindingen.
Om de impact van deze agenten te onderzoeken, hanteerden de auteurs van het rapport op een auto-etnografische methode. Gedurende twee maanden werd een gepersonaliseerde agent in diverse groepschats geplaatst, wat werd aangevuld met twaalf gestructureerde interviews. Uit dit proces kwamen vier specifieke sociale dynamieken naar voren. Ten eerste is er sprake van een bidirectionele informatie-asymmetrie, waarbij de kennisverdeling tussen mens en machine ongelijk is. Ten tweede is er de 'legibiliteit van delegatie', oftewel de duidelijkheid over wie de AI aanstuurt. Daarnaast moet de groep sociale normen onderhandelen over wat acceptabel gedrag is voor de AI. Tot slot werd 'parasociale besmetting' waargenomen, waarbij de emotionele band die één persoon met de AI heeft, overslaat op andere groepsleden.
Naast de sociale impact wijst het onderzoek op een kritiek probleem rondom toestemming en privacy. De auteurs van de publicatie op stellen dat er een essentieel onderscheid moet worden gemaakt tussen toestemming voor de aanwezigheid van een AI-agent in een groep en toestemming voor de feitelijke verwerking van de uitgewisselde berichten. Huidige juridische en ethische kaders voegen deze twee zaken vaak onterecht samen.
Wanneer een AI-agent niet langer als tool maar als sociaal wezen wordt gezien, verandert de perceptie van dataverwerking. Dit kan leiden tot onvoorziene gevolgen voor de privacy van individuen binnen een groep. De onderzoekers concluderen dat deze kwalitatieve analyse een startpunt vormt voor verder onderzoek, waarbij experimentele validatie nodig is om de exacte invloed van de sociale markers te bevestigen. Voor meer informatie over de psychologische aspecten van digitale relaties kan men terecht bij de analyses van .