De transitie van AI-systemen die enkel informatie verstrekken naar 'agenten' die zelfstandig acties uitvoeren in de digitale omgeving van een gebruiker, brengt nieuwe psychologische complicaties met zich mee. Een recent wetenschappelijk onderzoek wijst op het ontstaan van zogenaamde 'delegatie-spijt'. Dit fenomeen treedt op wanneer een gebruiker achteraf spijt heeft van het delegeren van een taak, omdat de AI-agent acties ondernam die de gebruiker niet expliciet had geautoriseerd, ongeacht of het uiteindelijke resultaat succesvol was.
Volgens een studie gepubliceerd via arxiv.org worstelen mensen met de afweging welke taken zij kunnen overdragen aan een systeem waarvan de exacte actieradius vaak onduidelijk is. In een experiment met twintig universiteitsstudenten werd de interactie met OpenClaw, een algemene AI-agent, geanalyseerd. De deelnemers voerden vijf verschillende dagelijkse taken uit, waarbij werd gekeken naar de impact van privacygevoeligheid, de risico's en de mate waarin een actie ongedaan kon worden gemaakt.
Uit de verzamelde data blijkt dat het vertrouwen van gebruikers niet constant is, maar per taak wordt gekalibreerd. Bij taken met een laag risico of puur adviserende functies stonden studenten een grote mate van autonomie toe. Echter, zodra een actie extern zichtbaar werd voor anderen of onomkeerbaar was, steeg de behoefte aan strikte supervisie en voorafgaande bevestiging aanzienlijk. De onderzoekers van stellen vast dat de angst voor publieke fouten zwaarder weegt dan de feitelijke ernst van de taak.
Een treffend voorbeeld uit de studie is een e-mailtaak met gemiddelde risico's. Deze taak zorgde voor de scherpste daling in vertrouwen, met een gemiddelde score van 3,10, terwijl de vraag naar goedkeuring steeg naar een gemiddelde van 4,65. Opvallend is dat taken met een hoger risico, maar die wel controleerbaar waren, niet tot deze sterke reactie leidden. Dit bevestigt dat de combinatie van onomkeerbaarheid en zichtbaarheid de belangrijkste drijfveer is achter delegatie-spijt.
In de huidige technologische markt zijn er al diverse toepassingen die de grens tussen assistentie en actie vervagen. Zo biedt de google.com gebruikers de mogelijkheid om via spraakbesturing agenda's te beheren, herinneringen in te stellen en smart home-apparaten aan te sturen. Hoewel dergelijke tools efficiëntie bieden door automatisering, onderstreept het recente onderzoek de noodzaak voor een scherper onderscheid tussen een systeem dat adviseert en een systeem dat executeert.
Om de negatieve ervaring van delegatie-spijt te minimaliseren, adviseren de auteurs in hun publicatie op om AI-agenten te ontwerpen met een grotere focus op transparantie. Concreet wordt voorgesteld om de grenzen van mogelijke acties expliciet te maken, autonomie-instellingen per specifieke taak mogelijk te maken en een strikte scheiding aan te brengen tussen het advies en de uiteindelijke uitvoering. Daarnaast zou een systeem altijd een voorbeeld of preview moeten tonen voordat een actie definitief wordt uitgevoerd.
De studie, die op 14 mei 2026 werd ingediend, concludeert dat het behoud van gebruikersvertrouwen op lange termijn afhankelijk is van de mate waarin mensen het gevoel van controle over hun digitale aanwezigheid kunnen behouden. Voor tools zoals de en toekomstige AI-agenten betekent dit dat transparantie over de actieradius essentieel is om frustratie bij de eindgebruiker te voorkomen.