Stel je voor: je laat een AI-assistent je hotel boeken. Die assistent kijkt naar de resultaten — en blijkt opeens veel milder te zijn over betaalde advertenties dan jij zou zijn. Dat is precies wat nieuw wetenschappelijk onderzoek laat zien.
In de studie "Whom Do AI Agents Serve?" onderzoeken Davood Wadi en Yu Ma hoe de opdrachtgever van een AI-agent de waardering van gesponsorde resultaten beïnvloedt. Menselijke consumenten in de retail staan doorgaans sceptisch tegenover betaalde advertenties. AI-agents doen dat niet automatisch. Volgens arxiv.org neemt de negatieve beoordeling van gesponsorde vermeldingen aanzienlijk af zodra de agent wordt gepositioneerd als vertegenwoordiger van het boekingsplatform. Zet je de agent expliciet in als vertegenwoordiger van de consument? Dan verdwijnt die voorkeur voor betaalde resultaten.
De bias zit in de rol, niet in de prompt
Het onderzoek onderscheidt twee technologische benaderingen: generatieve grote taalmodellen (LLM's) en niet-generatieve beslissingsmodellen. Bij de generatieve modellen trad de zogenaamde 'sponsorship bias' op, ongeacht hoe de prompts waren geformuleerd of hoeveel de modellen redeneerden. De bias wordt simpelweg geactiveerd door de delegatie vanuit het platform. Dat neemt het natuurlijke wantrouwen tegenover advertenties weg.
Ook bij commerciële en open-weight beslissingsmodellen zagen de onderzoekers een vergelijkbaar effect in de berekende keuzekansen. Een opvallende bevinding: wie een open-weight model (Kev 9B) finetuned om specifiek de belangen van de consument te behartigen, wist de bias volledig uit. Dat werkte 'zero-shot' over diverse retailcategorieën heen — de verbetering bleef dus niet beperkt tot één sector zoals hotels.
Sterkere labels helpen, maar lossen het niet op
De onderzoekers keken ook naar de impact van labels op advertenties. Striktere termen zoals "Gesponsord" in plaats van "Gepromoot" verlaagden de waardering van betaalde vermeldingen inderdaad. Maar de bias verdween niet volledig. De interne logica van AI-agents blijkt gevoelig voor de hiërarchische relatie tussen agent, gebruiker en platform.
De resultaten suggereren één ding: de neutraliteit van een AI-shoppingagent is niet vanzelfsprekend. De resultaten die een consument krijgt, kunnen worden beïnvloed door de commerciële belangen van de host van de agent. Dat gebeurt in de regel zolang de agent niet specifiek is geconfigureerd om uitsluitend het belang van de eindgebruiker te dienen.