Een grootschalig onderzoek naar de privacy van AI-chatbotplatforms heeft aangetoond dat gevoelige informatie van gebruikers, waaronder volledige interacties en e-mailadressen, regelmatig onbedoeld wordt doorgegeven aan externe partijen. Deze datastromen vinden plaats via geïntegreerde analyse- en advertentiescripts in de webinterfaces van de chatbots.
In de studie met de titel "Penny for Your Prompts: A Measurement Study of Contextual Leakage in AI Chat Platforms" leggen onderzoekers bloot hoe webinterfaces van AI-diensten fungeren als onopgemerkte kanalen voor datalekken. Terwijl gebruikers vaak vertrouwelijke of persoonlijke informatie invoeren in de veronderstelling dat de interactie privé is, blijkt dat diverse platforms scripts van derden gebruiken die deze gegevens onderscheppen. Volgens de publicatie op arxiv.org konden de onderzoekers via instrumentatie op het niveau van de JavaScript-engine precies vaststellen welke acties van de gebruiker datastromen triggerden en hoe de inhoud van de pagina werd vastgelegd.
Analyse van 42 platforms
Het onderzoeksteam, bestaande uit Paschalis Bekos, Billy Tsouvalas, Nick Nikiforakis en Michalis Polychronakis, analyseerde in totaal 42 verschillende platforms. Hierbij werd niet alleen gekeken naar algemene AI-chatbots, maar ook naar gespecialiseerde diensten binnen de sectoren onderwijs, recht en gezondheidszorg. De resultaten wijzen op aanzienlijke privacyrisico's: bij 21 van de onderzochte platforms lekten de titels van gesprekken naar externe trackers. Bij negen platforms bleek zelfs dat de volledige, letterlijke prompts van gebruikers werden doorgestuurd naar derde partijen.
Een kritiek punt in het onderzoek is de koppeling van identiteit aan context. De onderzoekers observeerden dat een aanzienlijk aantal platforms e-mailadressen van gebruikers verzendt naar externe trackers. Dit stelt externe partijen in staat om de specifieke inhoud van een gesprek direct te koppelen aan de identiteit van een individu. De studie benadrukt dat de impact van deze "contextuele lekkage" groter is dan bij traditionele webformulieren, omdat de aard van de communicatie met AI-chatbots vaak veel intiemer en vertrouwelijker is.
Academische context en bredere risico's
De bevindingen van dit onderzoek zijn geselecteerd voor presentatie tijdens de 48ste editie van het IEEE Symposium on Security & Privacy (S&P), dat in mei 2027 in Montreal, Canada zal plaatsvinden. Een van de auteurs, Michalis Polychronakis, is professor aan de stonybrook.edu en richt zich in zijn werk specifiek op het versterken van de privacy bij online interacties en het verbeteren van de beveiliging van computernetwerken.
De problematiek rondom privacy in AI-omgevingen is een breder thema binnen de computerwetenschappen. Naast de webinterfaces is er ook aandacht voor de privacy van AI-agents die taken uitvoeren in digitale werkruimtes. Zo onderzoekt het project arxiv.org hoe AI-agents omgaan met privacybeperkingen wanneer zij gegevens, zoals documenten en e-mails, tussen verschillende applicaties verplaatsen.
Hoewel organisaties zoals de cloudsecurityalliance.org kaders ontwikkelen voor data-beveiliging binnen AI-omgevingen, tonen de resultaten van de "Penny for Your Prompts"-studie aan dat de technische implementatie op het niveau van de webapplicatie nog steeds grote kwetsbaarheden vertoont. De combinatie van analytische tools, advertentienetwerken en session-replay scripts zorgt ervoor dat de privacyverwachtingen van de gebruiker vaak niet overeenkomen met de technische realiteit.