Nieuw onderzoek wijst uit dat moderne kunstmatige intelligentie in staat is om zeer gevoelige persoonlijke informatie af te leiden uit ongestructureerde smartphonegegevens, zoals foto's en agenda's, waardoor traditionele toestemmingsmechanismen tekortschieten.
In een recent onderzoek naar de privacyrisico's van mobiele applicaties waarschuwen wetenschappers voor een nieuwe vorm van gegevenslekken. Waar de advertentie-industrie decennialang vertrouwde op gestructureerde data — zoals IP-adressen, GPS-coördinaten en aankoopgeschiedenissen — stelt de huidige generatie machine learning-modellen bedrijven in staat om ook ongestructureerde multimedia-bestanden te analyseren. Volgens een publicatie op arxiv.org kunnen foto's, video's, e-mails en agenda-items nu geautomatiseerd worden gebruikt om gedetailleerde gebruikersprofielen op te stellen.
De werking van Priva-See
Om deze risico's in kaart te brengen, hebben onderzoekers onder leiding van Sarah Radway een systeem ontwikkeld genaamd 'Priva-See'. Dit systeem is gebaseerd op Large Language Models (LLM) en is ontworpen om te simuleren hoe commerciële adtech-bedrijven machine learning zouden kunnen inzetten voor het bouwen van gebruikersprofielen.
Het kernprobleem dat de onderzoekers identificeren, is het gebrek aan inzicht bij de consument. Wanneer een gebruiker een app toestemming geeft om toegang te krijgen tot de fotogalerij, gaat men er vaak vanuit dat de app enkel de bestanden zelf kan inzien. Echter, zoals beschreven in het , krijgt de app via AI-analyse ook toegang tot 'inferenties': conclusies over de identiteit, demografie en interesses van de gebruiker die uit die beelden kunnen worden afgeleid.
Resultaten van de gebruikersstudie
Voor de validatie van hun systeem voerden de onderzoekers een door een IRB goedgekeurde studie uit met 465 deelnemers. Deze personen installeerden Priva-See op hun smartphones. De resultaten waren volgens de auteurs zorgwekkend: het systeem slaagde erin om privacy-invasieve conclusies te trekken over de gebruikers, zelfs terwijl het slechts toegang had tot een beperkt deel van de beschikbare data.
De impact op de deelnemers was aanzienlijk. Na de ervaring met Priva-See gaven veel participanten aan minder bereid te zijn om in de toekomst toestemming te geven voor datatoegang. De onderzoekers pleiten daarom voor fundamentele wijzigingen in de manier waarop smartphone-besturingssystemen om toestemming vragen. De huidige methoden informeren de gebruiker namelijk onvoldoende over wat er downstream met de data kan gebeuren door middel van AI-analyse.
Juridische en maatschappelijke context
De bevindingen van het onderzoek raken aan bredere definities van privacy. In de juridische literatuur, zoals uiteengezet op justitia.nl, wordt vaak een onderscheid gemaakt tussen relationele privacy — het recht om ongestoord te leven — en informationele privacy. Deze laatste vorm betreft specifiek het verzamelen en gebruiken van gegevens over personen.
De analyse van smartphonegegevens door AI valt direct onder het domein van de informationele privacy. De verschuiving van het simpelweg opslaan van data naar het afleiden van nieuwe, gevoelige kenmerken via machine learning, compliceert de handhaving van privacyrechten. De huidige systemen voor toestemming zijn namelijk gebaseerd op de toegang tot de data zelf, en niet op de analytische capaciteiten die op die data worden losgelaten.
Het onderzoek, dat op 22 september 2026 werd ingediend bij , benadrukt dat de smartphone fungeert als een centraal verzamelpunt voor gevoelige informatie, wat het een uiterst kwetsbaar punt maakt in het huidige digitale ecosysteem. De auteurs concluderen dat er een dringende noodzaak is voor transparanter consent-management om gebruikers beter te beschermen tegen onzichtbare data-analyse.