Een groep wetenschappers slaat alarm over een significante tekortkoming in de huidige benadering van kunstmatige intelligentie en machine learning. In een recent position paper betogen zij dat de academische wereld onvoldoende aandacht besteedt aan de creatie van niet-consensuele intieme beelden, terwijl de focus hoofdzakelijk ligt op het bestrijden van desinformatie en fraude.
Volgens de auteurs is er sprake van een fundamentele misalignering binnen de AI-gemeenschap. De huidige technische oplossingen richten zich primair op wat zij omschrijven als 'epistemische schade'. Dit betreft de schade die ontstaat wanneer de grens tussen waarheid en fictie vervaagt, zoals bij politieke manipulatie of nepnieuws. In een arxiv.org wordt echter gesteld dat deze benadering de werkelijke impact van generatieve AI op individuen negeert.
Authenticiteit versus menselijke waardigheid
De kern van de kritiek is dat technische interventies momenteel vooral gericht zijn op de toeschouwer. Er wordt veel geïnvesteerd in tools die kunnen vaststellen of een video of afbeelding synthetisch is. De onderzoekers stellen echter dat deze focus op authenticiteit voorbijgaat aan de 'subject-centrische schade'.
Bij AI-gegenereerde niet-consensuele intieme beelden (AIG-NCII) is de technische vaststelling dat een beeld 'nep' is vaak niet voldoende om de geleden schade te herstellen. De schending van de persoonlijke waardigheid en de psychologische impact op het slachtoffer blijven immers bestaan, ongeacht de technische oorsprong van het beeld. In sommige gevallen kan de wetenschap dat een beeld synthetisch is de situatie zelfs verder compliceren, zoals uiteengezet in de .
Gebrekkige academische focus
Om hun stelling te onderbouwen, hebben Li Qiwei, Wells Lucas Santo, Sarita Schoenebeck en Eric Gilbert een landschapsanalyse uitgevoerd van veelgeciteerde werken in hun vakgebied. De resultaten tonen aan dat technische oplossingen voor deepfakes vrijwel volledig de problematiek van AIG-NCII negeren. Terwijl de meest voorkomende vorm van misbruik van generatieve AI juist de creatie van geseksualiseerde beelden zonder toestemming is, blijft het onderzoeksecosysteem beperkt tot detectietools voor authenticiteit.
Dit werk is geselecteerd als 'Spotlight'-presentatie voor de ICML 2026 conferentie, wat onderstreept dat de noodzaak voor een verschuiving in het onderzoek erkend wordt. De volledige details van deze analyse zijn beschikbaar via .
Pleidooi voor nieuwe veiligheidsmodellen
De wetenschappers roepen op tot een grondige herziening van de zogenaamde 'threat models' binnen AI-veiligheidsonderzoek. Zij adviseren onderzoekers om expliciet rekening te houden met de schade aan het subject in plaats van enkel de schade aan de informatievoorziening.
Daarnaast waarschuwen de auteurs voor de ethische risico's bij het onderzoeken van dit specifieke domein. Vanwege de gevoeligheid van de materie is het essentieel dat er strikte veiligheidswaarborgen zijn voor zowel de proefpersonen als de onderzoekers zelf. Een cruciale voorwaarde hierbij is het aangaan van partnerschappen met experts die gespecialiseerd zijn in de preventie van seksueel geweld.
Door de focus te verleggen van de vraag 'is dit beeld echt?' naar 'welke schade berokkent dit beeld aan de persoon?', hopen de auteurs dat de AI-gemeenschap effectievere waarborgen kan implementeren tegen digitale intimidatie. Meer informatie over deze visie is te vinden in de .