Huidige systemen die bedoeld zijn om door kunstmatige intelligentie gemanipuleerde video's op te sporen, blijken in de praktijk grotendeels ineffectief. Een nieuw onderzoek toont aan dat compressie op sociale media en imperfecte hardware de sporen wissen die detectoren nodig hebben om vervalsingen te herkennen.
De strijd tussen AI-generatoren en de tools die deze content moeten detecteren, bevindt zich in een kritieke fase. Hoewel veel detectoren goed presteren in gecontroleerde laboratoriumomgevingen, vallen ze door de mand zodra ze worden geconfronteerd met video's uit de echte wereld. Dit fenomeen wordt in een recent wetenschappelijk rapport beschreven als de 'Reality Perception Gap'.
De kloof tussen theorie en praktijk
Volgens een onderzoek gepubliceerd op arxiv.org worden AI-detectoren doorgaans getest op zogenaamde 'schone' en zorgvuldig samengestelde datasets. In de realiteit ondergaan video's echter een transformatie voordat ze een gebruiker bereiken. Ze worden geüpload naar sociale mediaplatforms, waar ze ondergaan aan herhaalde compressie bij het doorsturen (repost compression). Daarnaast worden veel beelden vastgelegd met hardware die niet perfect is, wat zorgt voor optische artefacten aan de camerazijde.
Om deze kloof te meten, hebben onderzoekers onder leiding van Xiangrui Liu een nieuwe benchmark geïntroduceerd, genaamd de Reality Perception Gap (RPG). Deze benchmark bestaat uit 10.000 video's, afkomstig van geavanceerde generatoren en gedeeltelijk synthetische bewerkingen. Deze beelden zijn specifiek bewerkt met cross-platform compressie en gecombineerd met echte beelden die camera-artefacten bevatten.
Alarmerende resultaten
De resultaten van het onderzoek zijn ontnuchterend voor de sector van de digitale forensica. Uit de tests met 18 verschillende detectoren bleek dat geen enkele tool in staat was om meer dan 15% van de vervalsingen correct te identificeren bij een fout-positieve ratio van 1%. Dit betekent dat de overgrote meerderheid van de AI-gemanipuleerde video's onopgemerkt blijft wanneer ze worden verspreid via gangse digitale kanalen.
Het onderzoek op identificeert twee hoofdoorzaken voor dit falen:
1. Generator- en contentverschuiving: Detectoren presteren al minder goed voordat er compressie plaatsvindt, simpelweg omdat de generatoren van AI-video's evolueren.
2. Compressieverlies: De compressieprocessen van sociale media wissen de laag-niveau sporen (artefacten) die veel detectoren gebruiken om AI-content te herkennen.
Maatschappelijke risico's
De impact van deze technische tekortkomingen is niet louter academisch. De onderzoekers benadrukken dat de RPG-benchmark specifiek content bevat die maatschappelijk fragiel is, zoals beelden van oorlogsvoering en misdaad. In dergelijke contexten kunnen gefabriceerde video's ernstige sociale schade aanrichten als ze niet tijdig en accuraat als nep worden aangemerkt.
Volgens de auteurs van het rapport op suggereert dit dat passieve detectie mogelijk zijn limieten heeft bereikt. Om robuuste detectie mogelijk te maken, is het noodzakelijk dat systemen worden getraind onder omstandigheden die exact overeenkomen met de uiteindelijke implementatie.
Weg naar een oplossing
De conclusie van het onderzoek is dat een enkelvoudige methode van detectie niet langer volstaat. De onderzoekers pleiten voor een gecombineerde aanpak waarbij bewijslast op drie verschillende niveaus wordt geanalyseerd:
- Laag-niveau: De technische pixels en ruis.
- Temporeel: De consistentie van beweging over tijd.
- Semantisch: De logica en betekenis van de beelden.
Zolang detectoren uitsluitend vertrouwen op technische artefacten die door compressie verdwijnen, zullen ze onvoldoende bescherming bieden tegen de vloedgolf van AI-gegenereerde desinformatie. De volledige details van deze bevindingen zijn terug te vinden in de publicatie op de arXiv-repository.