Diverse ontwikkelaars van kunstmatige intelligentie zijn gestart met het integreren van digitale watermerken in hun gegenereerde content. Deze maatregel is bedoeld om de transparantie te vergroten en de verspreiding van onjuiste informatie te beperken, hoewel specialisten waarschuwen dat dit proces bij tekstuele output bijzonder complex is.
De noodzaak voor meer openheid over de oorsprong van AI-content is toegenomen door nieuwe regelgeving vanuit de Europese Unie. De AI Act is op 2 augustus in werking getreden, waarbij een van de centrale eisen is dat tekst, beelden en video's die door AI-modellen zijn geproduceerd, voorzien moeten worden van watermerken. Volgens een analyse van newscientist.com is het hoofddoel van deze regelgeving het bestrijden van desinformatie en het voorkomen van academische fraude, zoals het gebruik van chatbots voor schoolwerk.
Tijdlijn en naleving van de EU-wetgeving
De uitrol van deze watermerken gebeurt in verschillende fasen. Hoewel de wetgeving reeds van kracht is, is er voor modellen die al operationeel waren een overgangsperiode overeengekomen. De uiterste deadline voor alle modellen om watermarking-functionaliteiten te implementeren is vastgesteld op 2 december van dit jaar.
Prominente spelers in de sector hebben hun strategieën al gedeeld. OpenAI, de maker van ChatGPT, past watermerken momenteel reeds toe op audiobestanden en afbeeldingen, maar heeft aangegeven dat de integratie voor tekst in de toekomst zal plaatsvinden. Ook Anthropic, het bedrijf achter de chatbot Claude, heeft laten weten dat toekomstige versies van hun modellen tekstuele watermerken zullen bevatten, zoals beschreven door .
De technische hindernissen bij tekst
Ondanks de wettelijke verplichtingen heerst er binnen de expertengemeenschap aanzienlijke scepsis over de haalbaarheid van deze techniek voor tekst. James Padolsey van het AI-veiligheidsbedrijf NOPE stelt dat watermerken in video's en afbeeldingen betrouwbaarder zijn omdat deze bestaan uit complexe, meerlaagse data. Tekst heeft daarentegen een veel eenvoudigere structuur, wat het lastig maakt om een onzichtbaar maar detecteerbaar kenmerk in te voegen. Zoals uitlegt, is tekst simpelweg minder geschikt voor dit type markering dan visuele media.
Een van de onderzochte methoden is het toepassen van een wiskundig detecteerbaar patroon in de woordkeuze. Large Language Models (LLM's) genereren zinnen door statistisch te bepalen welk woord waarschijnlijk volgt op het vorige. Door deze selectie subtiel te manipuleren — bijvoorbeeld door afwisselend het meest waarschijnlijke woord en het tweede meest waarschijnlijke woord te kiezen — kan een patroon worden ingebed zonder de betekenis van de tekst te wijzigen.
Beperkingen en de strijd tegen manipulatie
De EU AI Act vereist het aanbrengen van watermerken om de oorsprong van AI-content inzichtelijk te maken.
Hierdoor blijft de effectiviteit van watermarking als instrument tegen misinformatie een punt van discussie, zoals verder uiteengezet in de berichtgeving van .