Onderzoekers hebben een nieuw systeem ontwikkeld dat precies in kaart brengt welke delen van een bewerkte afbeelding door een mens en welke door kunstmatige intelligentie zijn vormgegeven. Hiermee wordt geprobeerd de tekortkomingen van huidige AI-labels aan te pakken, die volgens makers onvoldoende inzicht geven in hun eigen creatieve proces.
In de huidige praktijk worden afbeeldingen die met behulp van AI zijn gemaakt vaak voorzien van een algemeen label om het gebruik van deze technologie te melden. Volgens een recent onderzoek gepubliceerd op arxiv.org vinden creatievelingen deze labels echter ontoereikend. Een simpel label zegt namelijk niets over de specifieke bijdrage van de mens tijdens het bewerkingsproces, terwijl de geschiedenis van een bestand vaak wel gedetailleerde informatie bevat over verzoeken, suggesties en revisies.
Ruimtelijke herkomst en de 'Roop'-methode
Om dit probleem op te lossen, hebben Riya Sahni en collega-onderzoekers een ontwerp-instrument genaamd 'Roop' ontwikkeld. Dit systeem maakt gebruik van zogenaamde 'spatial provenance' (ruimtelijke herkomst). Hierbij worden specifieke regio's in een afbeelding direct gekoppeld aan de bewerkingsgeschiedenis. De interacties worden vervolgens gevisualiseerd in een heat map, waardoor duidelijk wordt waar welke aanpassing is gedaan en door wie.
Uit een test met twintig participanten bleek dat er een duidelijk onderscheid wordt gemaakt in hoe mensen hun eigen bijdrage versus die van de AI waarderen. De deelnemers schreven de regie over de wijzigingen toe aan zichzelf, terwijl ze de AI verantwoordelijk hielden voor het bepalen van de specifieke visuele details. De mate van bijdrage werd door de gebruikers mede bepaald door de vraag of de interacties met de AI daadwerkelijk hun oorspronkelijke intenties hadden gerealiseerd.
De bredere uitdaging van AI-provenance
De noodzaak voor dergelijke systemen komt voort uit een fundamenteel technisch probleem. Waar traditionele media fysieke bewijzen hebben — zoals pixels van een camerasensor of inkt op papier — ontbreekt dit bij AI-gegenereerde content. Volgens de afip.org ontstaat AI-content uit een wiskundig proces waarbij ruis wordt omgezet in pixels, zonder inherente sporen van creatie. Dit maakt het vaststellen van de herkomst een van de grootste technische en maatschappelijke uitdagingen van dit decennium.
Terwijl forensische experts bij AFIP zich richten op het dichten van deze 'provenance gap', experimenteren andere platforms met open standaarden voor openbaarmaking. Zo hanteert thelatentreview.com een systeem met zeven verschillende niveaus (tiers) om eerlijk aan te geven hoe mens en AI samen hebben gewerkt aan een werkstuk.
AI als hulpmiddel, niet als autonome maker
De discussie over auteurschap en creatieve arbeid wordt verder verdiept in een studie gepubliceerd door springer.com. In dit onderzoek naar generatieve AI in visuele en performatieve domeinen wordt gesteld dat AI-systemen fungeren als augmentatieve componenten in plaats van autonome creatieve agenten.
De analyse wijst uit dat hoewel AI-modellen een hoge stilistische coherentie bereiken, ze beperkt blijven door patronen in hun trainingsdata. De werkelijke creatieve waarde wordt volgens de studie gevormd door menselijke tussenkomst, zoals iteratieve prompting, selectie en contextuele inkadering. Dit bevestigt de bevindingen uit het Roop-onderzoek: de menselijke regie en het oordeel blijven essentieel voor het uiteindelijke resultaat.
De resultaten van het onderzoek naar ruimtelijke herkomst pleiten voor de ontwikkeling van systemen die niet alleen registreren wat er is gebeurd, maar ook voldoende context bewaren zodat makers kunnen uitleggen hoe de interacties hun werk hebben gevormd.