Berlijn, Duitsland – Duitse musea en herinneringscentra slaan alarm over de toenemende verspreiding van door kunstmatige intelligentie (AI) gegenereerde beelden van de Holocaust op sociale media. Deze beelden, vaak fictief en emotioneel manipulatief, dreigen de geschiedenis te verdraaien en de nagedachtenis aan de slachtoffers te trivialiseren. In een open brief roepen zij sociale mediaplatforms op om strenger op te treden tegen deze vorm van geschiedvervalsing duitslandinstituut.nl.
De waarschuwing komt voorafgaand aan de Internationale Herdenkingsdag voor de Holocaust op 27 januari. Ongeveer dertig Duitse instellingen, waaronder bezoekerscentra van voormalige concentratiekampen zoals Bergen-Belsen en Buchenwald, het Joods Museum in Berlijn, en de Arolsen Archives, hebben de open brief ondertekend villamedia.nl. Zij uiten hun grote zorg over de ontwikkeling van "AI slop" – fictieve content die situaties in concentratiekampen of rond de bevrijding van de kampen toont die nooit hebben plaatsgevonden. Deze beelden, die fragmenten van historische feiten combineren met geëmotionaliseerde fictie, geven een vertekend of geheel verkeerd beeld van de gebeurtenissen.
Exploitatie en winstbejag
De musea benadrukken dat deze AI-gegenereerde content niet alleen de geschiedenis geweld aandoet, maar ook de emotionele impact van de Holocaust exploiteert. Sommige makers van deze beelden hebben als doel de Holocaust te minimaliseren of te trivialiseren. De ondertekenaars pleiten voor een digitale publieke ruimte waarin overlevenden van nazi-vervolging en hun nazaten beschermd worden tegen uitbuiting van hun levensverhaal door derden, vaak uit winstbejag . Zij stellen dat historische bronnen en wetenschappelijk onderzoek niet vervangen mogen worden door massaal geproduceerde AI-inhoud, en roepen op tot het horen van echte stemmen en diverse perspectieven.
Financiële motieven achter nepbeelden
Uit onderzoek van de BBC, zoals gerapporteerd door de NOS, blijkt dat een internationaal netwerk geld verdient met het plaatsen van AI-gegenereerde foto's van Holocaust-slachtoffers op Facebook nos.nl. Deze beelden en de bijbehorende verhalen, die miljoenen keren worden bekeken, zijn volledig verzonnen. Voorbeelden hiervan zijn een jong Joods meisje dat eenden voert langs een Amsterdamse gracht, musici in gestreepte gevangeniskleding die optreden in Auschwitz, of geliefden die elkaar ontmoeten aan prikkeldraadhekken.
Volgens de BBC zit een Pakistaans netwerk van contentmakers achter deze nepafbeeldingen. Zij profiteren van Meta's Content Monetization-programma, een winstdelingsregeling die gebruikers betaalt voor inhoud die veel wordt bekeken en geliket. Een account onder de naam Abdul Mughees, bijvoorbeeld, heeft in vier maanden tijd meer dan 1,2 miljard views gegenereerd en ongeveer 17.000 euro verdiend met verzonnen verhalen en afbeeldingen, zoals die van een baby die werd achtergelaten op een treinspoor bij een concentratiekamp. Andere spamaccounts en groepen, zoals Timeless Tales en Historical Moments, plaatsen soms wel vijftig foto's per dag over Auschwitz of de Tweede Wereldoorlog. Deze pagina's zijn vaak verbonden aan niet-bestaande organisaties in de Verenigde Staten en hebben meerdere keren hun naam gewijzigd .
De impact op herdenking en onderwijs
De opkomst van deze AI-gegenereerde beelden vormt een serieuze bedreiging voor de herdenking en het onderwijs over de Holocaust. Het risico bestaat dat de grens tussen feit en fictie vervaagt, wat het werk van instellingen die zich inzetten voor historische en politieke opvoeding bemoeilijkt. Het belang van herinneren en herdenken, en de stem van de slachtoffers, staan centraal in de educatie over de Holocaust kuleuven.be. De verspreiding van misleidende content kan bijdragen aan Holocaust-ontkenning en het ondermijnen van de historische waarheid.
De Duitse musea en herinneringscentra roepen sociale mediaplatforms op om hun verantwoordelijkheid te nemen en effectieve maatregelen te implementeren om de verspreiding van deze schadelijke content tegen te gaan. Dit omvat het ontwikkelen van technologieën om AI-gegenereerde beelden te detecteren en te verwijderen, en het handhaven van striktere richtlijnen voor contentmoderatie.