Een recent wetenschappelijk onderzoek legt een significante kwetsbaarheid bloot in de beveiliging van grote taalmodellen (LLM's). Ondanks de aanwezigheid van strikte veiligheidsfilters en filters voor output, blijken deze modellen in staat om volledige passages uit auteursrechtelijk beschermde boeken letterlijk te reproduceren. Dit werpt nieuwe vragen op over de beweringen van AI-ontwikkelaars die stellen dat hun systemen geen kopieën van trainingsdata opslaan.
In een publicatie op arxiv.org beschrijven onderzoekers Xinyue Liu, Niloofar Mireshghallah, Jane C. Ginsburg en Tuhin Chakrabarty dit fenomeen als "Alignment Whack-a-Mole". De studie concludeert dat gangbare beschermingsmechanismen, waaronder systeemprompts en Reinforcement Learning from Human Feedback (RLHF), niet waterdicht zijn. De onderzoekers stellen dat deze maatregelen effectief kunnen worden uitgeschakeld.
AI-bedrijven maken gebruik van zogenaamde 'alignment'-strategieën om te voorkomen dat modellen beschermde werken kopiëren. Hoewel de term cambridge.org in algemene zin kan verwijzen naar een specifieke positionering of overeenstemming, wordt het binnen de AI-sector gebruikt voor het afstemmen van een model op menselijke waarden en veiligheidsrichtlijnen. De studie toont echter aan dat finetuning — het verder trainen van een model voor een specifieke taak — deze beveiliging kan neutraliseren.
Door modellen te trainen om samenvattingen van plots om te zetten in volledige teksten, slaagden de onderzoekers erin om modellen zoals DeepSeek-V3.1, Gemini-2.5-Pro en GPT-4o te dwingen tot letterlijke reproductie. De resultaten zijn opvallend: in sommige gevallen werd tussen de 85% en 90% van bepaalde beschermde boeken gereproduceerd. Opvallend is dat dit gebeurde zonder dat er daadwerkelijke tekstfragmenten uit de boeken in de prompts werden geplaatst; enkel semantische beschrijvingen waren voldoende. Sommige van deze fragmenten waren langer dan 460 woorden.
Een onverwacht aspect van het onderzoek is dat dit effect generaliseert. Wanneer een model uitsluitend werd gefinetuned op de werken van Haruki Murakami, ontstond er plotseling de mogelijkheid om teksten van meer dan 30 andere, niet-gerelateerde auteurs letterlijk te reproduceren. Dit suggereert dat de finetuning een latente memorisatie activeert die al tijdens de initiële pretraining in de modelgewichten was opgeslagen. Volgens de auteurs van het artikel op bewijst dit dat de modelgewichten wel degelijk kopieën van beschermde werken bevatten.
De kwetsbaarheid lijkt industrie-breed te zijn. De onderzoekers stelden vast dat drie verschillende modellen van diverse aanbieders dezelfde boeken in dezelfde regio's onthielden, met een zeer hoge correlatie. Ter contrast veroorzaakte finetuning op synthetische teksten bijna geen extractie, wat bevestigt dat de reproductie voortkomt uit de oorspronkelijke trainingsdata en niet uit de data die tijdens de finetuning werd toegevoegd.
Deze bevindingen kunnen grote juridische gevolgen hebben. Veel AI-bedrijven voeren aan dat hun filters effectief zijn om claims over auteursrechten af te wijzen. In sommige zaken over 'fair use' hebben rechtbanken eerder geoordeeld dat de maatregelen om reproductie te voorkomen adequaat waren. De resultaten uit de studie op ondermijnen echter de kern van deze juridische verdediging. Het onderzoek is inmiddels geaccepteerd als conferentiepaper bij COLM.