Vraag een AI een verhaal te schrijven, en de kans is groot dat de hoofdpersoon 'Elara' of 'Elias' heet. Steeds weer. Onderzoekers hebben dit fenomeen nu gemeten en noemen het een duidelijk symptoom van 'AI slop': de voorspelbare, repetitieve output waar grote taalmodellen (LLM's) bekend om staan.
Volgens de publicatie op arxiv.org grijpen modellen bij het verzinnen van personagenamen disproportioneel vaak terug op een kleine groep populaire namen. Gelukkig is er nu een oplossing die geen dure hertraining vereist: 'speculative naming'.
🧠 Even simpel uitgelegd
Een AI kiest elk woord op basis van kansen: sommige woorden (en namen) zijn gewoon 'waarschijnlijker' dan andere. Daarom blijven modellen in dezelfde namen vallen. De nieuwe methode laat de AI eerst een lijstje kandidaat-namen maken, checkt dan met een soort teller welke namen er al te vaak zijn gebruikt, en wijst de te populaire af. Zo blijft de variatie groot — zonder dat je het hele model opnieuw hoeft te trainen.
Waarom oude oplossingen falen
Bestaande methoden hebben flinke nadelen. Sommige vereisen toegang tot de 'logits' van het model — de interne waarschijnlijkheidswaarden — of vragen een volledige hertraining. Andere werken alleen per los verzoek en kunnen de naamconcentratie niet beheersen over een hele verzameling teksten (een corpus).
Ook de meest voor de hand liggende oplossing bleek een valkuil: banlijsten, waarbij bepaalde namen simpelweg worden verboden. De concentratie verschuift dan alleen maar naar andere namen, die vervolgens net zo dominant worden. Erger nog: het aandeel werkelijk bestaande, authentieke namen nam met meer dan de helft af.
Hoe speculative naming werkt
De nieuwe techniek bouwt voort op 'speculative decoding', een principe uit het versnellen van AI-antwoorden — maar dan toegepast op namen in plaats van losse woorden. Het werkt via een 'draft-verify-reject'-systeem:
- Het model genereert eerst een set kandidaat-namen via verbalized sampling.
- Een 'SlopTracker' toetst deze namen. Die tracker combineert een fingerprint van het model met een teller die bijhoudt welke namen al gebruikt zijn.
- Op basis van een temperatuurgecontroleerde regel wordt de beste naam gekozen.
Indrukwekkende cijfers
Om de methode te testen, lieten de onderzoekers 20 verschillende taalmodellen in totaal 44.782 verhalen genereren in vier talen — goed voor 88.919 benoemde personages. De resultaten:
- Het sampling-raamwerk alleen verminderde de naamconcentratie (gemeten via de 'Slop Ratio') al met gemiddeld 89%.
- Met de dynamische tracker erbij steeg dat naar 95%.
- De kans op een naam-botsing daalde van 7,3% naar 0,4%.
- Binnen één verhaal daalde het aantal herhaalde namen van 4,3% naar 0,2%.
Belangrijk: de namen bleven natuurlijk. Tussen 42% en 69% van de gekozen namen kwam per taal overeen met bestaande, authentieke namen.
Wat betekent dit?
De studie toont aan dat naamconcentratie op corpusniveau beheersbaar is — zonder toegang tot de interne werking van het model en zonder kostbare hertraining. De resultaten bleken bovendien stabiel over verschillende modelfamilies en talen.
Maar er blijft werk aan de winkel.