Vraag een AI-beeldgenerator tien keer om hetzelfde, en je krijgt vaak tien bijna identieke resultaten. Een nieuw onderzoek presenteert daar een oplossing voor: TokenRepel, een techniek die de visuele variatie flink vergroot — zonder dat het model opnieuw getraind hoeft te worden en zonder in te leveren op beeldkwaliteit.
Het team bestaat uit zes onderzoekers. Hun methode grijpt aan tijdens de inferentie-fase: het moment waarop het model daadwerkelijk beelden genereert.
Hoe het werkt
Het kernprobleem: veel tekst-naar-beeldmodellen geven bij herhaaldelijk dezelfde prompt sterk op elkaar lijkende resultaten. TokenRepel doorbreekt dat door gebruik te maken van de geometrie van verborgen representaties in vooraf getrainde modellen.
Volgens de publicatie op arxiv.org introduceert de methode een 'token repulsion'-mechanisme. Dit vergroot de hoek tussen feature-tokens van verschillende beelden in een batch. Technisch gebeurt dat via een negatieve Riemannian gradiëntstap op een von Mises-Fisher mengverdeling van tokens op een eenheidshypersfeer. In de praktijk betekent het: de AI wordt gestuurd om per afbeelding visueel andere keuzes te maken, terwijl de prompt gewoon wordt gerespecteerd.
Kwaliteit blijft overeind
Meer diversiteit forceren heeft een risico: het model kan buiten de 'veilige' zones treden die het tijdens training heeft geleerd, met kwaliteitsverlies als gevolg. Daarom ontwikkelden de auteurs een 'token density preservation'-mechanisme.
Zoals beschreven in de publicatie, projecteert dit mechanisme de veranderingen door de afstoting op een halfruimte die is afgestemd op de score-richting van het model. De updates blijven zo binnen gebieden met hoge dichtheid. Het mechanisme is bovendien uitgebreid naar de output van elke tussenliggende laag, wat fijnmazige, iteratieve sturing mogelijk maakt.
Getest en bekrachtigd
De onderzoekers testten TokenRepel op drie verschillende typen vooraf getrainde tekst-naar-beeldmodellen. De resultaten: aanzienlijk meer visuele diversiteit bij identieke prompts, terwijl de getrouwheid (fidelity) van de beelden gelijk blijft.
Ook de wetenschappelijke community heeft het werk opgemerkt: het onderzoek is te vinden op overzichtssites als arxivsignals.io. Het onderzoek is bovendien geaccepteerd voor de prestigieuze conferentie neurips.cc.
Wat verder mogelijk is
Het werk is ook terug te vinden op chatpaper.com, een platform dat dagelijkse arXiv-paperfeeds met AI-samenvattingen aanbiedt. Voor gebruikers die veel verschillende visuele interpretaties van één concept nodig hebben, betekent TokenRepel: geen handmatig aangepaste prompts meer, en geen repetitieve resultaten.
🧠 Even simpel uitgelegd
Stel dat je een AI vraagt om tien keer 'een hond in het park' te tekenen. Normaal krijg je tien bijna dezelfde honden. TokenRepel zorgt ervoor dat de AI bij elk beeld andere keuzes maakt — andere hond, andere hoek, ander licht. Dat doet het door de 'innerlijke schetsen' van de AI tijdens het tekenen van elkaar af te duwen, zoals magneten die elkaar afstoten. Tegelijk houdt een tweede mechanisme de AI binnen de stijl en kwaliteit die het model heeft geleerd, zodat de beelden niet opeens lelijk worden. En het slimme deel: het model hoeft niet opnieuw getraind te worden — de truc werkt op het moment dat de beelden worden gemaakt.