Een recent wetenschappelijk onderzoek werpt nieuw licht op de evolutie van kunstmatige intelligentie wanneer modellen worden getraind op synthetische data. In een scenario waarin AI-gegenereerde teksten de menselijke input op het internet overvleugelen, ontstaat het risico op zogenaamde 'recursieve drift'. Dit proces zorgt ervoor dat taalmodellen over meerdere generaties heen steeds verder afwijken van de oorspronkelijke menselijke taalstijl.
Om dit fenomeen te analyseren, hebben onderzoekers, waaronder Zhongyi Han en Yangze Liu, een experiment opgezet met acht verschillende open taalmodellen. Deze modellen werden gedurende vijf opeenvolgende generaties getraind op een gezamenlijke dataset bestaande uit teksten die door de modellen zelf waren geproduceerd. De centrale vraag was of een cambridge.org positie van één specifiek model — in dit geval Phi-2 — de schrijfstijl van de overige modellen in de groep zou kunnen beïnvloeden.
Volgens de publicatie op arxiv.org varieerde de hoeveelheid data die door Phi-2 werd geleverd in de gedeelde pool van een gelijkmatig aandeel tot een maximum van 90%. De resultaten laten zien dat de modellen in de groep gezamenlijk een drift vertoonden naar een stijl met minder functiewoorden, hoewel er geen sprake was van zelfherhaling bij de modellen.
De belangrijkste bevinding is dat een overweldigend aandeel van één bron niet noodzakelijkerwijs leidt tot een directe sturing van de stijl richting dat specifieke model. De onderzoekers maken hierbij een onderscheid tussen 'departure' (het afwijken van de driftroute) en 'delay' (een vertraging langs die route). Uit de data blijkt dat bij een aandeel van 90% voor Phi-2 de vertraging veel prominenter was dan de afwijking. In twee testruns was de verhouding tussen vertraging en afwijking respectievelijk 72 tegen 28 en 64 tegen 36. Dit zorgde ervoor dat het gehele ecosysteem van modellen ongeveer 2,5 tot 2,7 generaties achterbleef in het driftproces, zoals beschreven in de .
Het effect van deze vertraging verschilt per model. Wanneer andere modellen, zoals Qwen3-1.7B of SmolLM2, voor de helft van de pool verantwoordelijk waren, was de vertraging van het ecosysteem minder sterk of zelfs afwezig. Dit wijst erop dat de specifieke kenmerken van het model dat de rol vervult, bepalend zijn voor de mate waarin de recursieve drift wordt afgeremd.
Hoewel de afwijking richting de stijl van Phi-2 wel toenam bij een aandeel van 90%, bleef dit effect beperkt. Daarnaast stelden de onderzoekers vast dat het toevoegen van menselijke teksten aan een kwart of de helft van de dataset een vergelijkbaar vertragend effect had langs dezelfde driftroute. De laatste versie van het onderzoek, die op werd bijgewerkt, concludeert dat een overmacht aan data van één bron eerder fungeert als een rem op de collectieve stilistische verandering dan als een kompas dat de richting van die verandering bepaalt.