Nieuw wetenschappelijk onderzoek suggereert dat grote taalmodellen (LLM's) intern gebruikmaken van complexe, niet-lineaire structuren om problemen op te lossen, in plaats van enkel sequentiële tekstketens.
Hoewel grote taalmodellen hun redeneringen naar de gebruiker toe vaak presenteren als een lineaire reeks stappen, wijst een recente studie erop dat het interne proces veel complexer is. In een onderzoek getiteld "LLMs Think with DAGs: Probing the Latent Graph Structure of Reasoning", gepubliceerd op arxiv.org, stellen onderzoekers dat deze modellen gebruikmaken van zogenaamde directed acyclic graphs (DAG's). In deze structuren kunnen tussenconclusies vertakken, samensmelten en hergebruikt worden, wat een natuurlijker model biedt voor complexe redeneertaken.
De beperking van lineaire ketens
Traditioneel worden LLM's gezien als statistische voorspellingsmachines die het volgende woord in een reeks voorspellen. Volgens informatie van ibcom zijn deze modellen gebaseerd op de transformer-architectuur, die uitblinkt in het verwerken van sequenties van woorden en het vastleggen van patronen in tekst. Echter, veel logische, wiskundige en programmeerproblemen laten zich niet eenvoudig in een rechte lijn vangen.
De onderzoekers, waaronder Tianjun Zhong en Linyang He, introduceerden een methode genaamd Reasoning DAG Probing om te onderzoeken of deze grafische structuren ook in de interne representaties van de modellen terug te vinden zijn. Hierbij werden premissen, tussenstappen en uiteindelijke antwoorden gedefinieerd als knooppunten in een graaf. Door middel van lichtgewicht 'probes' analyseerden zij de verborgen toestanden van de modellen om zaken als knooppuntdiepte en onderlinge afstanden te voorspellen.
Bevindingen over interne representaties
Uit de resultaten van de studie blijkt dat de DAG-structuur betekenisvol is gecodeerd in de representaties van de LLM's. De onderzoekers stelden vast dat deze structuur piekt in de middelste lagen van het model. In de latere lagen is het model vooral in staat om diepere knooppunten en redeneringsafhankelijkheden over een langere afstand te herstellen.
Een opvallend aspect van het onderzoek is dat de kracht van deze grafische structuur toeneemt naarmate de schaal van het model groter wordt. Bovendien ontstond de DAG-structuur geleidelijk tijdens het autoregressieve generatieproces. De studie toont aan dat deze interne ontwikkeling vaak anticipeert op de correctheid van het uiteindelijke antwoord. De onderzoekers konden zelfs aantonen dat het sturen van activaties richting de correcte DAG-structuur ervoor zorgde dat sommige oorspronkelijk foutieve generaties werden omgezet in correcte antwoorden.
Context van moderne taalmodellen
Deze ontdekking werpt een nieuw licht op de capaciteiten van moderne AI-systemen. Zo beschrijft google.com LLM's als statistische modellen die getraind zijn op enorme hoeveelheden data om tekst te genereren, te vertalen en complexe NLP-taken uit te voeren. Recente modellen, zoals de Gemini-serie van Google DeepMind, worden specifiek gepromoot vanwege hun geavanceerde redeneervermogen en coderingsvaardigheden.
De conclusie van het onderzoek op is dat het redeneren van LLM's niet puur sequentieel is, maar een meetbare, latente grafische structuur weerspiegelt. Dit suggereert dat de modellen intern een vorm van conceptuele mapping uitvoeren die verder gaat dan het simpelweg voorspellen van het volgende token.
Door het inzichtelijk maken van deze verborgen structuren kunnen ontwikkelaars mogelijk nieuwe methoden vinden om de betrouwbaarheid en transparantie van AI-redeneringen te verbeteren. De studie onderstreept dat de manier waarop een model een antwoord "denkt" fundamenteel verschilt van de manier waarop het dat antwoord uiteindelijk uitschrijft.