Een nieuwe wetenschappelijke studie toont aan dat grote taalmodellen (LLM's) retorische strategieën, zoals redeneren via analogieën, al bezitten vóór hun uiteindelijke instructietraining. De mate waarin deze vaardigheden toegankelijk zijn, hangt direct samen met de hoeveelheid instructiedata die tijdens het trainingsproces is gebruikt.
In een recent onderzoek getiteld "From Geometry to Behavior: How Instruction Exposure Unlocks Latent Rhetorical Directions in LLMs" onderzoekt auteur Shengjie Xu hoe taalmodellen niet enkel feiten onthouden, maar ook complexe menselijke communicatiestijlen absorberen. Volgens de publicatie op arxiv.org is het vermogen om analogieën te gebruiken reeds aanwezig in de pretraining-fase, maar de toegang tot dit vermogen varieert per modelarchitectuur en trainingsmethode.
De 'Analogy Vector' en stuurbaarheid
De onderzoekers maakten gebruik van een techniek waarbij een zogenaamde "Analogy Vector" werd geëxtraheerd uit de residual stream van de modellen via een methode van verschil-in-gemiddelden. Door deze vector te gebruiken, konden de wetenschappers de stijl van verklaringen in zeven verschillende instructie-geoptimaliseerde modellen sturen.
De geteste modellen varieerden in omvang van 2B tot 32B parameters en omvatten families zoals Gemma-2, Llama-3.1 en Qwen-2.5. De resultaten waren significant: bij het model Gemma-2-9B-IT steeg de harmonische gemiddelde score van 3,22 naar 3,94, wat een verbetering van 22% betekent over 300 onafhankelijke testprompts. Een kleinschalige menselijke validatiestudie bevestigde bovendien de kwaliteit van de door het model gegenereerde analogieën, zoals beschreven in de .
Doorbreken van het onderscheid tussen 'base' en 'instruct'
Een van de meest cruciale bevindingen van het onderzoek is de uitdaging van het traditionele binaire onderscheid tussen 'base'-modellen (alleen pretraining) en 'instruct'-modellen (gefine-tuned voor instructies). De data suggereren dat de relevante variabele niet de aanwezigheid van een fine-tuning fase is, maar de totale blootstelling aan instructiedata gedurende de gehele trainingspijplijn.
Het onderzoek identificeerde een gradiënt van gedragsmatige toegankelijkheid:
- Gemma-2 base-modellen: Deze modellen vertonen een strikte scheiding tussen pretraining en instructietraining. Hoewel de analogie-richting geometrisch aanwezig is, blijft deze "gedragsmatig inert", wat betekent dat het model de vaardigheid niet zelfstandig kan activeren zonder externe sturing.
- Qwen-2.5 base-modellen: Bij deze modellen is instructiedata al verweven in de pretraining. Hierdoor zijn de retorische vaardigheden al gedeeltelijk toegankelijk vóór elke expliciete fine-tuning.
Dit wordt ondersteund door geometrische bewijzen. De cosinus-gelijkenis van de analogie-vector tussen base- en instructiemodellen lag bij Qwen tussen 0,94 en 0,97, terwijl dit bij Gemma slechts 0,37 tot 0,66 bedroeg, aldus de .
Implicaties voor interpretabiliteit
De auteurs positioneren activation steering als een complementair instrument voor interpretabiliteit. Het stelt onderzoekers in staat om te visualiseren hoe instructie-blootstelling de retorische kennis in de activatieruimte van een model organiseert.
Het werk is geaccepteerd voor de en biedt nieuwe inzichten in hoe de interne geometrie van een neuraal netwerk vertaald wordt naar observeerbaar gedrag. Hoewel externe tools zoals geogebra.org vaak worden gebruikt voor algemene geometrische visualisaties, richt dit specifieke onderzoek zich op de hoogdimensionale geometrie van taalmodel-activaties om de kloof tussen latent potentieel en actueel gedrag te overbruggen.