Onderzoekers hebben een techniek ontwikkeld die grote taalmodellen (LLM's) tijdens het proces van redeneren direct corrigeert. Door deterministische verificatie in te zetten, kunnen fouten in wiskundige en wetenschappelijke berekeningen worden stopgezet voordat ze leiden tot een incorrect eindresultaat.
Grote taalmodellen worden steeds vaker ingezet voor complex werk op het gebied van techniek, wetenschap en wiskunde. Een hardnekkig probleem bij deze modellen is echter dat fouten vaak met grote overtuiging worden gepresenteerd, waardoor ze moeilijk te detecteren zijn voor de gebruiker. Wanneer een model een fout maakt in een vroege stap van een redenering, plant deze fout zich vaak voort. Dit leidt ertoe dat het model kostbare rekencapaciteit en tokens verspilt aan een uitwerking die gebaseerd is op een onjuiste aanname.
Real-time deterministische verificatie
In een recent onderzoek getiteld "Catch It Where It Happens: Real Time Error Correction During LLM Reasoning", gepubliceerd op arxiv.org, stellen auteurs Rotem Elimelech, Michael Shalyt en Ido Kaminer een nieuwe aanpak voor. In plaats van pas achteraf het eindantwoord te controleren of een tweede, zwaar taalmodel als verificateur in te zetten, stellen zij voor om online, deterministische verificatie te gebruiken.
Het kernidee is dat veel stappen in een redeneringsproces kunnen worden gevalideerd door middel van code. Hierdoor kan een stap in real-time worden gecontroleerd terwijl deze wordt geschreven. Omdat dit proces geen extra modelaanroepen vereist en geen gebruik maakt van GPU-capaciteit, gebeurt de controle zonder de responstijd van het model significant te vertragen. Zodra een controle faalt, wordt de fout direct aangewezen, waarna het model de mogelijkheid krijgt om vanaf dat specifieke punt opnieuw te beginnen.
Resultaten in symbolische wiskunde
De onderzoekers hebben hun methode getest op symbolische wiskunde. In dit vakgebied bevatten afleidingen vaak expliciete expressies die door een computer algebra systeem (CAS) binnen enkele milliseconden kunnen worden gecontroleerd. Volgens de publicatie op is de effectiviteit van deze aanpak aangetoond met behulp van de ASyMoB-benchmark en drie open-weights modellen.
De resultaten laten een duidelijke verbetering zien in de prestaties:
* De nauwkeurigheid steeg met 1,4 tot 5,6 procentpunt.
* Er was een netto afname van het aantal incorrecte antwoorden van 1,8% tot 14,9%.
* Het verbruik van tokens nam slechts marginaal toe, met een stijging van 6% tot 7%.
Complementaire technologie
Een belangrijk aspect van deze benadering is dat de verificateur onafhankelijk is van het taalmodel zelf. Hierdoor concurreert de methode niet met de verdere ontwikkeling van LLM's, maar vult deze die juist aan. Elke nieuwe generatie modellen kan direct profiteren van deze externe controle. Bovendien zal het voordeel toenemen naarmate er meer deterministische checkers worden ontwikkeld voor verschillende soorten redeneringsstappen.
Terwijl deze innovatie zich richt op de computationele logica van AI, zijn er in andere sectoren ook verschuivingen naar cloudgebaseerde optimalisaties. Zo beschrijft lexmark.com hoe geavanceerde cloudtechnologie in de printsector wordt ingezet om kosten te verlagen en de IT-last voor organisaties te verminderen. Hoewel dit een andere toepassing is, illustreert het de bredere trend waarbij deterministische cloudsystemen worden gebruikt om menselijke of systeemfouten in bedrijfsprocessen te minimaliseren.
De door Elimelech en collega's voorgestelde methode biedt een potentieel antwoord op de onbetrouwbaarheid van AI bij complexe taken door een strikt, code-gebaseerd kader te combineren met de creatieve generatieve kracht van taalmodellen. De volledige details van het onderzoek zijn beschikbaar via de .