Onderzoekers hebben een nieuwe procedure ontwikkeld die voorkomt dat grote taalmodellen (LLM's) onnodige en kostbare informatie blijven zoeken wanneer de beschikbare bewijslast al voldoende is voor een beslissing.
In een recent wetenschappelijk onderzoek is vastgesteld dat grote taalmodellen vaak in een zogenaamde 'informatieval' trappen wanneer zij beslissingen moeten nemen op basis van onvolledige informatie. Volgens een publicatie op arxiv.org hebben deze modellen de neiging om te blijven zoeken naar bewijsmateriaal, zelfs wanneer extra informatie de uiteindelijke beslissing niet meer kan beïnvloeden of wanneer de kosten van het zoeken naar die informatie niet opwegen tegen de potentiële winst.
De problematiek van onnodige informatie
Bij het ondersteunen van besluitvormingsprocessen is niet alleen het uiteindelijke antwoord van belang, maar ook de vraag wanneer een model moet stoppen met het verzamelen van gegevens. De auteurs van het onderzoek, waaronder Seunghan Lee en elf andere wetenschappers, stellen dat LLM's vaak 'betalen' voor controles — kostbare stukken bewijs — die geen toegevoegde waarde hebben voor de uiteindelijke keuze.
Het concept van een beslissing, wat in essentie het proces is van het bepalen van een standpunt of oordeel na overweging, is hierbij centraal. Zoals beschreven door vocabulary.com, kan een beslissing variëren van een dagelijkse keuze tot een formeel juridisch verdict. Voor AI-modellen is de uitdaging om dit proces van 'besluiten' efficiënt te beheren zonder in een oneindige lus van informatieverwerving terecht te komen.
Introductie van DIVA en DIVA-U
Om dit probleem op te lossen, presenteren de onderzoekers de Decision-Informed Value-of-information Acquisition, afgekort als DIVA. Dit is een procedure die gebaseerd is op de beslissingswaarde van bewijsmateriaal. DIVA werkt via een tweeledig proces:
- Het taalmodel specificeert een compact beslissingsmodel. Hierbij wordt via korte numerieke vragen bepaald hoe groot de kans op een negatieve uitkomst is en in welke mate een specifieke controle deze waarschijnlijkheid kan verschuiven.
- Elke mogelijke controle wordt gewaardeerd op basis van hoeveel de denkbeeldige uitkomsten de beslissing verbeteren ten opzichte van de kosten. Het proces stopt zodra geen enkele controle meer rendabel is.
Daarnaast is er een variant ontwikkeld, genaamd DIVA-U. Deze versie houdt rekening met de onzekere schattingen van het model over hoe sterk een bepaalde controle de waarschijnlijkheid van een uitkomst beïnvloedt.
Resultaten en toepasbaarheid
De effectiviteit van de nieuwe methode is getest over vier verschillende domeinen met een totaal van 20 verschillende taalmodellen. Volgens de gegevens op presteerde DIVA-U beter dan alle gebruikte baselines op basis van echte data. De belangrijkste verbetering zat in het vermogen van het systeem om tijdig te stoppen zodra er voldoende bewijs was verzameld.
In synthetische scenario's, waarbij de betrouwbaarheid van elke controle bekend was, wist DIVA de 'regret' — de verloren waarde ten opzichte van de best mogelijke beslissing — met 75% te verminderen vergeleken met het beste baseline-model.
Een belangrijk kenmerk van DIVA is dat het 'training-free' is. Dit betekent dat de methode direct kan worden toegepast op elk bestaand groot taalmodel zonder dat er sprake hoeft te zijn van aanvullende trainingstappen. De volledige details van het onderzoek en de bijbehorende code zijn beschikbaar gesteld via de , waar het werk is ingediend onder de categorieën Kunstmatige Intelligentie, Computerlinguïstiek en Machine Learning.