⚠️ KMI waarschuwing: Onweer in België Laatste update van KMI waarschuwingen voor België. KMI ↗ Kaart ↗ Artikel →
← Terug
Nieuwe methode combineert taalmodellen met interactie voor efficiëntere programma-inductie

Nieuwe methode combineert taalmodellen met interactie voor efficiëntere programma-inductie

Onderzoekers hebben een nieuwe benadering ontwikkeld voor programma-inductie, waarbij een taalmodel wordt ingezet als basis om met minimale menselijke hulp complexe computerprogramma's te reconstrueren.

In een recent gepubliceerd wetenschappelijk document beschrijven Robin Shing Moon Chan en collega's een methode om programma-inductie te verbeteren. Programma-inductie is het proces waarbij een systeem probeert een specifiek computerprogramma te herleiden op basis van een beperkt aantal voorbeelden van invoer en uitvoer. Het doel hiervan is om de toegang tot programmeren te verbreden, zodat gebruikers simpelweg het gewenste regelgebaseerde gedrag kunnen demonstreren in plaats van zelf de volledige code te moeten schrijven.

De uitdaging van ambiguïteit

Een fundamenteel probleem bij deze techniek is dat een beperkte set voorbeelden theoretisch consistent kan zijn met een oneindig aantal verschillende programma's. Dit betekent dat verschillende programma's bij de getoonde voorbeelden dezelfde output geven, maar bij nieuwe, onbekende data volledig verschillende resultaten kunnen produceren.

Om dit op te lossen, benaderen de onderzoekers het probleem vanuit een Bayesiaans perspectief. Hierbij wordt gebruikgemaakt van een zogenaamde 'prior' (een voorafgaande kansverdeling) over mogelijke programma's. Door extra voorbeelden van invoer en uitvoer te observeren, kan de waarschijnlijkheid worden geconcentreerd op het werkelijke doelprogramma. Volgens de publicatie op arxiv.org stelt deze methode de leerling in staat om maximaal informatieve invoervragen te selecteren en deze voor te leggen aan een 'orakel', wat in de praktijk vaak de menselijke gebruiker is.

Rol van taalmodellen en algoritmen

De kern van de nieuwe aanpak is het gebruik van een taalmodel (Language Model) als de genoemde 'prior'. De onderzoekers hebben een greedy query-selectiealgoritme ontwikkeld dat bepaalt welke vragen het meest effectief zijn om de onzekerheid over het doelprogramma te verminderen.

Het algoritme maakt gebruik van een PAC-stijl relaxatie (Probably Approximately Correct) van programma-equivalentie. Hierbij wordt de doelstelling voor de selectie van vragen geschat via importance sampling. De theoretische onderbouwing in het document toont aan dat het algoritme stopt na een specifiek aantal informatieve vragen en het doelprogramma teruggeeft, mits er geen andere klasse van programma's is die onder de prior zwaarder weegt.

Resultaten en prestaties

De effectiviteit van deze methode is getest op de CodeARC-benchmark. De resultaten laten een significante verbetering zien ten opzichte van systemen die enkel op taalmodellen vertrouwen. Zo steeg de nauwkeurigheid met maximaal 22 procentpunten. Tegelijkertijd was de methode efficiënter in het gebruik van data: er waren tot wel 10,5 minder voorbeelden van invoer en uitvoer nodig om tot het juiste resultaat te komen.

Deze interactieve aanpak sluit aan bij de bredere definitie van interactieve systemen. Zoals beschreven in het cambridge.org, is een interactief systeem of computerprogramma specifiek ontworpen om de gebruiker te betrekken bij de uitwisseling van informatie. In dit specifieke geval wordt de interactie gebruikt om de ambiguïteit van de code-inductie systematisch weg te werken.

Het onderzoek, dat op 13 november 2026 is ingediend, is gecategoriseerd onder vakgebieden zoals kunstmatige intelligentie, machine learning en computationele taalwetenschap. De volledige preprint van 28 pagina's, inclusief negen tabellen en vijf figuren, is beschikbaar via de .

Geraadpleegde bronnen
Waardering
0
Stem mee op dit artikel
Discussie
Nog geen reacties. Wees de eerste!