⚠️ KMI waarschuwing: Onweer in België Laatste update van KMI waarschuwingen voor België. KMI ↗ Kaart ↗ Artikel →
← Terug
AI schrijft perfecte bestelbonnen die toch fout zijn — test het zelf in je browser

AI schrijft perfecte bestelbonnen die toch fout zijn — test het zelf in je browser

Een AI-model maakt een technisch perfect bestelticket. Maar de klant had iets heel anders besteld. Dat soort 'stille fouten' is juist zo gevaarlijk: er is niets mis met de output zelf, alleen met de inhoud. Een team van wetenschappers bouwde daarom een interactieve webdemo waarmee je in real-time kunt testen hoe een model bestellingen verwerkt — en die fouten zelf kunt opsporen of zelfs bewust uitlokken.

In het onderzoek "Clean Tickets, Wrong Orders", gepubliceerd op arxiv.org, leggen onderzoekers Umar Ahmed, Maxim Dunaev, Mohammad Nour Al Awad, Sergey Ivanov en Ivan Khodnenko uit hoe deze onzichtbare fouten ontstaan. Het probleem speelt wanneer een AI-model ongestructureerde tekst — zoals een handmatig ingetypte bestelling — omzet naar een gestructureerd formaat. Sommige fouten vallen meteen op omdat de output technisch incorrect is. Stille fouten blijven ongemerkt.

🧠 Even simpel uitgelegd
Stel je voor: een klant typt "twee pizza's zonder ui". De AI maakt daar netjes een bestelbon van. De bon ziet er professioneel uit en bevat geldige menu-items — maar er staat "twee pizza's MET ui" op. Geen enkele technicus ziet een fout, want de bon is technisch correct. Pas de klant (of de keuken) merkt dat het mis is. Dat is een 'stille fout': de machine doet zijn werk goed, maar begrijpt de opdracht verkeerd. En juist die fouten zijn moeilijk te vinden.

Privacy door lokale verwerking

Het opvallendste kenmerk van de demo: het taalmodel draait niet op een externe server, maar volledig binnen het tabblad van je browser. Dat is mogelijk gemaakt door een gefinetuned model met 0,8 miljard parameters te compileren naar WebAssembly.

Deze technische keuze heeft grote gevolgen voor privacy en veiligheid. De ingevoerde bestellingstekst verlaat je apparaat simpelweg niet. Bezoekers kunnen dus actief op zoek naar stille fouten, zonder dat er data naar een cloudomgeving wordt verzonden.

Validatie en prestaties

Om de betrouwbaarheid van het browser-model te toetsen, gebruikten de onderzoekers de PIZZA-benchmark. Het systeem analyseert de tekst terwijl de gebruiker typt en scoort elk ticket met een matcher die is omgezet naar TypeScript. Om foutieve invoer te beperken, weigert het systeem alle items die niet op het menu staan — die krijgen een vraagteken.

De resultaten zijn positief. Bij het analyseren van 1.357 bestellingen uit de PIZZA-testset gaf het model in de browser in 99,0% van de gevallen dezelfde resultaten als de evaluatie op een server. De exacte match-score werd vastgesteld op 0,882. Om de praktische inzetbaarheid aan te tonen, maten de onderzoekers de latentie op drie verschillende consumentenlaptops.

Bredere wetenschappelijke context

Het project maakt deel uit van een uitgebreider onderzoek naar de robuustheid van kleine taalmodellen. De auteurs verwijzen in hun werk naar aanvullende theoretische inzichten over stille fouten; de focus in dit specifieke project ligt op de interactie tussen mens en computer en het detecteren van fouten in real-time.

De publicatie, die op 13 november 2026 werd ingediend, is gecategoriseerd onder Machine Learning, Computation and Language en Human-Computer Interaction. Het doel: ontwikkelaars helpen de betrouwbaarheid van hun systemen te verhogen door onzichtbare fouten zichtbaar te maken.

Hoewel informatie over dit onderzoek ook via externe diensten zoals google.com vindbaar is, blijft de open-access repository van arXiv de primaire bron voor de volledige PDF en de experimentele HTML-versie van dit onderzoek.

Geraadpleegde bronnen
Waardering
0
Stem mee op dit artikel
Discussie
Nog geen reacties. Wees de eerste!