← Terug
Born Transformer: AI die exact bewijst welk woord het antwoord bepaalt

Born Transformer: AI die exact bewijst welk woord het antwoord bepaalt

Waarom geeft een taalmodel eigenlijk dat ene antwoord? Dat is een van de grootste vragen in de kunstmatige intelligentie van nu. Meestal kunnen onderzoekers alleen maar schatten welke woorden een rol speelden. Teerawat Tongloy en collega's presenteren een alternatief: de Born Transformer. Het model vervangt de gebruikelijke methoden door een systeem waarin elke stap een Born-meting is, aldus de publicatie op arxiv.org van 3 november 2026.

Exact bewijs in plaats van een gok

Standaard taalmodellen gebruiken softmax-functies om te bepalen hoeveel aandacht elk woord krijgt. De Born Transformer doet dat anders. De aandacht wordt berekend als $|\langle q|k\rangle|^4$, genormaliseerd per rij. Ook de feed-forward nonlineariteit is vervangen: door een gemeten product en een Born-readout.

Het grote voordeel? Transparantie. Omdat de klassenkans een polynoom is in de amplitudes van de woorden, is het bewijs voor een beslissing exact te berekenen via een eindige kwadratuur — zonder fouten. De bijdragen van individuele woorden tellen precies op tot de kans van de klasse, met een precisie tot $10^{-11}$ of beter.

Net zo goed als het klassieke model

De onderzoekers testten het model op de e-SNLI dataset voor natuurlijke taalinferentie. Met ongeveer 98.000 parameters buiten de embedding behaalde het een testaccuraatheid van $76,98 \pm 0,17$%. Een traditionele softmax transformer van dezelfde omvang kwam uit op $76,62 \pm 0,36$% — nagenoeg hetzelfde resultaat.

Maar bij uitleg maakt het verschil zich wel op. Toen de onderzoekers het woord met het hoogste bewijs verwijderden, veranderde het antwoord in 45% van de testparen. Bij het softmax-model was dat slechts 32%. Opvallend: traditionele aandacht-mechanismen komen wel vaker overeen met de woorden die menselijke annotatoren markeren, maar voorspellen minder goed welk woord écht de doorslag geeft.

Van wiskunde naar fysieke hardware

Wat dit onderzoek extra bijzonder maakt: de gewichten zijn exact te compileren naar opto-elektronische optica en qubits. Een coherente aandachtslaag past in één enkel circuit van 852 CNOT-poorten op 23 qubits.

Het model is al getest op de ibm_kingston hardware van IBM. Het volledige bewijs overleefde het apparaat nog niet, maar via Hadamard-tests kon de hardware de antwoorden op twee korte testparen correct reproduceren. De onderzoekers werken nu aan de kalibratie en het aantal metingen ('shots') om ook het exacte bewijs op hardware vast te leggen.

Het project is volledig open source: de code, de getrainde modellen en de volledige verslaglegging van de IBM-jobs zijn publiek beschikbaar.

🧠 Even simpel uitgelegd
Een gewone AI kan niet precies uitleggen waarom hij een antwoord geeft — hij kan alleen aangeven welke woorden 'waarschijnlijk belangrijk' waren. De Born Transformer gebruikt een wiskundig trucje uit de quantumfysica (de Born-regel, die bepaalt hoe je een quantummeting uitkomt). Daardoor is elk antwoord op te schrijven als een som van bewijsstukken: je kunt letterlijk zien hoeveel elk woord heeft bijgedragen, en die getallen tellen exact op. Vergelijk het met een bonnetje bij de kassa: bij gewone AI zie je alleen het totaal, hier zie je elke regel apart — en het klopt tot op elf decimalen.

Geraadpleegde bronnen
Waardering
0
Stem mee op dit artikel
Discussie
Nog geen reacties. Wees de eerste!