Een onderzoeksteam van de Boston College heeft aangetoond dat zelfs relatief kleine transformer-modellen in staat zijn om de complexe taal van Coxeter-groepen te beheersen. In dit project, dat een brug slaat tussen theoretische wiskunde en kunstmatige intelligentie, lag de focus specifiek op de Coxeter-groep affine $A_2$. Deze groep is nauw verbonden met de symmetrieën van een betegeling van het Euclidische vlak met gelijkzijdige driehoeken.
Synergie tussen AI en wiskunde
Het project is ontwikkeld binnen het kader van de mechanistische interpreteerbaarheid. Volgens de onderzoekers biedt dit vakgebied een ideale basis voor samenwerkingen waarbij wiskundige expertise wordt gecombineerd met AI-onderzoek om te begrijpen hoe modellen abstracte structuren internaliseren. De resultaten van dit onderzoek werden onlangs gepresenteerd als poster tijdens de 6e workshop over Mathematical Reasoning and AI op de neurips.cc conferentie in Atlanta.
De kern van het onderzoek was om te verifiëren of een eenvoudig AI-model de onderliggende logica van een specifieke wiskundige groep kan vatten. De bevindingen suggereren dat de patronen die het model herkent, niet enkel statistisch zijn, maar daadwerkelijk bruikbaar kunnen zijn voor theoretische wiskundige ontdekkingen.
Van aandachtspatronen naar formele bewijzen
Een cruciaal onderdeel van de studie was de analyse van de zogenaamde 'attention patterns' van de getrainde transformer. Door nauwkeurig te observeren hoe het model informatie verwerkt en welke verbanden het legt tussen elementen van de Coxeter-groep, konden de wetenschappers nieuwe inzichten verkrijgen.
Deze observaties vormden de basis voor het formuleren van een nieuw woord-theoretisch vermoeden (conjecture) over de affine $A_2$ groep. Het onderzoeksteam is er vervolgens in geslaagd om dit vermoeden formeel te bewijzen. Dit proces illustreert dat AI niet enkel als rekeninstrument dient, maar ook kan fungeren als katalysator voor het formuleren van nieuwe wiskundige stellingen. Meer details over deze methodiek zijn terug te vinden op de google.com.
Technische analyse en publicatie
De volledige wetenschappelijke onderbouwing is gepubliceerd in een artikel op arxiv.org. In dit document van 13 pagina's, ondersteund door 13 figuren, wordt de experimentele opzet en de specifieke eigenschappen van de Coxeter-groepen uitgebreid toegelicht. De auteurs van het werk zijn J. Elisenda Grigsby, Yiyao Huang, Arushi Katyal, Ryan Lin, Pranav Ramakrishnan en Weiya Wang, allen verbonden aan het Department of Mathematics van Boston College.
Om de validiteit van de resultaten te waarborgen, hebben de onderzoekers diverse technische analyses uitgevoerd. Hieronder vallen maskeringsexperimenten om de robuustheid van het model te testen, experimenten met gereduceerde en willekeurige woorden, en een diepgaande analyse van de consistentie van de aandachtspatronen. Een gedetailleerde weergave van deze resultaten is te vinden in de arxiv.org.
Bredere wetenschappelijke impact
Dit project past in een bredere trend om de 'black box' van neurale netwerken te openen. Door te begrijpen hoe abstracte logica en wiskundige regels intern worden gerepresenteerd, kunnen onderzoekers de kloof tussen computationele modellen en abstracte algebra verkleinen. De integratie van AI in het bewijsproces van wiskundige conjectures markeert een mogelijke verschuiving in de manier waarop theoretische wiskunde in de toekomst wordt beoefend, waarbij AI een actieve rol speelt in de ontdekking van nieuwe wiskundige waarheden.