Een nieuwe wetenschappelijke publicatie stelt dat de huidige dominantie van de Transformer-architectuur in kunstmatige intelligentie een fundamentele fout is. De auteur, Jaeho Seol, betoogt dat moderne AI-modellen lijden aan een "structurele monocultuur" door één enkel ontwerp op enorme schaal toe te passen voor uiteenlopende taken, terwijl het menselijk brein juist drijft op extreme structurele diversiteit.
De kloof tussen AI en neurowetenschappen
In het onderzoek, getiteld The Giant Hippocampus: From Structural Monoculture to a System of Systems, wordt de huidige staat van AI vergeleken met de biologische werking van de hersenschors (cortex). Volgens de publicatie op arxiv.org beschrijven neurowetenschappers de cortex als een mozaïek van gespecialiseerde structuren. Zo is de visuele cortex bijvoorbeeld dichtbezet in laag 4 voor ruimtelijke codering, terwijl de bewegingscortex dikkere lagen 5 en 6 heeft voor temporele integratie.
Huidige AI-modellen werken echter volgens een ander principe: de Transformer-architectuur wordt identiek ingezet voor tekst, pixels en spraak. Seol stelt dat dit verschil geen kwestie van stijl is, maar een meetbare structurele fout. De auteur verwijst naar een eeuw aan cytoarchitectuur, van de vroege studies van Brodmann tot moderne Patch-seq technieken, om aan te tonen dat cognitieve functies worden uitgevoerd door kwalitatief verschillende structuren en niet door het simpelweg opschalen van één enkel sjabloon.
De 'Hardware Lottery' en het verlies van priors
Het artikel analyseert hoe de AI-sector is afgedwaald van structurele specialisatie. Als voorbeeld wordt het Convolutional Neural Network (CNN) aangehaald. Volgens de analyse op papers.cool was het CNN de laatste architectuur die structurele "priors" correct toepaste door lokale receptieve velden en hiërarchische diepte te gebruiken, waardoor sterke beeldherkenning mogelijk was met aanzienlijk minder data dan latere modellen nodig hadden.
De verschuiving naar de Transformer wordt toegeschreven aan de zogenaamde "Hardware Lottery". Hierbij werd de Transformer niet noodzakelijkerwijs gekozen op basis van theoretische principes, maar omdat het de weg van de minste weerstand was binnen de economie van GPU's. Volgens de samenvatting van arxivtldr.org heeft dit geleid tot een situatie waarin één architectuur alle modaliteiten heeft overgenomen, wat resulteert in een systemische fragiliteit.
De Transformer als 'reusachtige hippocampus'
Een centraal argument in het werk van Seol is dat de Transformer functioneel gezien geen analogon is van de algemene cortex, maar eerder van de hippocampusformatie. De auteur stelt dat het veld de fout maakt door de Transformer in te zetten voor taken waarvoor het nooit is gebouwd, zoals executieve gating, werkgeheugen en auditieve verwerking. Dit wordt in de tekst vergeleken met de misvatting om de gehele cortex te behandelen als één groot Broca-gebied.
Zelfs moderne pogingen om diversiteit te introduceren, zoals Mixture-of-Experts (MoE), worden bekritiseerd. In een overzicht op chatpaper.com wordt uitgelegd dat MoE in feite parameters verdeelt over identieke experts, wat volgens de auteur geen echte structurele diversiteit oplevert, maar eerder een "clone partitioning" probleem is.
Voorstel voor een 'Systeem van Systemen'
Als alternatief voor de huidige monocultuur stelt Seol een Heterogeneous Topological Network voor. Dit is een "Systeem van Systemen" waarin verschillende modules hun eigen specifieke computationele bias behouden en met elkaar communiceren via gestandaardiseerde interfaces.
De auteur benadrukt dat dit een discipline voor AI-architecten moet zijn en geen puur cognitieve wetenschap. De kern van het voorstel is om modulariteit vast te stellen vóór de training, waarbij structureel bewijs uit de biologie als ontwerpinput dient. Dit staat tegenover de huidige trend waarbij architectuur wordt getracht te herleiden uit het gedrag van een reeds getraind model.
De volledige publicatie, die 48 pagina's en 23 figuren beslaat, is sinds 22 juli 2026 beschikbaar gesteld via diverse wetenschappelijke kanalen, waaronder een vermelding op x.com door Artificial Intelligence Papers.