Meer data en grotere modellen maken kennis van structuur niet overbodig. Dat stelt nieuw onderzoek, dat laat zien dat AI bij bepaalde taken een fundamenteel 'structuurgat' overhoudt — een gat dat geen enkele hoeveelheid trainingsvoorbeelden dicht.
In de AI-wereld heerst een sterk geloof: geef een groot model genoeg voorbeelden, en het leert vanzelf alle complexe regels van een domein. Een recent onderzoek van Kheer Sagar Patel en Mojtaba Soltanalian, gepubliceerd op arxiv.org, nuanceert die aanname flink.
De onderzoekers introduceren het begrip 'structure-encoded problems': taken waarbij de relatie tussen invoer en uitvoer vastligt in een bekende structuur. Denk aan natuurkundige wetten, grammatica, symmetriegroepen of optimalisatiedoelen.
🧠 Even simpel uitgelegd
Stel je voor: je wilt leren schaken door alleen duizenden partijen te bekijken, zonder de regels te kennen. Misschien herken je patronen, maar je zult nooit zeker weten waarom een zet geldig is. Een computer met veel voorbeelden heeft hetzelfde probleem. Ken je de regels wél, dan hoef je alleen nog te leren wat slim spelen is. Dat verschil tussen 'regels kennen' en 'regels raden uit voorbeelden' noemen de onderzoekers het structuurgat.
Wat is het structuurgat?
Het structuurgat is het prestatieverschil tussen een methode die de onderliggende structuur van een probleem al kent en een model dat alleen voorbeelden ziet. Een neuraal netwerk kan de juiste relatie theoretisch wél bevatten. Maar dat is volgens de onderzoekers niet de kernvraag. De vraag is of het model die relatie ook vindt en kan extrapoleren op basis van een eindige hoeveelheid data.
Structure-agnostisch leren komt wel dichter bij een gestructureerde oplossing naarmate er meer data beschikbaar is. Maar elke eindige dataset laat een restonzekerheid achter. Die onzekerheid verdwijnt alleen als je de structuur zelf inbouwt — want die staat door constructie al vast.
Bewijs en experimenten
De onderzoekers onderbouwen hun stelling met een wiskundig bewijs voor een Gaussiaans invers probleem. Een 'Wiener solver' die een bekende operator gebruikt, bereikt daarbij het optimale Bayes-risico. Een empirisch leermodel binnen dezelfde lineaire klasse houdt daarentegen een aanhoudend verwacht overschot aan risico over.
Daarnaast voerden de onderzoekers gecontroleerde experimenten uit op drie gebieden:
- Sparse recovery: het herstellen van signalen uit beperkte data.
- Graph reachability: het bepalen van bereikbaarheid binnen grafen, met specifieke aandacht voor extrapolatie naar grotere formaten.
- Known-operator inversion: het omkeren van processen waarvan de operator bekend is.
De conclusie uit die experimenten: wanneer gevalideerde structuren beschikbaar zijn, beperken ze de hypotheseruimte nog vóórdat het leerproces begint. Het AI-model hoeft daardoor alleen nog de onderdelen te leren die de structuur niet al vastlegt.
Van datatypes naar logische structuur
Het onderzoek richt zich op hoogwaardig AI-redeneren, maar de basis ligt in de fundamentele informatica. In de programmeertaal C worden structuren bijvoorbeeld gebruikt als door de gebruiker gedefinieerde datatypes om gerelateerde variabelen van verschillende typen te groeperen, zoals beschreven in tutorials van geeksforgeeks.org. Basisstructuren zoals linked lists en trees zijn essentieel voor het organiseren van data. Patel en Soltanalian gaan een stap verder: zij analyseren hoe de logische structuur van een probleem de effectiviteit van machine learning bepaalt.
De publicatie, die op 27 oktober 2026 werd ingediend, telt 13 pagina's en bevat reproduceerbaarheidscode en data om de resultaten te verifiëren. De kernboodschap van de auteurs is helder: blind vertrouwen op schaalvergroting van data volstaat niet voor taken die inherent gebonden zijn aan strikte structurele regels.