Grootschalige taalmodellen (LLM's) zijn niet in staat om wetenschappelijke gegevens te produceren die buiten hun trainingsdata vallen. Een nieuw onderzoek introduceert het concept van de 'Novelty Horizon' om de fundamentele beperkingen van AI bij het doen van nieuwe wetenschappelijke ontdekkingen aan te tonen.
In een recent gepubliceerd wetenschappelijk artikel, ingediend op 3 november 2026, stellen onderzoekers Alex Mwololo Kimuya, Mary Mwadulo en Dickson Mwenda Kinyua dat Large Language Models een kritiek gebrek hebben aan fysieke gronding en extrapolatievermogen. Volgens de publicatie op arxiv.org kunnen deze modellen geen causale redeneringen toepassen die afwijken van de correlaties die zij tijdens hun training hebben geleerd.
De Novelty Horizon en de informatiegrens
De onderzoekers formaliseren in hun studie de zogenaamde 'Novelty Horizon' ($H_N$). Dit begrip beschrijft de grens waarachter taken extrapolatie vereisen die verder gaat dan de ondersteuning van de trainingsdata. Volgens de auteurs op omvat deze horizon taken die causale redenering vereisen of informatie die pas na de 'frontier' van de beschikbare trainingsdata is ontstaan.
Een centraal onderdeel van het onderzoek is de introductie van de 'Past Information Boundary'. Deze grens markeert het punt waarop de generatieve capaciteiten van een AI-model ophouden te werken zodra er nieuwe, niet eerder geziene wetenschappelijke fenomenen moeten worden voorspeld of gegenereerd.
Catastrofale fouten in fysieke simulaties
Om de theorie te testen, voerden de onderzoekers een forensische analyse uit. Hierbij werden LLM's getest op data van een specifiek, ondervertegenwoordigd experiment: een diode-clamped kortsluiting. De gegenereerde data van de AI werden getoetst aan een 'Modified Ohm's Law' op basis van eerste principes, waarbij gebruik werd gemaakt van statistische, spectrale en temporele validatie.
De resultaten waren volgens de publicatie op zeer negatief. Beide geteste script-gebaseerde benaderingen faalden "catastrofaal". De modellen vertoonden:
* Extreme statistische pathologieën.
* Fysieke en spectrale inconsistenties.
* Een 'Generative Fidelity Score' van nul.
* Output die enkel bleef steken in het lineaire regime.
Directe prompting bevestigde bovendien dat er sprake was van verschillende, maar consistente faalmodi. De conclusie is dat LLM's niet in staat zijn om data te genereren die essentieel zijn voor werkelijke nieuwe wetenschappelijke ontdekkingen.
Contrast met commerciële AI-beloften
Deze bevindingen staan in contrast met de commerciële presentatie van moderne AI-systemen. Zo promoot Google Cloud haar Gemini-platform als een instrument voor geavanceerde redenering en multimodaliteit. In de documentatie van Google AI wordt Gemini 3 beschreven als een model dat uitblinkt in redeneren en het combineren van verschillende soorten informatie voor het bouwen van volgende-generatie applicaties.
Hoewel bedrijven zoals Google DeepMind innovaties blijven pushen om LLM's in te zetten voor complexe taken, benadrukt het onderzoek van Kimuya en collega's dat er een fundamenteel verschil is tussen het herkennen van patronen in bestaande data en het genereren van nieuwe wetenschappelijke waarheden.
Noodzaak voor hybride systemen
De auteurs pleiten daarom voor een verschuiving in de architectuur van AI voor wetenschappelijk gebruik. In plaats van volledig te vertrouwen op probabilistische taalmodellen, stellen zij voor om over te stappen op hybride neuro-symbolische systemen. Volgens de analyse op moeten dergelijke systemen het menselijke vermogen tot causale redenering en experimenteel ontwerp behouden om de 'Novelty Horizon' te kunnen overstijgen.
Zonder deze integratie van fysieke authenticatie en causale logica blijft AI een instrument dat enkel bestaande kennis kan herformuleren, maar geen nieuwe wetenschappelijke data kan creëren die de huidige menselijke kennisgrenzen verlegt.