Een recent onderzoek naar grote taalmodellen (LLM's) wijst uit dat deze systemen de kans dat geavanceerde kunstmatige intelligentie leidt tot het uitsterven van de mensheid of een permanente machteloosheid van de mensheid op een mediaan van 10 procent schatten.
In het debat over de veiligheid van kunstmatige intelligentie zijn er vaak grote verschillen in mening tussen menselijke experts. Een nieuwe studie probeert dit perspectief te verbreden door de AI-systemen zelf te bevragen over de risico's van hun eigen technologie. Volgens een op 13 november 2026 gepubliceerd onderzoek van Julian Kauk op arxiv.org is hiervoor een breed scala aan modellen gebruikt om een consistent beeld te krijgen van hun interne "inschattingen".
Resultaten van het onderzoek
Voor de studie werden in totaal 241 verschillende grote taalmodellen ondervraagd. Hierbij is gebruikgemaakt van alle beschikbare instellingen voor redenering om te zien of een diepere analyse de resultaten zou beïnvloeden. De resultaten laten een opvallende convergentie zien: de mediane schatting van het existentiële risico kwam uit op exact 10,0 procent.
De spreiding van deze schattingen was relatief beperkt. De middelste 90 procent van de modellen schatte het risico in tussen de 3,5 procent en 15,8 procent. Volgens de auteur van het onderzoek op is deze spreiding aanzienlijk smaller dan de verschillen die men gewoonlijk ziet bij menselijke experts die over hetzelfde onderwerp discussiëren.
Invloed van modelcapaciteit en redenering
Het onderzoek legt enkele interessante verbanden bloot tussen de aard van het model en de gegeven risicoschatting. Modellen die duurder zijn en over het algemeen als krachtiger worden beschouwd, gaven een hoger risico aan. Bij nieuwere modellen was de trend anders: zij vertoonden een meer uniforme inschatting, hoewel deze niet noodzakelijkerwijs hoger lag dan bij oudere versies.
Ook is gekeken naar het effect van uitgebreidere redeneerprocessen. Het toepassen van meer redenering veranderde de uiteindelijke schattingen van de modellen nauwelijks. Wel zorgde het voor een grotere onzekerheid in de antwoorden, waarbij deze onzekerheid zich voornamelijk uitstrekte richting een hoger risicopercentage, zoals beschreven in de publicatie op .
Oorzaken en kritische kanttekeningen
Wat betreft de mogelijke oorzaak van een dergelijke catastrofe waren de modellen vrij eensgezind. Bijna alle ondervraagde systemen wezen het verlies van controle over de AI aan als de meest waarschijnlijke reden voor een existentieel risico.
De onderzoeker plaatst deze resultaten echter in een kritisch kader. De antwoorden van de LLM's moeten niet noodzakelijkerwijs worden gezien als onafhankelijke, bewuste oordelen. Er is een grote kans dat de modellen simpelweg patronen weerspiegelen uit hun trainingsdata, waaronder gepubliceerde enquêtes onder menselijke experts. Daarnaast kunnen de keuzes die gemaakt zijn tijdens het proces van 'alignment' (het afstemmen van het model op menselijke waarden) de antwoorden beïnvloeden.
Of deze percentages een werkelijk begrip weerspiegelen van de eigen capaciteiten van de AI-systemen, blijft volgens de auteur een open vraag. De studie op suggereert dat herhaalde metingen in de toekomst kunnen uitwijzen of deze visie verschuift naarmate AI-systemen verder evolueren. De vraag hoe training en alignment deze percepties vormgeven, wordt aangemerkt als een belangrijk onderwerp voor zowel wetenschappelijk onderzoek als het publieke debat.