Een nieuw wetenschappelijk model suggereert dat de menselijke competentie kan instorten wanneer de beschikbaarheid van hulpmiddelen, zoals grote taalmodellen, een kritisch punt overschrijdt. De overgang van zelfstandigheid naar volledige afhankelijkheid kan volgens het onderzoek onomkeerbaar zijn.
De mens heeft een lange geschiedenis van het externaliseren van denkprocessen. Van eenvoudige inkepingen en abacussen tot complexe kaarten en moderne kunstmatige intelligentie: tools worden ingezet om cognitieve lasten te verminderen. Echter, een recent onderzoek van David C. Krakauer, gepubliceerd via arxiv.org, waarschuwt voor een gevaarlijk kantelpunt waarbij de gebruiker niet langer complementair samenwerkt met de tool, maar er volledig afhankelijk van wordt.
Het dynamische systeem van competentie en vertrouwen
In zijn analyse modelleert Krakauer de interactie tussen de menselijke actor, het gebruikte instrument en de specifieke taak als één enkel dynamisch systeem. Binnen dit systeem spelen twee tegenstelde krachten een rol: competentie (de kennis en vaardigheden die de gebruiker behoudt) en vertrouwen of reliance (de taken die de gebruiker uitbesteedt aan de tool).
Volgens de publicatie co-evolueren deze twee factoren. Het resultaat van deze interactie is "bistabiel", wat betekent dat er twee stabiele toestanden mogelijk zijn: een toestand waarin de gebruiker competent blijft en de tool ondersteunend gebruikt, en een toestand van volledige afhankelijkheid.
De drempel van cognitieve ineenstorting
Het onderzoek stelt dat er een kritische grens is voor de beschikbaarheid van tools. Wanneer deze grens wordt overschreden, kan de "competente staat" worden vernietigd. De competentie van de gebruiker zakt dan weg naar een laag niveau, omdat alle cognitieve processen volledig worden uitbesteed aan het systeem.
Een zorgwekkende conclusie uit de is dat het simpelweg verminderen van de beschikbaarheid van de tool deze ineenstorting niet ongedaan maakt. De terugkeer naar competentie vereist een veel lagere drempel van beschikbaarheid dan de drempel die tot de val leidde. Dit betekent dat de geschiedenis van de praktijk — hoe iemand heeft geleerd en gewerkt — bepalender is voor de huidige staat dan de huidige toegang tot technologie. Twee personen met exact dezelfde toegang tot AI kunnen dus in tegenovergestelde staten verkeren: de één blijft competent, terwijl de ander volledig afhankelijk is geworden.
Transparantie en het verlies van agency
De mate waarin een gebruiker resistent is tegen deze cognitieve ineenstorting hangt af van twee factoren: de initiële competentie die iemand meebrengt naar een taak en de zogenaamde "transparantie" van de tool. Transparantie wordt hier gedefinieerd als het deel van de werking van de tool dat een gebruiker zelf kan reconstrueren.
Wanneer een tool ondoorzichtig is en de gebruiker geconfronteerd wordt met onzekere doelen, kan de "agency" — het vermogen om zelfstandig acties te initiëren en te sturen — overgaan van de mens naar de tool. In dergelijke gevallen wordt de mens-agent een instrument van de tool. Volgens de is dit proces vaak onomkeerbaar, simpelweg omdat de interne modellen van moderne AI-systemen te groot zijn voor een mens om te internaliseren.
Validatie en implicaties voor onderwijs
Om deze theoretische claims te onderbouwen, is het model getest tegen diverse onafhankelijke datasets. Hierbij is gekeken naar het gebruik van GPS versus traditionele kaarten, expertise in rekenkunde en de interactie met taalmodellen. De resultaten wijzen op een noodzaak om fundamenteel anders na te denken over de implementatie van kunstmatige intelligentie.
De bevindingen hebben directe gevolgen voor de manier waarop AI wordt uitgerold in de samenleving en hoe onderwijssystemen worden ingericht. Krakauer suggereert dat er een vorm van "tool-resistent onderwijs" nodig is om te voorkomen dat essentiële menselijke vaardigheden verloren gaan door een te vroege of te volledige integratie van ondersteunende technologieën. De volledige details van dit theoretische kader zijn beschikbaar via de .