Grote taalmodellen ondergaan een fundamentele transformatie waarbij ze niet langer enkel tekst genereren, maar evolueren naar actieve agenten. Deze systemen, die in wetenschappelijke kringen worden aangeduid als 'world-acting systems', zijn in staat om digitale interfaces te bedienen en fysieke apparatuur aan te sturen. Desondanks vormen de betrouwbaarheid en de veilige overdracht van bevoegdheden nog steeds aanzienlijke hindernissen.
Volgens een reviewartikel dat op 4 september 2026 is ingediend bij arxiv.org, kunnen deze modellen tegenwoordig tools aanroepen, taken delegeren en zelfs de controle over laboratoriumapparatuur of robots overnemen. De overgang naar deze actieve rol wordt vaak gezien als een onvermijdelijke stap richting volledige autonomie, maar onderzoekers Linsen Zhu en Mengqing Cai nuanceren dit beeld. Zij wijzen op een veelvoorkomende verwarring tussen de feitelijke competentie van het model, de technische integratie van het systeem en de autoriteit die aan de AI is verleend.
In hun analyse, gebaseerd op data tot en met 31 augustus 2026, maken de auteurs een strikt onderscheid tussen het taalmodel zelf, het ondersteunende raamwerk (de 'harness') en de omgeving waarin de AI opereert. Hoewel de interfaces voor acties steeds uitgebreider worden, blijft het problematisch om taken consistent robuust af te ronden, fouten zelfstandig te herstellen of acties onafhankelijk te verifiëren. Dit wordt verder toegelicht in de publicatie op .
Ook in de digitale sfeer wordt getracht de samenwerking tussen verschillende AI-agenten te verbeteren via protocollen zoals Agent2Agent en het Model Context Protocol. Echter, deze instrumenten bieden volgens de onderzoekers nog geen solide basis voor een vertrouwenswaardige delegatie van taken. Bovendien brengt de inzet van multi-agent systemen risico's met zich mee, zoals hogere operationele kosten en de kans op gecorreleerde fouten, ondanks de voordelen van specialisatie.
De toepassing van AI in de fysieke wereld, zoals bij zelfsturende laboratoria en robotica, toont aan dat bepaalde handelingen technisch mogelijk zijn. De auteurs van het rapport op concluderen echter dat dit eerder spreekt van een 'begrensde haalbaarheid' dan van echte betrouwbaarheid in een open omgeving zonder menselijk toezicht. Simulaties kunnen weliswaar helpen bij de planning, maar vormen op zichzelf geen bewijs voor autonome handelingsbekwaamheid.
Om de risico's te beheersen, stellen de onderzoekers het concept van 'justified delegation' voor. Dit kader houdt in dat de actieradius van een AI enkel mag worden uitgebreid als er hard bewijs is voor een duidelijke informatieherkomst, begrensde autoriteit, effectieve foutdetectie en gekalibreerde menselijke controle. Dit vormt de basis voor een nieuwe agenda gericht op verantwoordelijkheid tussen agenten en capaciteitsgebaseerde permissies.
Terwijl de technische mogelijkheden groeien, blijft de menselijke taal de cruciale interface. De effectiviteit van deze systemen hangt mede af van de talige diversiteit waarop ze zijn getraind. Zo blijkt uit een overzicht van engdic.org dat talen met een enorme sprekerbasis, zoals het Engels en Chinees, veelvuldig gesproken worden. Voor toekomstige agentische systemen is het een uitdaging om ook talen zoals Zulu of Xhosa, die een kleinere sprekerbasis hebben, adequaat te ondersteunen om wereldwijde toegankelijkheid en controle te garanderen.