Een team van onderzoekers, waaronder experts van het MIT Media Lab, stelt dat de huidige methoden om kunstmatige intelligentie te beoordelen onvoldoende zijn. In plaats van enkel te kijken naar de uiteindelijke uitkomst van een taak, pleiten zij voor een systematische analyse van het gedrag dat tot dat resultaat leidt. Volgens de auteurs Manuel Cherep, Nikhil Singh en Pattie Maes fungeren moderne AI-agenten steeds meer als 'gedragssystemen' die opereren in veranderlijke omgevingen en hun acties aanpassen om doelen te bereiken.
In een positioneringspaper genaamd "Behavioral Systems Require Behavioral Tests" wordt betoogd dat de focus moet verschuiven naar de processen achter de prestaties. De onderzoekers stellen voor om technieken uit de gedragswetenschappen toe te passen, zoals systematische observatie en het bewust verstoren van variabelen, om AI-systemen beter te begrijpen. Deze visie is gedetailleerd beschreven in een publicatie via arxiv.org, waarin de noodzaak voor een wetenschappelijke benadering van AI-gedrag wordt onderstreept.
Het uiteindelijke doel is de creatie van een 'wetenschap van AI-gedrag'. Hierbij gaat het niet langer om de vraag óf een agent een opdracht succesvol voltooit, maar om de vraag hóé deze beslissing is genomen. Dit inzicht wordt als essentieel beschouwd naarmate AI-systemen autonomer worden en complexere interacties aangaan met hun omgeving. De theoretische basis voor deze aanpak is verder uitgewerkt in een github.io over de noodzaak van gedragstesten.
Om deze transitie in de sector te realiseren, stellen de auteurs een specifieke onderzoeksagenda voor. Deze richt zich op drie kerngebieden: het reconstrueren van de beslisstrategieën van een AI op basis van acties, het ontwikkelen van omgevingen die subtiele gedragsverschillen tussen systemen zichtbaar maken, en het analyseren van de dynamiek wanneer meerdere AI-agenten tegelijkertijd opereren. Dit voorstel is gepresenteerd tijdens de icml.cc, waar het werk werd opgenomen in de Position Track.
De interdisciplinaire aanpak van het project, waarbij methoden uit de gedragswetenschappen worden vertaald naar de informatica, is kenmerkend voor de samenwerking tussen de promovendus, research affiliate en professor van het MIT Media Lab. De relevantie van dit onderzoek wordt verder ondersteund door publicaties over gedragstesten vanuit het mit.edu.
Naast het onderzoek naar gedragssystemen is er aandacht besteed aan de beïnvloedbaarheid van AI. Zo is in juni 2026 vastgesteld dat AI-agenten gevoelig zijn voor zogenaamde 'nudges', oftewel kleine suggesties die het gedrag kunnen sturen. De discussie over het overbruggen van taal-, agent- en wereldmodellen voor planning en redenering is bovendien reeds gevoerd tijdens een workshop op de neurips.cc conferentie. Door de nadruk te leggen op het proces in plaats van het product, beogen de onderzoekers een fundament te leggen voor een transparantere en veiligere ontwikkeling van autonome systemen.