Wetenschappers hebben een innovatieve methode ontwikkeld om de interactie tussen kunstmatige intelligentie en visuele omgevingen te verbeteren. Het nieuwe raamwerk, dat de naam Dwell draagt, stelt vision-language models (VLMs) in staat om hun eigen ervaringen effectiever in te zetten voor gedragsoptimalisatie. In een recent gepubliceerd onderzoek, waar ook Haoxi Li en Sikai Bai aan hebben bijgedragen, wordt uitgelegd hoe AI-agents hun capaciteiten continu kunnen uitbreiden door middel van model-gebaseerd reinforcement learning.
Een fundamenteel probleem bij huidige VLMs is dat hun uitgebreide wereldkennis zelden optimaal wordt gebruikt tijdens actieve interacties. Wanneer een agent zijn strategie aanpast, verandert de aard van de interacties, wat een constante update van het wereldmodel vereist. Volgens de publicatie op arxiv.org brengt het continu bijwerken van deze omvangrijke, vooraf getrainde modellen een zeer hoge computationele kostprijs met zich mee.
Om deze efficiëntieproblemen op te lossen, herdefinieert Dwell de rol van een VLM als een zogenaamde 'recurrent latent transition operator'. In plaats van te werken in de directe visuele ruimte, voert de agent voorspellingen en acties uit binnen een latente ruimte. Dit betekent dat het model tegelijkertijd fungeert als de bepaler van het beleid en als het wereldmodel zelf. Het leerproces verloopt via twee sporen: directe real-time interactie met de omgeving en een proces van latente verbeelding. Door scenario's intern te simuleren, kan de agent zijn gedrag verfijnen zonder dat er fysieke acties of externe beelden nodig zijn.
Een kernbevinding van het onderzoeksteam is dat een effectief wereldmodel voor deze agents niet noodzakelijkerwijs in staat hoeft te zijn om de toekomst visueel te reconstrueren. Het volstaat als het model toekomstige toestanden voorspelt die bruikbaar zijn voor de selectie van de juiste actie. Deze benadering vermindert de rekenkracht die nodig is voor de simulatiefase aanzienlijk. In de context van cognitie sluit dit aan bij de bredere definitie van cambridge.org, waarbij het begrip niet enkel over het fysieke zicht gaat, maar ook over mentale beelden of ideeën van zaken die niet tastbaar aanwezig zijn.
De prestaties van Dwell zijn getoetst in vijf verschillende interactieve visuele omgevingen. Uit de data in de blijkt dat Dwell superieure resultaten behaalde in vergelijking met andere trainbare methodieken. Het systeem slaagde erin om gedrag efficiënter te verbeteren terwijl de totale computationele belasting beperkt bleef. De auteurs, waaronder Jianfei Ma, Qinglin Hou en Xiaocheng Lu, hebben de code van het project publiekelijk beschikbaar gesteld om verdere innovaties binnen de AI-gemeenschap te faciliteren.
Het onderzoek, dat op 27 oktober 2026 is ingediend via , vormt een belangrijke stap richting autonomere AI-agents. Door gebruik te maken van een vorm van digitale verbeelding, zoals beschreven in de definities van , kunnen systemen sneller en met minder middelen leren van hun eigen ervaringen in dynamische omgevingen.