Een nieuw wetenschappelijk onderzoek waarschuwt dat het upgraden van het taalmodel van een AI-agent kan leiden tot aanzienlijk informatieverlies, zelfs wanneer de geheugenopslag ongewijzigd blijft. De studie benadrukt dat de manier waarop informatie wordt opgeslagen bepaalt of een agent zijn 'kennis' behoudt na een migratie.
Terwijl het routinematig upgraden van AI-modellen gebruikelijk is, blijkt de migratie van het bijbehorende geheugen een complex probleem. Volgens een onderzoek gepubliceerd op arxiv.org kunnen AI-agenten informatie "vergeten" na een modelupdate, ondanks dat ze toegang houden tot dezelfde geheugenopslag. Dit komt doordat nieuwe modellen oude aantekeningen anders interpreteren of omdat verschillende versies van zogenaamde 'embeddings' de zoekfunctie binnen het geheugen verstoren.
Vergelijking van opslagmethoden
In de studie van Ankit Goyal en collega's is onderzocht hoe verschillende vormen van geheugenbeheer reageren op een modelwissel. De onderzoekers testten vier specifieke methoden met behulp van 48 synthetische geschiedenissen en twee open-weight modellen met minder dan 10 miljard parameters.
De geteste methoden waren:
* LC-RAW: Het letterlijk bewaren van de volledige geschiedenis voor long-context lezen.
* RAG: Het opdelen van informatie in fragmenten voor retrieval-augmented generation.
* NOTES: Het comprimeren van informatie door een model in natuurlijke taalnotities.
* KG-fixed: Het normaliseren van data in een kennisgraaf met een vast schema.
Uit de resultaten blijkt dat structuren met een vast schema, zoals de , zeer betrouwbaar overdraagbaar zijn. De nauwkeurigheid bij deze methode veranderde nauwelijks (met slechts $+0,0004 \pm 0,0020$) na een wissel van het schrijvende model.
Risico's bij gecomprimeerde notities en RAG
De grootste problemen deden zich voor bij de 'NOTES'-methode. Hierbij is er sprake van een sterke koppeling tussen het model en de data. De nauwkeurigheid verschoof asymmetrisch met waarden tussen $+9,91$ en $-13,28$ procentpunt, afhankelijk van de richting van de migratie. Volgens de is 80% van dit tekort toe te schrijven aan informatie die al verloren ging tijdens de initiële constructie van de notities.
Ook bij RAG-systemen traden problemen op. Wanneer een index gedeeltelijk werd gemigreerd (een 50/50 mix van oude en nieuwe embeddings), werd slechts een kleine verbetering van 4,96 punten behaald. Dit staat in schril contrast met de volledige winst van 11,90 punten die mogelijk is bij een volledige her-embedding van de data. In dit geval bleken retrieval-fouten verantwoordelijk voor 81% van het prestatieverlies.
Herstel van verloren data
Het onderzoek richtte zich daarnaast op de vraag of verloren geheugen hersteld kan worden. De resultaten laten zien dat het enkel repareren van de opslag bij de 'NOTES'-methode in geen enkele van de 48 testgevallen een herstel van 90% van de prestaties behaalde.
Echter, wanneer de oorspronkelijke, ruwe brongeschiedenis bewaard bleef, kon in 34 van de 48 gevallen voor één specifieke migratierichting wel succesvol herstel worden gerealiseerd. De auteurs van de studie op pleiten daarom voor het strikt isoleren van embedding-ruimtes, het uitvoeren van richtingsspecifieke migratietests en het altijd bewaren van de originele brongegevens om toekomstige reparaties mogelijk te maken.