Onderzoekers hebben YoloFS ontwikkeld, een specifiek voor AI-agenten ontworpen bestandssysteem dat dataverlies en lekken moet voorkomen door controle terug te leggen bij de gebruiker.
AI-coding agents, die autonoom code schrijven en shell-commando's uitvoeren, maken regelmatig fouten bij het beheren van lokale bestanden. Dit leidt volgens een recente studie tot datacorruptie, het onbedoeld verwijderen van bestanden en het lekken van geheime informatie. Om dit probleem aan te pakken, hebben wetenschappers van onder meer de University of Wisconsin-Madison een nieuw systeem geïntroduceerd dat de interactie tussen de AI en het bestandssysteem fundamenteel verandert.
Systematische analyse van misbruik
De noodzaak voor YoloFS komt voort uit het eerste systematische onderzoek naar het misbruik van bestandssystemen door AI-agenten. De onderzoekers analyseerden hiervoor 290 publieke rapporten verspreid over 13 verschillende frameworks. Uit deze analyse bleek dat er twee cruciale tekortkomingen zijn: zowel de gebruikers als de AI-agenten zelf beschikken over onvoldoende informatie over de effecten van hun acties op het bestandssysteem en hebben te weinig controle over deze processen.
Volgens de publicatie op arxiv.org ontstaat er momenteel een onwenswaardige afweging tussen veiligheid en autonomie. Wanneer een agent volledige toegang krijgt, is het risico op schade groot. Wordt de toegang echter beperkt door frequente toestemmingsvragen, dan wordt de gebruiker overbelast en wordt de efficiëntie van de agent belemmerd.
De werking van YoloFS
Om deze kloof te dichten, stellen de auteurs voor om informatie en controle te verschuiven van de agent naar het bestandssysteem zelf. Dit concept noemen zij een "agent-native filesystem". YoloFS implementeert dit via drie kernmechanismen:
- Staging van mutaties: Alle wijzigingen worden eerst in een tijdelijke fase geplaatst. De wijzigingen worden pas definitief doorgevoerd nadat de gebruiker deze heeft goedgekeurd.
- Snapshots voor zelfcorrectie: Het systeem maakt momentopnames van tussenliggende staten. Hierdoor kan een AI-agent fouten detecteren en deze autonoom herstellen zonder dat de definitieve data verloren gaat.
- Progressieve permissies: Gebruikers kunnen toegangsregels tijdens de uitvoering aanpassen, waardoor de toegang dynamisch kan worden uitgebreid of beperkt op basis van de behoeften van de taak.
Deze benadering wordt verder toegelicht in de presentatie op alphaxiv.org, waar wordt benadrukt dat deze technieken de agent autonomie geven terwijl kritieke acties gereserveerd blijven voor menselijke review.
Resultaten en evaluatie
De effectiviteit van YoloFS is getest met een nieuwe methodologie die de interacties tussen de gebruiker, de agent en het bestandssysteem meet. In een test met 11 taken die verborgen neveneffecten bevatten, slaagden de agenten er in 8 gevallen in om zichzelf te corrigeren, terwijl alle mutaties veilig in de staging-fase bleven voor controle.
Daarnaast werd het systeem getest op 112 routinetaken. Hierbij bleek dat YoloFS de noodzaak voor menselijke interactie verminderde, terwijl de succesrate gelijk bleef aan die van de standaard baseline.
Het project is open-source beschikbaar gesteld via github.com, waardoor andere ontwikkelaars het systeem kunnen implementeren of verbeteren. Het onderzoek is bovendien geaccepteerd voor de , dat van 29 september tot 2 oktober 2026 plaatsvindt in Praag, Tsjechië.