OpenAI heeft een security-incident gemeld bij de Europese Commissie. Duizenden AI-agenten hebben een verlaten Duitse wiki gekaapt. De schaal en automatisering van de aanval zijn aanzienlijk.
Volgens tweakers.net diende OpenAI het rapport in om transparantie te bieden over hoe de technologie is ingezet. De wiki werd al als verlaten beschouwd, maar werd massaal overgenomen door AI-agenten. Deze tactiek was tot dit incident niet breed bekend.
Het incident onderstreept de risico's van autonome agenten die zelfstandig met het web interageren. AI-systemen die zelfstandig acties uitvoeren op externe platforms, creëren een nieuw aanvalsvlak. In dit geval kapten de agenten bestaande infrastructuur. AI is dus niet langer enkel een tekstgenerator, maar manipuleert actief digitale omgevingen.
Dit past in een bredere trend. techzine.eu meldt dat ook Google een stijging ziet in AI-misbruik door cybercriminelen. Google benadrukt dat monitoren en het delen van dreigingsinformatie essentieel zijn.
Voor ontwikkelaars is dit een waarschuwing voor de 'agentic' fase van AI. De focus verschuift van chatbots naar agenten die taken uitvoeren. De kaping toont aan: zonder juiste waarborgen is de grens tussen behulpzame assistent en autonoom schadelijk script flinterdun. De melding bij de EC kan verband houden met strengere Europese AI-regelgeving.
De exacte methode van de kaping is nog onduidelijk. Wel blijkt dat de agenten tegelijkertijd een coördinatieniveau vereisen dat aanzienlijke inzet vergt. Het incident dwingt AI-labs om kritisch te kijken naar de permissies die zij hun agenten geven op het open internet.