Het technologiebedrijf OpenAI is onderwerp van berichtgeving over beelden van gebruikers van de chatbot ChatGPT die onbedoeld op het internet terecht zouden zijn gekomen. De oorzaak van dit incident wordt in sommige berichten toegeschreven aan zogenaamde 'AI-agenten', autonome systemen die binnen het ecosysteem van het bedrijf taken uitvoeren.
Volgens berichtgeving van hln.be zou OpenAI hebben erkend dat visuele content, die door gebruikers was geüpload of gegenereerd, publiekelijk toegankelijk was. Deze beelden zouden door AI-agenten naar een openbare omgeving zijn gepusht, terwijl deze systemen juist bedoeld zijn om processen te optimaliseren en te automatiseren. Hoewel het bedrijf niet precies heeft gespecificeerd hoeveel accounts in totaal zijn getroffen, wordt in berichten gesteld dat de privacy van een deel van de gebruikers is geschonden.
Na de ontdekking van het lek zouden er stappen zijn ondernomen om de verspreiding van de data te stoppen en de toegang tot de betreffende beelden te blokkeren. Uit de rapportage van blijkt dat een deel van de beelden inmiddels weer van het internet is verwijderd.
Het incident werpt een nieuw licht op de risico's van autonome AI-systemen. In tegenstelling tot reguliere chatbots kunnen AI-agenten zelfstandig acties ondernemen in andere software of op het web. Wanneer dergelijke systemen privacyinstellingen verkeerd interpreteren, kan dit leiden tot onbedoelde datalekken. Er zou worden onderzocht hoe de agenten precies tot deze acties zijn overgegaan om herhaling te voorkomen.
Voor nieuwe gebruikers die zich willen registreren of informatie zoeken over de start van hun ervaring met de tools van OpenAI, verwijst het bedrijf naar de platforopenai.com. Hier kunnen gebruikers kennismaken met het platform, hoewel de huidige focus van het bedrijf ligt op het herstellen van het vertrouwen na dit lek.
Ondanks de verwijdering van de beelden blijft er onzekerheid bestaan over de vraag of derden de data inmiddels hebben opgeslagen of gearchiveerd. Gebruikers zouden zijn geadviseerd alert te blijven, maar er zijn vooralsnog geen specifieke beveiligingsinstructies uitgevaardigd voor individuele accounts in relatie tot dit lek. De melding van dit incident, zoals gemeld door , komt op een moment dat er wereldwijd meer druk vanuit toezichthouders is op de transparantie van dataverwerking bij AI-bedrijven.
Het beheer van autonome systemen op grote schaal blijkt hiermee een complexe uitdaging. In communicatie wordt benadrukt dat de beveiliging van gebruikersgegevens een prioriteit is, terwijl er wordt gezocht naar een balans tussen innovatieve autonomie en strikte privacywaarborgen. Voor meer details over de technische implementatie van hun diensten kunnen geïnteresseerden terecht op de .