De Engelstalige Wikipedia heeft recentelijk een verbod ingesteld op het gebruik van generatieve kunstmatige intelligentie (AI) voor het schrijven en herschrijven van artikelen. Dit besluit, genomen door de vrijwilligersgemeenschap, is ingegeven door zorgen over de betrouwbaarheid, auteursrechten en de verspreiding van misinformatie. Systemen zoals OpenAI's ChatGPT, Google Gemini en Anthropic Claude vallen onder dit verbod.
De nieuwe regelgeving stelt dat encyclopedische teksten niet door generatieve AI-modellen mogen zijn geproduceerd of bewerkt. Dit geldt voor zowel hoofdartikelen als andere inhoudelijke pagina's van de encyclopedie. Het doel is om te garanderen dat alle content aantoonbaar door mensen is gecreëerd en herleidbaar is tot betrouwbare, controleerbare bronnen aiinsider.nl.
Redenen voor het verbod
Een van de voornaamste redenen voor het verbod is het fenomeen van "AI-hallucinaties". Dit houdt in dat AI-modellen ogenschijnlijk feitelijke details kunnen verzinnen die in werkelijkheid onjuist zijn. Dergelijke fouten zijn vaak moeilijk te detecteren, vooral wanneer de AI een overtuigende toon aanslaat. Voor een encyclopedie die afhankelijk is van controleerbare bronnen, vormt dit een onacceptabel risico voor de kwaliteit en betrouwbaarheid van de informatie .
Wikipedia-redacteuren hebben al langer melding gemaakt van AI-teksten die verzonnen bronnen bevatten, verkeerde of misleidende feiten presenteren, en inconsistent zijn in stijl en structuur. In sommige gevallen heeft dit zelfs geleid tot volledig fictieve artikelen. Medeoprichter van Wikipedia, Jimmy Wales, heeft eerder aangegeven dat de huidige generatie AI-modellen "nog lang niet goed genoeg" zijn voor encyclopedische content aiwereld.nl.
Beperkte AI-toepassingen nog wel toegestaan
Hoewel het gebruik van generatieve AI voor het schrijven van artikelen is verboden, zijn er enkele beperkte toepassingen van AI die nog wel zijn toegestaan. Dit omvat onder meer vertalingen en kleine tekstcorrecties. Echter, elke AI-bijdrage moet door mensen worden gecontroleerd en AI mag geen nieuwe feiten of bronnen toevoegen. Het beleid benadrukt dat schrijvers moeten vertrouwen op hun eigen creativiteit voor de ontwikkeling van artikelen mediazone.nl.
Het besluit raakt ook aan transparantie-eisen die voortvloeien uit de Europese AI-verordening, wat mogelijk gevolgen kan hebben voor overheden en platforms binnen de EU aiinsider.nl.
Verifieerbaarheid als kernprincipe
Het verbod op AI-gegenereerde content sluit aan bij het aloude principe van Wikipedia: verifieerbaarheid boven alles. Informatie moet controleerbaar zijn via onafhankelijke bronnen, en niet via een algoritme dat tekst produceert zonder bronvermelding. Met de nieuwe regel krijgt dit principe nu een expliciete AI-paragraaf. De gemeenschap achter Wikipedia stelt dat AI-content vaak de kernprincipes van het platform schendt: verifieerbaarheid, neutraliteit en betrouwbaarheid .
Dit besluit weerspiegelt een bredere discussie binnen de wereld van AI en contentcreatie, namelijk de spanning tussen snelheid en kwaliteit. Hoewel AI in staat is om in korte tijd grote hoeveelheden tekst te genereren, blijft Wikipedia vasthouden aan menselijke controle, bronvermelding en consensus, processen die tijd vergen.