De meeste AI-modellen denken westers. Ze zijn getraind op vooral Engelse teksten en beantwoorden vragen over territorium, gemeenschapsgezag of de relatie met de natuur vanuit aannames die vreemd kunnen zijn aan de gemeenschappen die ze gebruiken. Dat is geen detail, betogen onderzoekers: het is een structurele vertekening.
Een recent onderzoek, gepubliceerd op arxiv.org, biedt een tegenwicht. Onderzoekers onder wie Silvia Fernández-Sabido en Jorge Reyes-Magaña ontwikkelden een systeem dat taalmodellen afstemt op de ethische waarden van inheemse volkeren in Latijns-Amerika.
Een culturele grondwet voor AI
Het hart van het project is een operationele culturele grondwet. Die is gebaseerd op interviews met vijf inheemse leiders en verdedigers en bevat twaalf concrete principes, geworteld in een inheemse cosmovisie.
Die principes zijn technisch ingebouwd via Constitutional AI (CAI). Dat proces verloopt in twee fasen: eerst supervised fine-tuning (SFT), daarna direct preference optimization (DPO). Voor de experimenten gebruikten de onderzoekers de basismodellen Qwen2.5-7B-Instruct en Qwen2.5-1.5B-Instruct.
Meetbare resultaten, kleine dataset
De dataset met voorkeursparen was klein: slechts 24 exemplaren. Toch waren de verbeteringen meetbaar. De grootste vooruitgang zat in linguïstische voorzichtigheid, consultatie en instemming, en in hoe het model omgaat met de overdracht van kennis tussen generaties.
De kwalitatieve analyse laat zien dat de SFT-fase de belangrijkste verschuiving veroorzaakte. De DPO-fase verfijnde daarna specifieke categorieën verder. Volgens de auteurs is de architectuur functioneel en kwalitatief op te schalen, zodra er meer corpus beschikbaar komt en de rekenkracht-beperkingen zijn opgelost.
Kennisdeling door de gemeenschap zelf
Het systeem draait in een conversationele interface die gebruikmaakt van retrieval-augmented generation (RAG). Het bijzondere: inheemse gemeenschappen voeden zelf de kennisbank. De uitlijning van het model wordt zo een participatieve cyclus, geen eenmalige afstelling van bovenaf.
De onderzoekers presenteren het werk als een eerste iteratie van een mechanisme voor "epistemische rechtvaardigheid": waarde-uitlijning in het Mondiale Zuiden, zodat AI niet enkel de waarden van het Noorden oplegt. Het onderzoek is in voorbereiding voor publicatie.
De combinatie van inheemse expertise en moderne AI-technieken moet leiden tot een model dat niet alleen taal begrijpt, maar ook de culturele en ethische context van zijn gebruikers respecteert. De volledige methodologie en alle twaalf principes staan in de paper op arxiv.org.