Stel je voor: een AI-systeem beoordeelt sollicitanten — en het enige wat telt naast de cv's, is of iemand man, vrouw of non-binair is. Dat is geen sciencefiction, maar de uitkomst van nieuw wetenschappelijk onderzoek.
Het onderzoek, gepubliceerd op 2 november 2026, laat zien dat grote taalmodellen (LLM's) gevoelig blijven voor genderidentiteiten wanneer zij kandidaten voor professionele rollen beoordelen. De beslissingen van de modellen veranderen op basis van het geslacht van zowel de kandidaat als de evaluator.
30.720 oordelen in gesimuleerde verkiezing
Onderzoekers Danial Amin, Joni Salminen en Bernard J. Jansen testten acht verschillende modellen. Ze gebruikten 240 synthetische professionele narratieven uit de Nemotron-Personas datasets van NVIDIA, afkomstig uit de VS en Frankrijk. De modellen moesten in een gesimuleerde taak stemmen over een gemeenteraad. In totaal produceerden ze 30.720 oordelen.
De resultaten, te lezen op arxiv.org, zijn opvallend. Voegden de onderzoekers een expliciete genderlabel toe bij een kandidaat, dan steeg de kans op een positieve stem met 1,05 tot 1,73 procentpunt ten opzichte van situaties waarin het geslacht niet bekend was.
Bij de evaluatoren gebeurde iets geks: alleen de toewijzing van een non-binair geslacht leidde tot een significante stijging van 1,26 punten in het aantal positieve stemmen.
Het verschilt per model — flink
Niet elk model is even gendergevoelig. Het percentage positieve stemmen liep uiteen van 81,3% tot 97,2% over de acht geteste modellen. Tussen de 2,5% en 3,3% van de beslissingen werd bovendien omgedraaid zodra de identiteit van een kandidaat werd gewijzigd ten opzichte van de basislijn zonder identiteit.
De studie maakt onderscheid tussen twee soorten modellen: 'LLM-as-a-Judge' (LaJ) en 'decision language models' (DLM's). DLM's draaiden minder beslissingen om (1,18%) dan LaJ-modellen (3,38%) bij directe vervanging van genderidentiteiten. DLM's lijken dus minder gevoelig voor gender bij hun beslissingen.
Een breed en wisselend probleem
Deze bevindingen passen in een groter patroon. Een ander onderzoek uit september 2026, eveneens gepubliceerd via arxiv.org, analyseerde tien modellen van negen leveranciers. De conclusie: genderbias komt veel voor, maar is zeer heterogeen. Sommige modellen vertoonden zelfs patronen die diametraal tegenover elkaar stonden. De richting en omvang van de bias verschilt dus sterk per model.
Een analyse in het springer.com onderstreept de complexiteit verder. Nieuwere modeliteraties vermijden expliciete biases steeds beter, maar subtiele en impliciete biases blijven bestaan. Visuele taalmodellen vertonen nog steeds genderbiases, vooral bij het koppelen van beroepen aan bepaalde genders.
Er is hoop: bias is deels te verminderen
De biases zijn hardnekkig, maar niet onoverkomelijk. Onderzoekers experimenteerden in een artikel op springer.com met prompt engineering en 'Low-Rank Adaptation' (LoRA)-gebaseerde fine-tuning. Prompt engineering verminderde de gepolariseerde reacties met ongeveer 40%. LoRA-fine-tuning verlaagde de genderbias met 39,6% en verhoogde het aantal positieve portretten met 19,7%.
De collectieve les uit al deze onderzoeken: AI-systemen zijn niet inherent neutraal. Omdat deze modellen steeds vaker worden ingezet in besluitvorming met reële gevolgen — zoals werving en selectie — adviseren experts om bias-audits niet als eenmalige controle te zien, maar als een continu proces dat meerdere leveranciers omvat.