De inzet van grote taalmodellen (LLM's) als onafhankelijke beoordelaars, ook wel 'AI-judges' genoemd, is een groeiende trend in de ontwikkeling van kunstmatige intelligentie. Deze modellen worden gebruikt om de kwaliteit van teksten te scoren, trainingsdata te filteren en posities op leaderboards te bepalen. Echter, een recent onderzoek door Haoyaun Zhu en Jie Zhang zet vraagtekens bij de stabiliteit van deze methode. De onderzoekers stellen dat de aanname dat een model bij een identiek verzoek telkens hetzelfde resultaat geeft, in de praktijk niet standhoudt.
In een studie die is gepubliceerd via arxiv.org zijn ruim 52.000 gecontroleerde verzoeken geanalyseerd. De resultaten laten zien dat de overeenstemming bij herhaalde rangschikkingen binnen hetzelfde tijdsbestek slechts 0,400 bedroeg, terwijl voor een betrouwbaar meetinstrument een waarde van 0,90 vereist is. Zelfs wanneer de tests op een volgende dag werden herhaald met exact dezelfde input, bleef de score met 0,78 ruim onder de norm van 0,99. Dit wijst erop dat modellen op gedeelde endpoints geen statische instrumenten zijn, maar variabele entiteiten.
De instabiliteit wordt volgens de auteurs veroorzaakt door drie hoofdfactoren. Ten eerste is er sprake van een foutieve koppeling tussen de labels en de daadwerkelijke betekenis, waardoor ruis een grote impact heeft op de uitkomst. Ten tweede zijn de kwalitatieve verschillen tussen de beoordeelde kandidaten vaak kleiner dan de ruis die het meetinstrument zelf produceert. Tot slot bleek dat zelfs byte-identieke inputs tot verschillende rangschikkingen konden leiden, een probleem dat wordt versterkt bij het analyseren van permutaties. Volgens de publicatie op bieden noch extra sampling, noch het wisselen van provider een structurele oplossing.
Deze bevindingen hebben grote implicaties voor de wetenschappelijke validiteit van AI-evaluaties. In de onderzoeksmethodologie is betrouwbaarheid een fundamentele eigenschap; het zorgt ervoor dat resultaten consistent zijn en dat studies gereproduceerd kunnen worden. Zoals uiteengezet op researchmethod.net, is betrouwbaarheid essentieel om te garanderen dat een meetinstrument daadwerkelijk meet wat het beoogt te meten. Wanneer een LLM-judge inconsistent presteert, kunnen de statistische conclusies van een onderzoek volledig onjuist zijn.
Binnen de klassieke testtheorie wordt stabiliteit vaak getoetst via inter-rater betrouwbaarheid en test-retest procedures. De resultaten van Zhu en Zhang tonen aan dat AI-beoordelaars op gedeelde infrastructuur momenteel niet aan deze basisnormen voldoen. Het gebrek aan consistentie betekent dat de huidige manier van scoren onbetrouwbaar is, wat volgens de algehele validiteit van de verzamelde data in gevaar brengt.
Om deze onbetrouwbaarheid tegen te gaan, adviseren de onderzoekers de implementatie van een 'snapshot-identity ladder' en een strikte checklist voor rapportage. De auteurs benadrukken dat een kleine pilotstudie al voldoende zou zijn geweest om de onbruikbaarheid van de huidige instrumenten voor strikte evaluaties aan te tonen. De belangrijkste aanbeveling is dat elke evaluatie die vooraf wordt geregistreerd, eerst een validatie van het meetinstrument zelf moet ondergaan voordat er definitieve scores aan een model worden toegewezen.