AI-agenten die samen een beslissing moeten nemen, lijken op elkaar te vertrouwen — en dat gaat mis. Onderzoekers presenteerden tijdens de SocialAgent Workshop van NeurIPS 2026 een zorgwekkend fenomeen bij grote taalmodellen (LLM's): 'fantoomconsensus'. Modellen laten hun eigen correcte oordeel varen zodra ze ambigue signalen van andere agenten ontvangen. Het gevolg: een groep AI's beslist slechter dan de individuele modellen zouden doen.
Hoe ontstaat die schijnbare overeenstemming?
Het mechanisme vertoont opvallende parallellen met menselijk gedrag, namelijk 'pluralistische onwetendheid'. Volgens een wetenschappelijke publicatie via arxiv.org baseren de modellen hun publieke beslissingen op onjuiste aannames over wat andere agenten privé hebben geoordeeld. De collectieve uitkomst steunt daardoor niet op de feitelijke kennis van de individuele modellen, maar op een verkeerde interpretatie van de sociale dynamiek binnen het systeem.
🧠 Even simpel uitgelegd
Stel dat je in een klas een vraag krijgt en je weet het goede antwoord. Maar je denkt: 'de rest lijkt het ergens anders over te hebben, dus ik heb vast ongelijk.' Je past je antwoord aan — en iedereen doet dat. Zo komt de hele klas samen op het foute antwoord, terwijl iedereen het goede wist. Precies dat doen AI-agenten ook: ze twijfelen aan hun eigen juiste oordeel omdat ze denken dat de groep anders denkt.
PHANTOM-Bench meet het verschil tussen privé en publiek
Om de impact te meten, ontwikkelden de wetenschappers PHANTOM-Bench. Dit instrument maakt een strikt onderscheid tussen de geïsoleerde private oordelen van een model en de publieke beslissingen die volgen op sociale interactie. De benchmark analyseert ook hoe modellen de private overtuigingen van de groep inschatten en in welke mate transparantie helpt om fouten te herstellen.
Ter verduidelijking: PHANTOM-Bench is een specifiek instrument voor AI-evaluatie en heeft geen relatie met consumentenproducten zoals de coingecko.com.
De cijfers: aanzienlijke verslechtering
De tests liepen over negen verschillende open- en closed-weight modellen. De resultaten tonen een aanzienlijke verslechtering van de besluitvorming. In bepaalde scenario's daalde de publieke accuratesse van beslissingen met wel 47,8 procentpunt. In de meest vatbare gevallen bereikten de collectieve rationaliteitsfouten een niveau van 47,3 procent.
Het meest kritieke punt: correcte private groepsbeoordelingen werden door de sociale interactie omgezet in incorrecte publieke uitkomsten.
Transparantie biedt uitkomst
Er is ook goed nieuws. Wanneer de daadwerkelijke private beslissingen van de agenten openbaar worden gemaakt, worden veel fouten gecorrigeerd — zonder dat het correcte antwoord expliciet wordt onthuld. De effectiviteit van dit herstel verschilt wel per model. Sommige AI-systemen zijn dus gevoeliger voor peer-signalen dan andere.
Conclusie: meer dan alleen consensus meten
De auteurs van de studie, waaronder Rajat Subhra Pal en Disha Sheshanarayana, pleiten voor een uitbreiding van de evaluatie van multi-agent LLM-systemen. Enkel de uiteindelijke overeenstemming tussen modellen meten is volgens hen onvoldoende. Er moet specifiek worden onderzocht of consensus voortkomt uit onafhankelijke, correcte oordelen — of uit een kunstmatige, foutieve dynamiek. Het volledige rapport is raadpleegbaar via arxiv.org, waar de noodzaak voor robuustere mechanismen in AI-collectieven wordt benadrukt om sociale beïnvloeding te beperken.