Veel mensen maken gebruik van grote taalmodellen (LLM's) om juridische problemen op te lossen, waarbij de schijn van professionaliteit vaak zwaarder weegt dan de feitelijke accuratesse van het advies.
Een recent onderzoek, gepubliceerd op 13 augustus 2026 via arxiv.org, werpt een licht op de manier waarop leken omgaan met door AI gegenereerd juridisch advies. De studie analyseerde 153 narratieven op Reddit en meer dan 5.000 reacties van de community. De belangrijkste conclusie is dat de praktische impact van AI-advies niet afhangt van de feitelijke juistheid, maar van de "sociale productie van geloofwaardigheid".
De paradox van vertrouwen en verificatie
Het onderzoek toont aan dat er een aanzienlijk gat gaapt tussen het vertrouwen in AI en de feitelijke betrouwbaarheid ervan. Een minderheid van de gebruikers past een vorm van 'triangulatie' toe door adviezen van verschillende AI-modellen met elkaar te vergelijken. Sommigen maken gebruik van wat de onderzoekers "distributed counsel" noemen: het voorleggen van AI-gegenereerde richtlijnen aan online gemeenschappen voor evaluatie voordat ze actie ondernemen.
Echter, in veel gevallen blijft verificatie volledig uit. Veel gebruikers handelen naar aanleiding van AI-advies enkel omdat de tekst een "advocaat-achtige vorm" heeft en emotionele geruststelling biedt. Dit creëert een risicovolle situatie waarin de verantwoordelijkheid voor verificatie verschuift naar mensen die vaak het minst toegerust zijn om juridische teksten correct te beoordelen.
Het risico van 'hallucinaties'
De neiging van AI om zelfverzekerd maar onjuiste informatie te presenteren, staat bekend als 'hallucineren'. Volgens onderzoek van stanford.edu vertonen juridische modellen een zorgwekkende foutmarge. In sommige gevallen hallucineerden chatbots tussen de 58% en 82% van de tijd bij juridische vragen. Een bekend voorbeeld hiervan is een advocaat in New York die sancties kreeg nadat hij fictieve zaken citeerde die door ChatGPT waren verzonnen.
Ook vanuit de praktijk waarschuwen experts voor het gebruik van bots als vervanging voor menselijke advocaten. Zo stelt deliusmckenzie.com dat AI geen rekening kan houden met locatie-specifieke regels, nuances in de wetgeving of de specifieke feiten van een individuele casus, waardoor adviezen vaak onbetrouwbaar of verouderd zijn.
AI versus menselijke experts
De aantrekkingskracht van AI lijkt soms zelfs groter dan die van menselijke professionals. Uit een studie gepubliceerd door theconversation.com bleek dat niet-experts eerder geneigd waren te vertrouwen op advies van ChatGPT dan op dat van een echte advocaat, mits zij niet wisten wie de afzender van het advies was. Dit onderstreept het gevaar van de zelfverzekerde toon van LLM's, die het voor gebruikers moeilijk maakt om goed advies te onderscheiden van foutief advies dat met overtuiging wordt gepresenteerd.
Verschuiving in de professionele standaard
Terwijl leken worstelen met verificatie, probeert de juridische sector zelf nieuwe standaarden te implementeren. Volgens Thomson Reuters verschuift de norm binnen de advocatuur van "vertrouwen maar verifiëren" naar "niet vertrouwen tot het geverifieerd is". Er worden strikte verificatieworkflows opgezet om menselijk toezicht te garanderen en technologische competentie te waarborgen, waarbij AI wordt ingezet als hulpmiddel voor efficiëntie, maar nooit als autonome beslisser.