Kunstmatige intelligentie kan de mentale gezondheid van jongeren niet betrouwbaar inschatten via hun sociale media. Dat blijkt uit nieuw onderzoek. De reden is fundamenteel: AI ziet wat jongeren typen, maar niet hoe ze zich vanbinnen voelen.
Jongeren delen steeds vaker persoonlijke verhalen en zoeken steun op platforms als Instagram. Klinkt dat als een gouden kans voor AI om problemen vroegtijdig op te sporen? Het onderzoek "Seeing Is Not Knowing", gepubliceerd via arxiv.org, tempert die verwachtingen.
Wat deden de onderzoekers?
Het team, met onder anderen Munmun De Choudhury en Xiaohan Ding, testte tien taalmodellen met redeneervermogen. Ze gaven de modellen echte berichten uit Instagram Direct Messages van tachtig jongeren met een geschiedenis van suïcidale gedachten, gedragingen of depressie. Vervolgens vergeleken ze de conclusies van de AI met de eigen verslagen van die jongeren. In totaal bestudeerden ze 204 redeneringspaden van de modellen.
AI ziet veel, maar weet weinig
De resultaten zijn duidelijk. De modellen waren redelijk goed in het herkennen van direct waarneembare toestanden. Maar zodra het ging om subjectieve ervaringen — zoals de vraag of een jongere zich écht gesteund voelt door zijn omgeving — zakte de accuratesse sterk weg.
De onderzoekers noemen dit een 'epistemische limiet': het gat tussen wat een model kan waarnemen in tekst en wat het werkelijk kan weten over de innerlijke wereld van iemand.
🧠 Even simpel uitgelegd
Stel dat je een vriend berichtjes stuurt zoals "het gaat wel" of "ik ben moe". Je vriend leest die woorden, maar weet daarmee nog niet hoe jij je écht voelt. Misschien verberg je juist iets. AI heeft precies hetzelfde probleem, maar dan op grote schaal: het model leest alleen de tekst en mist je stem, je gezichtsuitdrukking en je gevoel. Daarom kan het 'zien' van berichten nooit gelijkstaan aan 'weten' wat er in iemands hoofd omgaat.
Sociale media zijn geen diagnose
Sociale netwerken produceren enorme hoeveelheden data, maar die data volstaan niet voor een volledige psychologische diagnose. De berichten komen bovendien vaak van platforms die draaien om korte, snelle interacties. De auteurs benadrukken daarom een strikt onderscheid: wat je objectief in een gesprek ziet, wat je er redelijkerwijs uit kunt afleiden, en wat alleen de persoon zelf kan vertellen.
De studie, die op 5 november 2026 werd ingediend, waarschuwt dat digitale analyse nooit een volledige vervanging kan zijn voor klinische gesprekken. De subjectieve beleving van een patiënt vertaalt zich niet altijd naar tekstuele data. De directe input van de jongere blijft onmisbaar.
Wat betekent dit voor AI in de zorg?
Voor ontwikkelaars van AI-tools in de zorg verschuift de focus. Niet langer enkel jagen op voorspellende accuratesse, maar rekening houden met de grenzen van digitale data. De kernboodschap van het onderzoek: het 'zien' van digitale interacties is niet hetzelfde als het 'weten' van iemands psychologische realiteit. Precies die nuance is essentieel voor veilige en effectieve zorg via technologie.
Meer achtergrond over sociale mediaplatforms lees je via britannica.com.