Onderzoekers hebben een nieuwe methode ontwikkeld genaamd 'attribution gradients', die gebruikers helpt om de bronvermeldingen in AI-gegenereerde antwoorden kritischer en efficiënter te controleren. De techniek maakt het mogelijk om bewijslast stapsgewijs te ontsluiten zonder dat de gebruiker telkens volledige externe documenten hoeft te doorzoeken.
AI-gestuurde antwoordmachines vormen een relatief nieuw type zoekinstrument. In tegenstelling tot traditionele zoekmachines, die een lijst met relevante documenten rangschikken, genereren deze systemen een direct antwoord met ingebedde citaten naar bronnen. Volgens een publicatie op arxiv.org is het echter vaak tijdrovend en kostbaar om deze geciteerde bronnen handmatig te lezen, bovendien bieden de links zelf weinig informatie over de exacte aard van het bewijs dat ze bevatten.
Stapsgewijze ontsluiting van bewijsmateriaal
De voorgestelde oplossing, 'attribution gradients', is ontworpen om de informativiteit van citaten te verhogen door relevante informatie direct op de plek van de citatie samen te brengen. De methode werkt via een gelaagd systeem waarbij de gebruiker steeds dieper in de bewijsvoering kan duiken.
Een kernonderdeel van deze techniek is de mogelijkheid om een zin uit een AI-antwoord op te splitsen in individuele claims. Voor elke claim kan de gebruiker vervolgens ondersteunende of juist tegenstrijdige fragmenten bekijken die uit de bronnen zijn gefilterd. Zoals beschreven door arxivlens.com, fungeren deze fragmenten als klikbare verbindingen naar de oorspronkelijke bron, in dit geval wetenschappelijke artikelen.
Een geavanceerde functie van het systeem is het 'ontvouwen' van citaties van de tweede graad. Wanneer een bewijsstuk zelf weer naar andere bronnen verwijst, kan de interface deze informatie direct ontsluiten, waardoor de gebruiker een keten van bewijsvoering kan volgen zonder de context van het oorspronkelijke AI-antwoord te verliezen.
Resultaten uit gebruikersonderzoek
Om de effectiviteit van de methode te testen, is een laboratoriumstudie uitgevoerd. Hierbij werd de 'full gradient'-benadering vergeleken met een standaardontwerp voor citaties en document-QA (Question Answering). Uit de resultaten blijkt dat de nieuwe methode zorgde voor een diepere betrokkenheid bij de bronnen.
Volgens de analyse op scholarfeed.org leidde het gebruik van attribution gradients tot kwalitatief betere revisies van de AI-gegenereerde antwoorden door de deelnemers. De gebruikers waren beter in staat om de claims kritisch te toetsen en aanpassingen te maken op basis van de ontsloten bewijslast. De onderzoekers concluderen dat de techniek de interactie tussen het antwoord, de specifieke claim, het fragment en de bredere context aanzienlijk verbetert.
Academische context en ontwikkeling
Het onderzoek is een samenwerking tussen verschillende instellingen. De auteurs zijn Hita Kambhamettu, Alyssa Hwang en Andrew Head van de University of Pennsylvania, samen met Philippe Laban van Microsoft Research. Het werk is gepresenteerd op de 39e jaarlijkse ACM Symposium on User Interface Software and Technology (UIST '26), dat plaatsvond van 2 tot 5 november 2026 in Detroit, Verenigde Staten, zoals vermeld in de documentatie op .
De focus van het onderzoek ligt op de intersectie tussen mens-computerinteractie (HCI) en kunstmatige intelligentie. De ontwikkelaars streven ernaar om de onpraktische aard van het handmatig verifiëren van AI-attributies op te lossen door middel van interactieve systemen en tools die de transparantie van AI-antwoorden vergroten.