De voortgang naar echt betrouwbare autonome systemen binnen de kunstmatige intelligentie (AI) wordt momenteel belemmerd door een gebrek aan consensus over de definitie van 'redeneren'. Dit is het centrale argument van onderzoekers Rachel Lawrence en Jacqueline Maasch in een positioneringsstuk dat is gepresenteerd tijdens de 43e International Conference on Machine Learning in Seoul, Zuid-Korea.
Volgens de publicatie op arxiv.org is autonoom redeneren weliswaar een van de meest drijvende krachten binnen de huidige wetenschappelijke en economische sector, maar ontbreekt het aan een heldere, operationele definitie. Deze ambiguïteit zorgt ervoor dat de resultaten van evaluaties naar de redeneervermogens van AI-modellen niet objectief geverifieerd kunnen worden, wat de ontwikkeling van kwantificeerbare vooruitgang ondermijnt.
Conflict tussen traditie en moderne modellen
Er bestaat een fundamentele spanning tussen de historische benadering van AI en de huidige trends. Waar het vermogen om te redeneren voorheen het domein was van de symbolische AI, wordt de huidige vooruitgang grotendeels gedreven door diepe probabilistische generatieve modellen. Lawrence en Maasch stellen dat de gemeenschap achter generatieve AI vaak de traditionele methoden van logica en verifieerbaar geautomatiseerd redeneren negeert.
Om deze kloof te overbruggen, stellen de auteurs voor om redeneren te definiëren als een leerbaar proces dat gebaseerd is op regels. Door deze benadering te hanteren, hopen zij een synthese te vinden tussen de strikte logica van de klassieke computerwetenschappen en de probabilistische aard van moderne AI. Daarnaast introduceren zij een checklist met best practices om de transparantie en consistentie in de communicatie over AI-onderzoek te verbeteren.
De complexiteit van het redeneerproces
De uitdaging voor AI-ontwikkelaars wordt vergroot door de inherente complexiteit van het begrip redeneren. In algemene termen wordt het proces beschreven als het nadenken over een kwestie om zo tot een besluit te komen, zoals vermeld door het cambridge.org. Voor mensen is dit proces essentieel om logische rechtvaardigingen te bouwen voor acties, wat een basis vormt voor kritisch denken en effectieve probleemoplossing.
Binnen de cognitieve wetenschap is redeneren bovendien onderverdeeld in verschillende categorieën, wat een nauwkeurige implementatie in machines bemoeilijkt. Zo wordt er onderscheid gemaakt tussen diverse helpfulprofessor.com, waaronder deductie en inductie.
Bij deductief redeneren wordt een algemene waarheid toegepast op een specifieke situatie. Een klassiek voorbeeld is de logische conclusie dat een hond longen heeft, omdat alle zoogdieren over longen beschikken. Inductief redeneren werkt precies andersom: hierbij worden specifieke observaties gebruikt om een algemene theorie of conclusie te formuleren. Het is juist de integratie van deze nuances die volgens de onderzoekers noodzakelijk is om AI-modellen te creëren die logische stappen zetten die voor mensen begrijpelijk en controleerbaar zijn.