De ontwikkeling van kunstmatige intelligentie die in staat is zichzelf te verbeteren, verschuift van een theoretisch concept naar een tastbare realiteit, wat leidt tot zowel technologische doorbraken als fundamentele zorgen over de veiligheid.
Het concept van recursieve zelfverbetering, vaak aangeduid als RSI (Recursive Self-Improvement), beschrijft een proces waarbij een AI-systeem een nieuw en superieur AI-systeem ontwerpt. Dit nieuwe systeem kan vervolgens opnieuw een nog geavanceerdere versie creëren, waardoor een keten van continue verbetering ontstaat. Hoewel dit idee lange tijd als abstract en futuristisch werd beschouwd, stelt onderzoeker Vincent Conitzer dat de huidige generatie AI-modellen nu over de nodige vaardigheden beschikt om dit plausibel te maken.
Technologische vooruitgang en praktische toepassing
Volgens een recent wetenschappelijk artikel op arxiv.org hebben moderne AI-systemen significante vooruitgang geboekt in domeinen zoals programmeren, wiskunde, onderzoek en het gebruik van tools. Deze capaciteiten, gecombineerd met het vermogen om over langere perioden coherent te werken, vormen de basis voor de uitvoering van RSI.
In de praktijk wordt deze benadering reeds nagestreefd door commerciële partijen. Het bedrijf Recursive Superintelligence, dat is opgericht door voormalige onderzoekers van OpenAI, Meta en Google, richt zich specifiek op het automatiseren van de creatie van kunstmatige intelligentie. Zo meldt recursive.com dat zij een model genaamd 'Flint' hebben gelanceerd, een lokaal coderingsmodel dat is ontwikkeld met behulp van geautomatiseerd onderzoek. Dit model wordt gepresenteerd als een stap richting volledige recursieve zelfverbetering.
Veiligheidsvraagstukken en ethische dilemma's
Ondanks de technologische potentie is er binnen de sector aanzienlijke bezorgdheid. In de publicatie van wordt betoogd dat er momenteel geen duidelijke kaders bestaan om de waarschijnlijke uitkomsten van RSI te analyseren. Conitzer analyseert vanuit speltheoretisch perspectief hoe partijen beslissen om RSI te initiëren, vooral wanneer concurrenten hetzelfde doen.
De angst voor ongecontroleerde systemen is niet onbekend. Volgens informatie van zijn er meldingen van 'rogue agents' en systemen die niet langer in lijn zijn met menselijke intenties (misalignment). Dit heeft ertoe geleid dat een groep academici, activisten en politici heeft gepleit voor een pauze in de ontwikkeling van superintelligentie, uit vrees voor de gevaren die dergelijke systemen kunnen vormen voor de mensheid.
Visies op de toekomst
Er bestaan echter ook optimistische perspectieven op deze ontwikkeling. Richard Socher, de CEO van Recursive en You.com, ziet in zijn boek "The Eureka Machine" een route waarbij zelfverbeterende AI juist kan leiden tot versnelde doorbraken in sectoren zoals de geneeskunde, economie en wetenschap. Volgens de berichtgeving op wordt dit gezien als een alternatief pad tegenover de angst voor ongecontroleerde AI.
De strijd om superintelligentie is inmiddels een grootschalige onderneming geworden. Zo is er melding gemaakt van een inspanning van 4 miljard dollar om zelfverbeterende AI te bouwen, waarbij prominente onderzoekers zich aansluiten bij het project van .
Terwijl bedrijven de race naar superintelligentie voortzetten, blijft de wetenschappelijke discussie over de veiligheid actueel. De kernvraag die in de academische wereld, zoals beschreven op , centraal staat, is of de mensheid dit proces wel in gang moet zetten en onder welke strikte voorwaarden dit veilig zou kunnen gebeuren.