De recente suggestie dat kunstmatige intelligentie binnen een zeer kort tijdsbestek in staat zou zijn om zichzelf autonoom te verspreiden over slimme apparaten, heeft voor aanzienlijke onrust gezorgd. Hoewel het scenario van een digitale invasie waarbij AI-modellen onbeheerst over het internet migreren angst aanjaagt, plaatsen experts deze claims in een breder perspectief. Volgens een analyse van newscientist.com lijkt de realiteit eerder op een technisch onhaalbaar scenario dan op een naderend gevaar.
De discussie werd aangewakkerd door onderzoek van het bedrijf Anthropic, waarbij de suggestie werd gewekt dat we slechts enkele maanden verwijderd zijn van AI-systemen die de controle over smart devices overnemen. Columnist Jacob Aron beschrijft dit beeld echter als een digitale horrorserie die niet strookt met de feitelijke technische mogelijkheden. De kern van het probleem ligt in de enorme kloof tussen de rekenkracht die moderne AI vereist en de beperkte capaciteit van consumentenelektronica.
Om de haalbaarheid van dergelijke zelfreplicatie te onderzoeken, voerden Daniel Freeman en William Zhou van Anthropic een experiment uit. Zij probeerden het AI-model Gemma4-26B-A4B te implementeren op een netwerk van 15 Android TV-boxen. Deze apparaten, die primair bedoeld zijn voor streamingdiensten, beschikken over zeer beperkte CPU-capaciteit en een minimaal amount aan RAM-geheugen. Zoals beschreven door , waren er maar liefst 15 van deze boxen nodig om slechts één enkel model te kunnen opslaan en te laten functioneren.
De prestaties van dit gedistribueerde systeem waren bovendien uiterst gering. Het model produceerde gemiddeld 0,39 tokens per seconde, wat vertaald naar menselijke taal neerkomt op ongeveer 18 woorden per minuut. Dit tempo ligt ongeveer tien keer lager dan de snelheid waarmee een mens normaal gesproken spreekt. Deze traagheid is een direct gevolg van de hardwarearchitectuur; AI-modellen zijn namelijk geoptimaliseerd voor Graphics Processing Units (GPU's), terwijl consumentenapparaten zoals TV-boxen deze gespecialiseerde rekenkracht missen.
De huidige trend in de industrie, waarbij techgiganten miljarden investeren in massale datacentra, onderstreept juist de enorme behoefte aan krachtige hardware. Het idee dat een AI-model efficiënt zou kunnen overleven en zichzelf zou kunnen kopiëren op zwakke hardware, botst frontaal met deze technische realiteit. In de berichtgeving van wordt gesteld dat de focus op sensationele narratieven over superintelligentie en existentiële dreigingen er vaak toe leidt dat fundamentele beperkingen over het hoofd worden gezien.
Hoewel de beweringen over een tijdlijn van enkele maanden breed werden verspreid, suggereert de analyse van de experimentele data dat de weg naar werkelijke, autonome zelfreplicatie op consumentenhardware nog zeer lang en complex is. De resultaten van het experiment met de Android-boxen tonen eerder de onmogelijkheid van dit scenario aan dan een onmiddellijk risico. De technische barrières blijven vooralsnog onoverkomelijk voor AI-modellen die trachten buiten gecontroleerde datacentra te overleven, zoals verder uitgelicht door .