Onderzoekers hebben een nieuw theoretisch kader voorgesteld om de spanning tussen de zelforganiserende eigenschappen van intelligente systemen en de noodzaak voor menselijke controle op te lossen.
In een recent gepubliceerd wetenschappelijk document beschrijven onderzoekers Hao Li, Minghui Ren en Shaowen Lu een nieuw computationeel ontwerpprogramma dat zich richt op zogenaamde 'gecontroleerde emergentie'. Het onderzoek, dat op 19 oktober 2026 werd ingediend bij arxiv.org, analyseert hoe de macroscopische vermogens van intelligente systemen voortkomen uit de lokale interacties van eenvoudige eenheden.
De paradox van emergentie
Het kernprobleem dat de auteurs adresseren, is de inherente tegenstelling die ontstaat wanneer intelligente systemen in de echte wereld worden ingezet. Enerzijds is adaptiviteit essentieel voor de functionaliteit van deze systemen, maar anderzijds moeten hun gedragingen strikt worden beperkt om controleverlies te voorkomen. Volgens de publicatie op ontbreekt het ontwerpers momenteel aan formele instrumenten om dit dilemma effectief op te lossen.
Om dit aan te pakken, stellen de onderzoekers een programma voor dat deze spanning herdefinieert als een paar 'duale problemen':
1. Het voorwaartse probleem: Dit richt zich op het verklaren van macroscopisch gedrag op basis van lokale regels.
2. Het inverse probleem: Dit zoekt naar controleerbare regels en uitleesmechanismen die leiden tot een specifiek gewenst doel.
Engineering en meetbare coördinaten
Het voorgestelde kader introduceert een 'augmented quintuple' als formeel object dat beide kanten van het probleem verbindt. De onderzoekers splitsen het concept van 'engineering' hierbij op in drie onafhankelijk meetbare coördinaten: reproduceerbaarheid, controleerbaarheid en de graad van formaliseerbaarheid.
Binnen dit programma worden drie testbare hypothesen geformuleerd, waaronder de 'kritieke schaal' en de afweging tussen beperking en adaptiviteit. Het doel is om het inverse ontwerp te transformeren van een onbeperkte optimalisatie naar een proces van 'interval checking'. Belangrijk hierbij is dat het programma niet streeft naar volledige controle, maar expliciete faalgrenzen hanteert terwijl de ruimte voor zelforganisatie van het systeem behouden blijft.
Toepasbaarheid en validatie
Hoewel de auteurs een pilotexperiment hebben bijgevoegd, benadrukken zij in de dat dit enkel dient om de uitvoerbaarheid van het onderzoeksprotocol te verifiëren en geen statistische toetsing van de hypothesen vormt. De voorgestelde designtaal is breed toepasbaar en kan worden gegeneraliseerd naar diverse domeinen, waaronder:
* Multi-agent kunstmatige intelligentie;
* Het industriële internet;
* Systemen voor noodhulpverlening.
Context van digitale vaardigheden en AI
Terwijl academische kaders zoals die van Li en collega's zich richten op de technische architectuur van AI, richten andere initiatieven zich op de praktische toepassing van dergelijke technologieën in de professionele wereld. Zo biedt het mckinsey.org trainingen aan professionals om digitale en AI-instrumenten op een verantwoordelijke en effectieve manier te gebruiken.
Waar het onderzoek naar gecontroleerde emergentie zich bezighoudt met de fundamentele controle over systemen, focust het op het ontwikkelen van menselijke vaardigheden zoals gestructureerd denken en adaptiviteit om in een veranderende werkomgeving te kunnen functioneren. Dit onderstreept de bredere trend waarbij zowel de technische beheersbaarheid van AI als de menselijke competentie om ermee samen te werken centraal staan in de huidige technologische ontwikkeling.