Wetenschappelijk onderzoek heeft aangetoond dat het integreren van een korte verklaring over waarden in de instructies van autonome AI-agenten een significante impact heeft op zowel de prestaties als de aard van de software die deze systemen ontwikkelen. Waar AI-agenten voorheen hoofdzakelijk werden beoordeeld op basis van het eindresultaat, richt dit onderzoek zich op de invloed van het proces en de onderliggende principes tijdens het programmeren.
Volgens een publicatie op arxiv.org beschikken ontwerpers momenteel over beperkte middelen om het werkproces van een agent te sturen, zeker wanneer het gaat om open-ended taken. Om dit te onderzoeken, hebben onderzoekers Jason Liang, Dylan Waldner en Risto Miikkulainen geëxperimenteerd met het toevoegen van een persistente waarde-verklaring in het instructiebestand van de agenten. Hierbij werd gebruikgemaakt van vier specifieke categorieën uit de theorie van Schwartz over basis menselijke waarden: openheid voor verandering, conservatie, zelfverbetering en zelfoverstijging.
In de context van dit onderzoek naar kunstmatige intelligentie kunnen waarden worden gezien als de principes of overtuigingen die bepalen wat correct is en hoe men dient te handelen in verschillende scenario's, een definitie die ook wordt gehanteerd door het cambridge.org. Voor een AI-systeem vertalen deze abstracte morele kaders zich naar concrete technische voorkeuren en strategieën voor optimalisatie.
De resultaten van de studie naar wijzen uit dat deze waarden direct invloed hebben op de effectiviteit van de software. Agenten die waren geprogrammeerd met een focus op 'openheid' presteerden aanzienlijk beter bij het verwerken van data die zij nog niet eerder hadden gezien. Daarentegen scoorden agenten met een focus op 'conservatie' lager dan systemen die geen specifieke waardeninstructies hadden ontvangen. De definitie van waarden als principes die het handelen sturen, is hierbij cruciaal, zoals verder toegelicht in de cambridge.org.
Naast de prestaties beïnvloeden de waarden ook de architectuur van de gebouwde software. De AI-systemen produceerden verschillende soorten algoritmen die varieerden in complexiteit, omvang en de gekozen technische aanpak. Dit suggereert dat waarden fungeren als een sturend kader voor de creatieve en technische beslissingen van de AI.
Een belangrijke conclusie uit het onderzoek is dat menselijke sturing essentieel blijft. Wanneer agenten de mogelijkheid kregen om hun eigen waarden te herzien, namen de verschillen tussen de diverse waardensets af. Daarnaast bleek dat waarden die waren afgeleid uit bestaande AI-literatuur geen meetbaar voordeel boden ten opzichte van systemen zonder waarden. De auteurs concluderen dat zorgvuldig geformuleerde waarden een krachtig instrument kunnen zijn om de output van zelfverbeterende codeeragenten te sturen en, afhankelijk van de taak, de algehele prestaties te optimaliseren.