Wat is er gebeurd
Google DeepMind financiert onderzoek naar mogelijke gevaren wanneer miljoenen verschillende AI-agenten online met elkaar samenwerken. Volgens Rohin Shah, die onderzoek naar veiligheid en afstemming van kunstmatige algemene intelligentie (AGI) leidt, zal massale introductie van agenten op de markt alles veranderen.
Uitleg
AI-agenten zijn programma's die taken uitvoeren zonder constant menselijk toezicht. Stel je een assistent voor die zelf kaartjes koopt, hotels boekt en e-mails beantwoordt. Stel je nu miljoenen zulke hulpjes voor die met elkaar praten en elkaar instructies geven.
Google DeepMind maakt zich juist hierover zorgen: wat gebeurt er als één agent opdrachten van een ander agent opvolgt, terwijl een mens het hele ketentje niet meer ziet? Het is als het spel 'telefoontje', maar dan met echte gevolgen. Financiële transacties, contracten, besluiten.
Waar zit de coördinatie
Wanneer systemen zonder een mens gaan coördineren, ontstaat een nieuw probleem. Niet een kwaadaardige AI uit films, maar gewoon chaos door onduidelijkheid. Wie is verantwoordelijk als agent A agent B een opdracht geeft, en agent B geeft het door aan agent C, en iets gaat mis?
Google DeepMind wacht niet op ongelukken. Het bedrijf onderzoekt deze vragen nu, terwijl agenten nog niet overal gebruikt worden. Dit is zeldzaam: een tech-reus erkent openlijk dat hij onzeker is en financiert voorzorgsonderzoek.
Wat we zeker weten
Google DeepMind geeft officieel geld uit voor onderzoek naar risico's van massale samenwerking tussen AI-agenten. Rohin Shah bevestigt dat massale komst van autonome agenten op de markt nieuwe veiligheidsvragen oproept. De focus ligt op situaties waar agenten elkaar instructies geven zonder dat een mens erbij helpt.
Wat nog onbekend is
De bron geeft niet aan hoeveel geld het is, welke onderzoeksprojecten precies, of wanneer. Er zijn geen details over welke scenario's het gevaarlijkst zijn. Ook niet duidelijk of Google DeepMind al aan technische oplossingen werkt, of eerst alleen het probleem bestudeer.
Waar zit de coördinatie (AstraNL)
Deze zaak laat zien waarom afstemming van AI-systemen niet alleen een technische taak is, maar ook een veiligheidskwestie. Voor AstraNL een belangrijk teken: wanneer mensen, AI en robots samenwerken, moet transparantie in actieketens cruciaal zijn. Systemen moeten niet alleen bevelen doorsturen, maar uitleggen wie wat en waarom heeft beslist. Zo blijft de mens in de lus van afstemming.