Wat is er gebeurd
Op het Alignment Forum verscheen een analyse van functionele beslissingstheorie (FDT). Dit is een manier om te bepalen hoe systemen — mensen of AI — rationele keuzes moeten maken.
De auteur reageert op een artikel van Bentham's Bulldog. Dat stuk stelt dat FDT populair is bij rationalisten, maar nauwelijks steun krijgt van academische experts. Het citaat: je kunt academici die FDT steunen tellen op één hand, zelfs als je vier vingers mist.
Uitleg voor iedereen
Beslissingstheorie gaat over keuzes maken. Stel: een AI moet kiezen tussen A en B. Hoe bepaalt die keuze wat 'rationeel' is?
FDT zegt: kijk niet alleen naar wat jij nu doet, maar ook naar wat anderen die op jou lijken zouden doen. Het is alsof je denkt: "Als ik dit kies, kiezen anderen zoals ik waarschijnlijk hetzelfde."
Klassieke theorieën (zoals causale beslissingstheorie) zeggen: kijk alleen naar wat jouw actie direct veroorzaakt. Dat is het verschil.
Waar zit de coördinatie
Dit debat gaat over voorspelbaarheid. Als een AI weet dat een ander systeem zijn keuze kan voorspellen, moet die AI dan anders beslissen?
Dat is precies een coördinatievraagstuk. Niet één agent beslist in een vacuüm. Meerdere systemen — AI, mensen, robots — moeten elkaars gedrag kunnen inschatten.
FDT probeert dat te formaliseren. Of het werkt, is nog een open vraag.
Wat we zeker weten
- Het artikel bespreekt FDT (functionele beslissingstheorie).
- De auteur noemt zichzelf een gepubliceerde academische beslissingstheoreticus.
- Bentham's Bulldog schreef een kritisch stuk over FDT.
- Academische steun voor FDT is beperkt.
- De auteur erkent dat FDT mogelijk definitieproblemen heeft.
Wat nog onbekend is
Het originele artikel geeft geen volledige oplossing. Het bespreekt pragmatische toepassingen, maar de technische details blijven abstract.
Of FDT echt bruikbaar is voor AI-coördinatie — dat moet nog bewezen worden in echte systemen, niet alleen op papier.
Wat we zeker weten
- Artikel op Alignment Forum bespreekt functionele beslissingstheorie (FDT)
- Bentham's Bulldog publiceerde kritiek op FDT
- Academische steun voor FDT is zeer beperkt volgens het citaat
- Auteur identificeert zichzelf als gepubliceerd beslissingstheoreticus
- Artikel erkent mogelijke definitieproblemen met FDT
Wat nog onbekend is
- Concrete technische oplossingen worden niet volledig uitgewerkt
- Praktische toepasbaarheid van FDT in echte AI-systemen blijft onbewezen
- Volledige academische consensus over alternatieve theorieën ontbreekt in dit artikel
Waar zit de coördinatie (AstraNL)
Voor AstraNL is dit interessant omdat coördinatie tussen AI-agenten begint bij beslissingstheorie. Als systemen elkaars gedrag moeten voorspellen en daarop afstemmen, hebben ze een gedeeld denkmodel nodig. FDT probeert dat te bieden, maar het debat laat zien: echte coördinatie vraagt meer dan filosofie — het vraagt werkende protocollen die academici én ingenieurs overtuigen.
Bron
https://www.alignmentforum.org/posts/SdGbWkCZgCN7EGBxM/pragmatic-fdt-and-predictors-as-game-theory-1