Wat is er gebeurd
Anthropic, een groot AI-bedrijf uit San Francisco, heeft twee van zijn AI-modellen stopgezet. Het gaat om Fable en Mythos. Dit gebeurde niet vrijwillig. Het Amerikaanse ministerie van Handel (Commerce Department) eiste het.
De directe aanleiding was een technisch probleem in Fable 5. Iemand ontdekte een 'jailbreak' (een manier om beveiligingen te omzeilen). De regering vreest dat dit een risico vormt voor de nationale veiligheid.
Waarom dit bijzonder is
Het is zeldzaam dat een overheid een privébedrijf dwingt zijn producten uit te schakelen. Normaal gesproken gaat het om waarschuwingen of boetes. Hier werd direct ingegrepen.
De Trump-administratie neemt een harde lijn in AI-regulering. Vooral als het gaat om modellen die potentieel gevaarlijke informatie kunnen genereren. De zorgen gaan blijkbaar verder dan alleen ethische kwesties.
Wat we niet weten
De overheid heeft niet precies uitgelegd welk scenario zij vrezen. Wat voor nationale veiligheidsdreiging zagen zij in een jailbreak van een taalmodel? Dat blijft onduidelijk.
Ook is onbekend hoeveel gebruikers door de stopzetting getroffen zijn. Anthropic heeft geen cijfers gegeven over het gebruik van Fable en Mythos. Waren dit experimentele modellen of breed ingezette systemen?
Waar zit de coördinatie
Dit incident laat zien hoe lastig het is om AI-systemen te coördineren tussen ontwikkelaars en overheden. Een bedrijf bouwt een model met beveiligingen. Iemand vindt een manier eromheen. De overheid schakelt in met een noodbevel.
Maar wie beslist wat 'veilig genoeg' is? En op basis van welke informatie? Als de overheid niet uitlegt wat het probleem was, kan de industrie niet leren. Als de industrie niet transparant is over zwakke plekken, kan de overheid niet inschatten wat echt gevaarlijk is.
Het is een coördinatieprobleem tussen mensen (beleidsmakers), AI-ontwikkelaars en de systemen zelf. Zonder duidelijke communicatie ontstaan ad-hoc beslissingen.
Wat we zeker weten
- Anthropic heeft Fable en Mythos uitgezet.
- Dit gebeurde op bevel van het Amerikaanse ministerie van Handel.
- De aanleiding was een jailbreak in Fable 5.
- De regering noemt nationale veiligheid als reden.
Wat nog onbekend is
- Welke specifieke dreiging de overheid precies zag.
- Of er daadwerkelijk misbruik van de jailbreak plaatsvond.
- Hoeveel gebruikers het trof.
- Of Anthropic de modellen ooit weer mag activeren.
- Welke andere AI-bedrijven mogelijk soortgelijke bevelen krijgen.
Wat we zeker weten
- Anthropic heeft Fable en Mythos modellen stopgezet
- Dit gebeurde op bevel van het Amerikaanse ministerie van Handel (Commerce Department)
- De aanleiding was een 'jailbreak' gevonden in Fable 5
- De regering noemt nationale veiligheid als reden
Wat nog onbekend is
- Welke specifieke nationale veiligheidsdreiging de overheid precies zag
- Of er daadwerkelijk misbruik van de jailbreak heeft plaatsgevonden
- Hoeveel gebruikers getroffen zijn door de stopzetting
- Of en wanneer de modellen weer geactiveerd mogen worden
- Welke andere AI-bedrijven mogelijk soortgelijke instructies krijgen
Waar zit de coördinatie (AstraNL)
Voor AstraNL is dit een signaal dat coördinatie tussen AI-systemen en menselijke autoriteiten niet vanzelf goed gaat. Als overheden ingrijpen zonder uitleg, en bedrijven reageren zonder transparantie, ontstaat chaos in plaats van samenwerking. Onze missie draait om het expliciet maken van wie wat doet en waarom — precies wat hier ontbrak.