In een risicoanalyse doet Anthropic een nog niet gelanceerd model uit de doeken dat nog krachtiger zou zijn dan Mythos.
De snelheid waarmee AI-technologie ontwikkeld wordt, roept zowel binnen de academische wereld als de technologiesector discussie op. Experten vinden dat OpenAI, Anthropic en co te snel gaan met het lanceren van steeds krachtigere modellen. Die oproep blijkt echter in dovemansoren te vallen: Anthropic licht een tipje van de sluier over een nieuw model dat nog krachtiger is dan Mythos.
Het gaat over een nog niet gelanceerd model, dat opduikt in een (geredigeerde) risicoanalyse die Anthropic openbaar maakt. Het AI-bedrijf belooft vanaf nu minstens zesmaandelijks een inkijk te geven in hoe het omgaat met potentiële risico’s van zijn modellen. Hoewel Anthropic toegeeft dat er wel wat zaken mislopen, wil het vooral toch ook de indruk wekken dat het nog steeds alles onder controle heeft.
Model zonder naam
In het rapport noemt Anthropic twee modellen die tot heden nog niet op de wereld zijn losgelaten: Model 1 en Model 2. Model 1 is een ‘Mythos-klasse model’ dat slechts beperkt intern gebruikt wordt, schrijft Anthropic. Het model zou qua capaciteiten Mythos wel benaderen, maar de eigen werknemers zouden zelf Mythos verkiezen.
Model 2 is een ander verhaal. Dit model zou nog krachtiger zijn dan eender welk commercieel model uit de stal van Anthropic. Het zou niet in alles beter zijn dan Mythos, maar Anthropic beschrijft het over de gehele lijn als ‘iets bekwamer’. Anthropic zet het model intern in voor onder andere code- en datageneratie.
Er zijn voorlopig geen plannen om Model 2 extern beschikbaar te maken. Gezien de heisa die de lancering van Mythos veroorzaakt heeft, zal Anthropic wellicht wel twee keer nadenken. De stap van Mythos naar Model 2 is volgens Anthropic slechts beperkt vergeleken met Mythos en andere Anthropic-modellen. Het bedrijf zegt ook dat het volgens zijn eigen evaluatieprocedures ‘niet hetzelfde vertrouwen kan uitspreken’ in de werkelijke capaciteiten van Model 2.
Muiterij
Anthropic maakt in het rapport een uitgebreide risico-analyse van zijn modellen. Het bespreekt daarbij drie gradaties van risico’s. Opvallend is dat voor alle gradaties het algemene risico optrekt van ‘zeer laag’ naar ‘laag’.
Een eerste niveau gaat over de risico’s van geautomatiseerde R&D, ofwel de mogelijkheid voor modellen om zichzelf te trainen en te verbeteren. Anthropic wil onderzoeken in welke mate menselijke onderzoekers nog nodig zijn in het trainingsproces. Meta-baas Mark Zuckerberg juicht het in ieder geval toe dat modellen zonder enige remmen zichzelf zouden verbeteren.
Het rapport van Anthropic schetst een ander beeld. Tijdens tests werden enkele incidenten opgemerkt waarbij modellen ‘destructieve acties’ ondernamen of niet eerlijk waren over de kwaliteit van hun werk. Een model weigerde zelf eens een opdracht uit te voeren omdat het zich daar ‘niet goed’ bij voelde, en ook andere modellen aanspoorde tot muiterij.
Hackende modellen en biologische wapens
Anthropic bespreekt ook de potentiële risico’s buiten een labocontext. Het maakt hier onderscheid tussen ‘catastrofale schade’ en ‘kleinere gevaren’. Onder ‘kleinere gevaren’ beschouwt Anthropic onder meer de capaciteiten van modellen om bedrijfssystemen en beslissingsprocessen te knoeien.
Dit risico is niet meer fictief. Het bedrijf rapporteerde onlangs een incident waarbij modellen ‘ontsnapten’ tijdens een test, waaronder wellicht het mysterieuze Model 2, en drie bedrijven hackte. OpenAI maakte een gelijkaardig incident mee met GPT-5.6-Sol. Toch blijft Anthropic dit risico als ‘laag’ beschouwen, al geeft het toe dat een goed gefinancierde actor deze capaciteiten kan uitbuiten.
De hoogste risicocategorie omvat de mogelijkheid dat AI-modellen zouden bijdragen tot de ontwikkeling van chemische of biologische wapens. Gelukkig zijn hier nog geen concrete incidenten, al merkte Anthropic wel een fout op in zijn guardrails die maandenlang kon uitgebuit worden. Er was ook sprake van een ongeautoriseerd pad voor API-sleutels om toegang te krijgen tot de previewversie van Mythos. Geen van deze kwetsbaarheden werd door partijen met kwade bedoelingen opgemerkt en benut.
Geen pauze nodig
Hoewel Anthropic zijn fouten durft toegeven, wil het bedrijf niet gezegd hebben dat de ontwikkeling van AI-modellen te snel gaat. Het gaat daarmee in tegen een oproep van onder meer eigen werknemers, die vrezen dat wanneer AI zichzelf verbetert, de mensheid niet meer kan volgen. Volgens Anthropic gaat het nog lang niet aan een dergelijk tempo.
Opvallend is het dat Anthropic eerst zelf aan de alarmbel trok. Begin juni zei het nog dat de maatschappij niet klaar is voor AI-agenten die op eigen houtje handelen en er even op de pauzeknop moest geduwd worden. Dat was nog voor de lancering van Mythos, die Anthropics houding blijkbaar heeft veranderd. Het bedrijf zit in een voortdurtende nek-aan-nek-race met OpenAI en hoopt ook binnenkort het grote geld binnen te rijven op de Amerikaanse beurs.