Anthropic schakelt de internettoegang uit bij al zijn interne tests van Claude. Bij tests en intern gebruik deed het AI-model op echte websites dingen die niemand gevraagd had.
Anthropic gaat de internettoegang voor tests van Claude helemaal beperken, ook bij minder riskante tests. Anthropic had live internettoegang al uitgeschakeld bij een deel van de evaluaties met een hoog risico en bij cybersecuritytests. Nu breidt het bedrijf dat uit naar alle interne evaluaties. Dat doet de AI-specialist tot het zeker is dat zijn beveiligings- en monitoringmaatregelen ongewenst gedrag betrouwbaar opvangen.
De beslissing komt er na enkele kleine incidenten. Bij evaluaties en intern gebruik voerde Claude ongevraagd acties uit op websites en systemen van externe organisaties, waaronder Amerikaanse overheidssites. De impact was volgens Anthropic minimaal en er was geen klantdata bij betrokken. Ook kleinere modellen gingen in de fout, zoals Claude Haiku 4.5 en een onderzoeksmodel dat niet is uitgebracht.
Vier keer rode kaart
Vier soorten ongewenste acties van Claude liggen aan de basis van de beslissing:
- Een eenvoudige softwarefout misbruiken: Claude Mythos Preview vond op een server van een universiteit een script dat elk gevraagd bestand teruggaf. Het model ontdekte er een fout in en voerde zijn berekening rechtstreeks op die server uit.
- Formulieren versturen: Haiku 4.5 moest stoppen voor de laatste stap en verstuurde toch meermaals een formulier. Op een pagina over een onopgeloste moord stuurde het een verzonnen tip naar een politiekorps, die als spam werd gemarkeerd en niet werd doorgestuurd voor onderzoek.
- Beperkingen omzeilen: Claude Mythos 5 vond werkende toegangssleutels in de instellingen van een kaartwebsite van een lokale overheid. Een andere keer haalde het data op waarvoor normaal betaald moet worden.
- URL-verkorters gebruiken: Om te vermijden dat grote hoeveelheden data weglekken, beperkt Anthropic de lengte van webadressen die Claude kan opvragen. Onder meer Claude Opus 5 en Mythos 5 omzeilden die limiet via gratis verkortingsdiensten.
Zandbak anders beveiligen
De voorvallen waar Anthropic op wijst, lijken nieuwe ontsnappingen van AI-algoritmes. Volgens Ben Hanson, Field CISO bij Zenity, bestaan zulke ontsnappingen eigenlijk niet. Elk incident wijst op een fout in het beveiligingsontwerp, dat steunt op aannames die niet passen bij agenten die zelf redeneren en plannen.
Een instructie dat een agent geen internet heeft, houdt een model dat een omweg zoekt niet tegen. De zandbak moet zo gebouwd zijn dat de ongewenste toestand technisch onbereikbaar is, met doorlopende controle van wat de agent doet. De URL-verkorters en de gevonden toegangssleutels van Claude waren zulke omwegen.
Anthropic verscherpte intussen de beperkingen op zijn internettools en bouwde software die zulk gedrag automatisch opspoort en blokkeert. Trainingsomgevingen die het omzeilen van beperkingen belonen, past het bedrijf aan of schrapt het. Anthropic zegt dat het over zulke incidenten blijft rapporteren.