Nadat het Pentagon Anthropic de deur heeft gewezen en OpenAI heeft omarmt, geeft het die laatste AI-specialist de garanties die de eerste zo graag wilde. Toch blijft Anthropic officieel een ‘risico voor de toeleveringsketen’. De boodschap is duidelijk: wie niet luistert naar de overheid, zal de gevolgen voelen.
OpenAI heeft zijn kersverse overeenkomst met het Pentagon aangepast. CEO Sam Altman geeft zelf toe dat de deal die eind vorige week werd gesloten er ‘opportunistisch en rommelig’ uitzag. In de nieuwe versie krijgt OpenAI een aantal garanties.
Zo bevat het contract nu voorwaarden die moeten voorkomen dat de AI-systemen van OpenAI gebruikt zullen worden voor opzettelijke massa-surveillance van Amerikaanse burgers. De Amerikaanse NSA, gekend van massa-surveillance van Amerikaanse burgers, krijgt momenteel niet zomaar toegang tot de GPT-modellen van OpenAI. Altman en de zijnen zouden bovendien ook garanties hebben gekregen over een verbod op gebruik van AI voor autonome wapensystemen.
Wie het verhaal gevolgd heeft, mag zich in de harden krabben. We fietsen er even samen door:
De rel begint
Twee weken geleden ontstond een rel tussen Anthropic en het Amerikaanse ministerie van Defensie. Het AI-model Claude van Anthropic draaide op dat moment als enige goedgekeurde AI-model op de geclassificeerde systemen van het Pentagon. Anthropic had echter voorwaarden opgelegd aan het gebruik: Claude mocht niet ingezet worden voor massa-surveillance van Amerikaanse burgers en autonome wapensystemen.
lees ook
Pentagon legt bom onder ethische AI: Anthropic bedreigd met ‘risico’-label
Defensieminister Pete Hegseth kon dat niet verkroppen. Hij stelde dat het Pentagon zich enkel aan de wet te houden had. Dat de wet in de VS momenteel niet echt iets zegt over het gebruik van AI in die scenario’s, viel dan mee. Anthropic moest de contractvoorwaarden laten vallen, maar weigerde.
Het Pentagon begon Athropic daarop af te dreigen: als de voorwaarde bleven, zou Anthropic als ‘risico voor de toeleveringsketen worden bestempeld’. Dat is een stempel normaal voorbehouden voor bedrijven gelinkt aan vijandige mogendheden. Het label verbiedt bedrijven die zakendoen met het Pentagon om in zee te gaan met Anthropic. Anthropic zou ook zijn contract met het Pentagon zelf verliezen.
Meer dreigementen
Vorige week schepte Hegseth nog wat olie op het vuur. Anthropic kreeg een deadline opgelegd om te plooien voor de eisen. CEO Dario Amodei herhaalde dat hij inschikkelijk wilde zijn, maar dat er twee rode lijnen waren: een verbod op massa-surveillance van Amerikaanse burgers en op autonome wapensystemen.
Afgelopen vrijdag werd de deadline niet gehaald. Hegseth was zo gebrand op een contract zonder voorwaarden rond massa-surveillance van Amerikaanse burgers en op autonome wapensystemen, dat hij volharde. Anthropic is voortaan een risicobedrijf.
Opportunisme van OpenAI
Dat zou lastig zijn voor het Pentagon, dat daarmee zijn enige AI-provider verloor. Gelukkig voor Hegseth sprong Sam Altman in de bres: in geen tijd werd er een contract uitgewerkt waarmee ChatGPT Claude kon vervangen.
De deal had minstens een schijn van opportunisme. Dat vinden niet alleen gebruikers die massaal overstappen naar een alternatief, maar dus ook Altman zelf. Hij stelde vast dat de onderhandelingen misschien toch wat snel gegaan waren. “De problemen zouden super complex zijn”, denkt hij nu, refererend naar massa-surveillance en het potentieel om AI-moordrobots te maken. “Heldere communicatie is nodig”, merkt hij na een korte bezinning op.
lees ook
Pentagon zet Anthropic opzij voor OpenAI
De come-back van de voorwaarden
Daarmee komen we aan vandaag. Altman wil het Pentagon best helpen, maar heeft twee rode lijnen: een verbod op massa-surveillance van Amerikaanse burgers en op autonome wapensystemen.
De aandachtige lezer verwacht misschien dat OpenAI nu ook een risico voor de toeleveringsketen-badge zal ontvangen, maar nee. Het reeds gesloten en volgens Altman zelf rommelige contract krijgt een amendement met voorwaarden. Daarin gaat het Pentagon akkoord om ChatGPT niet te gebruiken voor massa-surveillance van Amerikaanse burgers en de ontwikkeling autonome wapensystemen.
Wat is er gebeurd?
Na twee weken van dreigementen heeft het Pentagon nu zijn vertrouwde AI-provider met pek en veren de laan uit gestuurd. Overheidsdiensten moeten massaal afstand nemen van het Amerikaanse bedrijf. Een nieuw groot Amerikaans AI-bedrijf heeft de rol overgenomen, maar uiteindelijk wel dezelfde voorwaarden bekomen.
Voor het gebruik van AI door het Pentagon is er dus niets veranderd. Economisch en ethisch heeft er echter een aardverschuiving plaatsgevonden. De Amerikaanse overheid heeft getoond dat ze er niet voor terugschrikt eigen bedrijven aan te vallen met alle beschikbare middelen indien ze haar zin niet krijgt.
Sterker nog: doordat OpenAI nu de befaamde voorwaarde alsnog heeft verworven, heeft Hegseth gedemonstreerd dat de overheid zich kan verlagen tot persoonlijke vendetta’s. Wie een eigen ethische code wil handhaven tegenover de overheid, moet de gevolgen dragen. Het klimaat waarin de belangrijkste ontwikkeling van AI-modellen wereldwijd vandaag gebeurt, heeft zo op twee weken tijd air van dreiging, angst en opportunisme gekregen.