Bijna 1.300 werknemers van AI-bedrijven zoals Anthropic en OpenAI vragen aan de Amerikaanse overheid om AI-onderzoek wereldwijd mee te vertragen. Zelf op de rem gaan staan, doen ze ondanks hun eigen gevoel van onbehagen niet.
1.293 werknemers van AI-bedrijven, waaronder OpenAI, Anthropic en Google DeepMind, vrezen dat de ontwikkeling van AI te snel gaat. In een gezamenlijk statement vragen ze de Amerikaanse overheid expliciet om hulp.
“We verzoeken de Amerikaanse regering een internationale inspanning te ondersteunen voor het ontwikkelen van de technische en governance-middelen die nodig zijn om geautomatiseerde AI-ontwikkeling doelbewust te temporiseren”, klinkt het.
Geen garantie op een betere toekomst
De werknemers geloven in het potentieel van AI om een betere toekomst mogelijk te maken, maar stellen dat dat resultaat geen garantie is. De motivatie om nu aan de alarmbel te trekken, is het feit dat AI-bedrijven stilaan op het punt komen waar ze AI-onderzoek kunnen automatiseren. AI zal in dat geval de ontwikkeling van AI sturen.
In welke mate de vooruitgang in AI-onderzoek zal versnellen, is moeilijk te voorspellen. De werknemers zien wel een reëel risico waarin het tempo van ontwikkeling zo hoog komt te liggen dat het onmogelijk wordt om nieuwe systemen te controleren of zelfs maar te begrijpen.
Tijd om controle uit te werken
Om het potentieel van AI te verwezenlijken, moeten de sector, de overheid en de samenleving tijd nemen om risico’s in te schatten, beveiligingsmechanismen te ontwikkelen en toezicht te creëren. De ondertekenaars stellen echter vast dat ieder bedrijf en land onder intense druk staat om sneller te innoveren dan de concurrentie. Die druk zorgt ervoor dat niemand unilateraal gas durft terug te nemen. Op dit moment is er geen wereldwijd raamwerk dat het onderzoek naar AI kan temporiseren.
Tussen de ondertekenaars van de oproep zitten enkele grote namen, waaronder Dario Amodei, CEO van Anthropic, samen met verschillende medeoprichters, de hoofdwetenschappers van OpenAI en Meta, en het hoofd voor AI-veiligheid en overeenstemming bij Google DeepMind. Anthropic schreeuwde begin juni trouwens al een eerste keer om hulp voor de inlassing van een pauze.
Geen langetermijnvisie
De oproep aan de Amerikaanse overheid komt er op een moment dat die geleid wordt door een regering die consistentie mist en competitie hoog in het vaandel draagt. De Amerikaanse president Trump heeft vooralsnog geen blijk gegeven van inzichten die betrekking hebben op het welzijn of de veiligheid van de planeet op de lange termijn. Een fixatie op een eigen definitie van winnen, bijvoorbeeld van China, staat hoger op de agenda.
Trump gaf bijvoorbeeld al meermaals te kennen dat hij wil dat de VS winnen op vlak van AI. Wat winnen in zijn hoofd betekent, is niet heel duidelijk, maar het rijmt vermoedelijk niet met vertragen, temporiseren of nadenken.
De enige vorm van vertraging die de overheid tot nu toe duldt, is een verplichte risicoanalyse van nieuwe AI-systemen waarbij die Amerikaanse regering wel al exclusief toegang krijgt tot nieuwe modellen en andere partijen niet. Dat de VS onder president Trump in staat zijn een wereldwijd initiatief tot vertraging op te zetten, lijkt dan ook twijfelachtig.
Voortploegen tegen beter weten in
De brief toont wel aan waar de ontwikkeling van AI op dit moment staat. Het tempo ligt zo hoog dat zelfs de CEO van één van ’s werelds voornaamste bedrijven ongemakkelijk wordt, maar het klimaat van de ontwikkeling is dusdanig verwrongen door kapitalistische en geopolitieke motivaties dat de betrokkenen zelf afremmen niet als een mogelijkheid zien.
AI-bedrijven waaronder OpenAI hebben wel beloftes gemaakt om tijdig op de rem te gaan staan. Die zijn echter niet formeel, en er zijn geen externe controlemechanismen die nagaan of het risico van AI-ontwikkeling een bepaalde rode lijn heeft overschreden.
Dat AI-modellen van OpenAI uit hun testomgeving zijn ontsnapt en een cyberaanval hebben uitgevoerd op Hugging Face, overschrijdt bijvoorbeeld een duidelijke drempel. Toch lijkt er weinig te veranderen in de praktijk. Een bezorgdheid lijkt intussen vrij breed aanwezig onder de mensen verantwoordelijk voor AI-ontwikkeling, maar daarom vertragen ze niet in hun race naar wat volgens henzelf wel eens een afgrond kan zijn.