Volgens Anthropic is het tijd om even op de rem staan met ontwikkeling van AI-technologie. Hedendaagse modellen worden zo goed in code schrijven dat mensen de controle dreigen te verliezen.
In een blog doet Anthropic een opvallende oproep: het vraagt om AI-ontwikkeling tijdelijk te vertragen of zelfs te pauzeren. Volgens Anthropic evolueert de technologie vandaag sneller dan dat de maatschappij kan volgen. Maatschappelijke structuren en onderzoek moeten de kans krijgen om AI weer bij te benen.
Uit de pen van Anthropic klinken die woorden des te opvallender. Het bedrijf zit immers in een voortdurende nek-aan-nekrace met OpenAI voor de ontwikkeling van nieuwe, nog betere AI-modellen. Met Claude Mythos liet het recent een model los op de wereld dat zo goed is in het opsporen van kwetsbaarheden, dat zelfs de Amerikaanse overheid zich ermee bemoeit wie wel en geen toegang tot het model mag krijgen. “De manier waarop we AI-systemen beveiligen, in de gaten houden en hun gedrag sturen, wordt steeds belangrijker”, schrijven co-stichter Jack Clark en Marina Favaro, hoofdonderzoekster van The Anthropic Institute.
AI ontwikkelt AI
Anthropic slaat dan ook deels mea culpa voor de huidige snelheid waarmee AI zich ontwikkelt. In amper vijf jaar tijd ging het van het eerste Claude-model tot codeeragenten die evengoed of zelfs beter code kunnen schrijven dan mensen. Nu zitten we volgens Anthropic in de fase van autonome agenten die geen instructies van mensen meer nodig hebben en elkaar kunnen aansturen. Een trend waar deze week ook op Computex in Taiwan gretig op werd ingespeeld.
Naarmate AI-agenten steeds beter in codeerwerk worden en zelfstandiger opereren, komt de volgende fase dichterbij. Dan zouden AI-systemen in staat zijn om hun ‘opvolgers’ zelf te ontwikkelen en te verbeteren. “We zijn er nog niet, maar het zou wel eens sneller kunnen gebeuren dan waar de meeste instellingen op voorbereid zijn”, waarschuwt Anthropic.
Kwantiteit en kwaliteit
Anthropic ziet ‘bewijs’ voor zijn stelling in de eigen winkel. De afgelopen maand werd tachtig procent van interne code geschreven door Claude Code. Medewerkers van het bedrijf getuigen in de blog dat ze maandenlang zelf geen code meer hebben geschreven en dankzij AI hun productiviteit verveelvoudigd hebben. Anthropic spreekt sinds dit jaar van acht keer meer lijnen code per werknemer.
AI-systemen die hun eigen opvolgers ontwikkelen? We zijn er nog niet, maar het zal sneller gebeuren dan dat instellingen erop voorbereid zijn.
Jack Clark, co-stichter & Head of Policy Anthropic
Niet alleen de kwantiteit gaat er snel op vooruit, ook de kwaliteit. Daar waar tot zes maanden terug AI-code nog niet van dezelfde kwaliteit was als die van een ervaren programmeur, wordt die kloof met de dag kleiner. Anthropic verwacht dat codeeragenten dit jaar nog beter werk zullen kunnen leveren dan menselijke ontwikkelaars.
Nu levert dat grote efficiëntiewinsten op, maar Anthropic merkt dat menselijke controle erop achteruit gaat. Als het ooit zover komt dat AI-modellen in staat zijn om zichzelf te evalueren en te verbeteren, is er niets dat hen nog tegenhoudt en zullen mensen de teugels definitief kwijt zijn.
De vraag is maar of de oproep van Anthropic gehoor zal krijgen. Er hangen immers grote investeringen vanaf. Het bedrijf wil de komende maanden de koppen samensteken met beleidsmakers, onderzoekers en zijn concullega’s om dit te bespreken.