De CEO van Meta deelt in een erg lange blogpost hoe de toekomst van AI-ontwikkeling er moet uitzien. Blijkt dat wat goed is voor de mensheid, toevallig samenvalt met de ambities van het bedrijf. Al zijn de meeste claims bij nadere inspectie toch iets genuanceerder.
Mark Zuckerberg deelt in een ellenlange blogpost die de allures krijgt van een manifest hoe de toekomst met AI er moet uitzien. De tekst herbergt positieve ideeën, waaronder een brede toegang tot AI, maar dient toch vooral om de eigen bedrijfsagenda te kaderen als een strategisch plan voor de ganse mensheid.
Verhuld in de tekst vinden we acht agendapunten van Meta, vermomd als plannen voor de mensheid. We zetten die even op een rij, maar merken eerst op dat het bestaan van het manifest op zich al van een interessant zelfbeeld getuigt. Zuckerberg ziet zich als schatrijke CEO van een bedrijf dat intussen al meermaals veroordeeld is voor onethische praktijken, blijkbaar toch geplaatst om uitgebreid uit de doeken te doen welke rol AI moet hebben voor de gehele mensheid.
Voor we dieper ingaan op het manifest, is het belangrijk om te weten dat Zuckerbergs bedrijf intussen in de VS veroordeeld is voor opzettelijk verslavende designkeuzes in zijn producten (en in de EU onderzocht wordt), gelinkt wordt (door Amnesty) aan een grote uitbraak van etnisch geweld tegen de Rohingya in Myanmar en geassocieerd is met de nodige privacy-inbreuken.
Met die realiteit in het achterhoofd is het niet zo verwonderlijk dat het manifest toch vooral een pleidooi voor eigen winkel is. We kijken naar de belangrijkste claims.
1. Meta is goed, de grote concurrenten zijn slechter
“Meta is het bedrijf dat zich primair richt op het bouwen van persoonlijke superintelligentie voor iedereen”, klinkt het. “De meeste andere labs richten zich op het bouwen van AI voor bedrijven, overheden of andere instellingen, dus als die labs de leiding nemen, zal de machtsbalans in het voordeel van grotere instellingen boven individuen uitvallen.”
Zuckerberg omschrijft in zijn tekst hoe Meta eigenlijk de enige speler is die AI wil bouwen voor gewone mensen. Andere bedrijven, de facto Anthropic en OpenAI, zouden gesloten instellingen zijn en een risico vormen voor de balans tussen mens en AI in de toekomst.
Zo schildert Zuckerberg Meta af als de grote speler die opkomt voor de kleine mens, in contrast met de andere partijen. Die claim heeft echter geen enkele onderbouwing. Andere AI-labs waaronder OpenAI en Anthropic bieden gratis versies aan van hun oplossingen, met steeds minder beperkingen. Meta integreert zijn AI in eigen producten, zoals WhatsApp en Facebook.
2. Vertraging staat gelijk aan risico
“Elk beleid dat Amerikaanse modelreleases vertraagt, zelfs met een maand, zou een aanzienlijk risico kunnen toevoegen aan het Amerikaanse leiderschap terwijl buitenlandse modellen vooruit racen.”
Het manifest stelt dat er nauwelijks een groter risico bestaat dan de vertraging van AI-onderzoek. Dat zou immers niet meer, maar net minder veiligheid veroorzaken. De reden: als de Amerikaanse modelbouwers, waaronder Meta, worden tegengehouden, nemen duivelse concurrenten van andere landen over.
Hier kadert Zuckerberg vertraging als een risico dat niet te nemen valt. Eender welk gesprek over vertragende regulering wordt daarmee ondermijnd. Dat gaat nochtans in tegen een oproep van bijna 1.300 AI-onderzoekers, ook van Meta, die de Amerikaanse overheid haast smeken om het voortouw te nemen in vertragende maatregelen. Zij denken dat zoiets net essentieel is in naam van veiligheid.
3. AI-training moet open zijn
“Sommigen hebben geprobeerd distillatie als schadelijk voor te stellen, maar ik vind het belangrijk om het principe te beschermen dat je kunt leren van alles wat je kunt observeren.”
De CEO pleit hier voor verregaande openheid in training. Modeldistillatie is een techniek waarbij een krachtig (gesloten) AI-model wordt ingezet om nieuwe, kleinere en gespecialiseerde AI-modellen op te leiden. Die kleinere modellen zijn dan vaak efficiënter in hun taak dan het grote leerkracht-model.
Distillatie staat hoog op de agenda, omdat Chinese ondernemingen ervan beschuldigd worden de techniek zonder toestemming te gebruiken om eigen LLM’s te maken. Daarvoor zouden ze heimelijk gesloten modellen van Anthropic en OpenAI gebruiken. Distillatie toestaan, betekent een klap voor de potentiële winstgevendheid van de gesloten LLM’s van die Meta-concurrenten.
Bovendien zou het een grote juridische stap richting algemene openheid inzake AI-training betekenen. Meta ligt net als andere AI-ontwikkelaars onder vuur voor het gebruik van met auteursrecht beschermde gegevens. Meer tolerantie rond training komt Meta op die manier ten goede, de eigenaars van auteursrechtelijk beschermde producten alleszins niet.
4. Datacenters zijn positief en ondervinden onterechte weerstand
“We helpen de elektriciteitsprijzen laag te houden door onze eigen energieopwekkende infrastructuur te bouwen overal waar we investeren. Dit zorgt ervoor dat we niet alleen geen energie verbruiken die naar de lokale gemeenschappen had kunnen gaan, maar in sommige gevallen leveren we zelfs een overschot aan goedkope energie terug aan de gemeenschappen.”
“Onze datacenters zijn ook ontworpen om tot de meest waterefficiënte ter wereld te behoren. We zijn toegewijd aan water-positief zijn, wat betekent dat we tegen 2030 meer water zullen herstellen dan we gebruiken in de stroomgebieden waarin we opereren.”
“Toch is één significant nadeel dat de VS heeft in vergelijking met landen als China dat het hier moeilijker is om infrastructuur te bouwen.”
Zuckerberg schildert datacenters hier af als een positief verhaal voor de omgeving, zonder nadelen. Weerstand tegen datacenters, komt dan hoogstens uit onbegrip. Toekomstplannen rond watergebruik en energieopwekking moet dat beeld kracht bijzetten, ook al strookt het niet met de realiteit van vandaag.
Het manifest koppelt hier ook terug naar het tweede punt rond vertraging. Te weinig datacenters en te veel regels rond de bouw ervan, kunnen de grote vijand China een voorsprong geven. In Zuckerbergs visie is er geen enkele reden om terughoudend te zijn met bouwvergunningen voor Meta-datacenters.
5. De overheid mag meekijken (maar niet achteraf)
“Ik stel ook voor dat frontier AI-labs tussentijdse trainingscheckpoints van nieuwe modellen delen voor gebruik en beoordeling door de overheid, in plaats van te wachten tot de training is voltooid.”
Opnieuw gebruikt Zuckerberg het argument van het risico van vertraging, weerlegd door de honderden experts, om de eigen plannen te stroomlijnen. Wat klinkt als een plan om controle toe te laten, is eigenlijk een techniek om een grondige check van een nieuw LLM vlak voor lancering te voorkomen.
De overheid mag dan meekijken tijdens de training, in de plaats van een beoordeling uit te voeren achteraf. Zo kan Meta aan zijn eigen tempo LLM’s blijven lanceren. Er is geen probleem met tussentijdse controle, behalve dan dat de Meta-baas die hier voorstelt als een alternatief voor grondig toezicht achteraf, of toch minstens een systeem dat goedkeuring na training moet versnellen.
6. ’s Werelds grootste privacy-boeman wordt hoeder
“Het zal sterke privacy- en beveiligingsopties hebben… vergelijkbaar met hoe encryptie werkt op WhatsApp.”
“We zullen een volledig private modus bouwen waarin zelfs Meta uw informatie niet kan zien of er toegang toe kan verlenen.”
Dat zijn grote woorden van een man die een decennium geleden al claimde dat privacy niet meer de norm is. Voortschrijdend inzicht bestaat, maar er is weinig reden om te geloven dat het fenomeen Zuckerbergs visie veranderd heeft. Meta schreeuwt en stampt immers nog steeds bij iedere privacyregel waar het zich van de EU aan moet houden.
De link met de veiligheid van WhatsApp toont op zich dat de plannen voor encryptie er wel zijn, maar daarbij is het belangrijk op te merken dat WhatsApp encryptietechnologie van Signal gebruikt. Die zat al in de toepassing toen Meta ze kocht. Het is niet zo dat het bedrijf een voorvechter is inzake end-to-end encryptie.
Verder in het manifest wordt duidelijk hoe ver Zuckerberg van de echte privacy-barricades wil wegblijven:
“Tegelijkertijd moeten we er ook voor zorgen dat de overheid toegang heeft tot de tools en middelen die ze nodig heeft om onze wetten te handhaven en onze veiligheid te beschermen.”
Wetende dat het daar om de Amerikaanse overheid gaat, die Zuckerberg al preventief niet tegen de schenen wil stampen, is het duidelijk dat claims rond privacy er enkel zijn om goodwill te creëren.
7. Nieuw toezichtsmodel als voorbeeld
“Ik denk niet dat het in mijn, Meta’s of ’s werelds beste belang is dat ik of iemand anders de enige beslisser is over hoe superintelligentie wordt ingezet. Daarom implementeert Meta een governancestructuur die onze onafhankelijke raad van bestuur de bevoegdheid geeft om de veiligheidscriteria voor het uitbrengen van modellen goed te keuren en te beoordelen of elke modelrelease aan die criteria voldoet. Hoewel Meta een door de oprichter gecontroleerd bedrijf is, hebben de CEO’s van alle frontier labs momenteel uitgebreide bevoegdheid over modelreleases, dus we moedigen anderen aan om structuren vergelijkbaar met deze te implementeren.”
De overzichtsstructuur van Meta is een maat voor niets. Er is geen garantie op echte onafhankelijkheid van de raad, en leden vertegenwoordigen al zeker niet de bevolking of de mensheid waarvoor Meta claimt AI te bouwen. Bovendien blijft Zuckerberg aan het roer staan.
Met de oproep aan andere AI-labs om ook zo’n systeem te implementeren, lijkt Zuckerberg Meta opnieuw te profileren als een voorvechter van goed bestuur. Terzelfdertijd stelt hij (beperkte) zelfregulering voor als een adequaat toezichtsmechanisme. Historisch gezien is er geen reden om te denken dat zelfregulering in een beursgenoteerd bedrijf, verwikkeld in een zelfverklaarde race, voldoende toezicht zal bieden.
8. AI mag zichzelf verbeteren, en liefst zo snel mogelijk
“Meta, andere frontier labs en clouds… moeten samen een voldoende grote hoeveelheid compute uitbouwen zodat we genoeg kunnen toewijzen aan recursieve zelfverbetering om competitief te blijven.”
“Het laten sturen van zijn eigen doelen door een AI-systeem of wie dan ook is op zichzelf niet inherent schadelijk, zelfs als zijn doelen niet volledig zijn afgestemd op veel mensen, zolang we een machtsbalans behouden die het voordeel geeft aan mensen.”
In zijn manifest schrijft Zuckerberg dat AI die zichzelf verbetert, niet echt een inherent probleem vormt. Ook dat gaat lijnrecht in tegen de vrees van de meer dan duizend AI-experts.
Hij denkt dat alles wel goedkomt, en is klaarblijkelijk bereid het volledige welzijn van de mensheid daarop in te zetten, zolang meerdere bedrijven tegelijkertijd bezig zijn met zichzelf verbeterende AI. Meta en andere (Amerikaanse) bedrijven moeten volgens hem dan wel toegang hebben tot voldoende rekenkracht zodat hun zelfverbeterende AI niet wordt voorbijgestoken door die van iemand anders (China).
Op deze manier schuift Zuckerberg een extra argument naar voren dat de massale uitbouw van compute moet rechtvaardigen.
Een gevaarlijk pleidooi
In de hele tekst worden heel wat bedenkingen als feit geponeerd, ook al gaan ze in tegen wat veel experts denken. Bovendien neemt Zuckerberg de rol op zich om de uitdagingen en mogelijkheden van AI voor de hele mensheid te voorspellen. Daarbij gaat het op geen enkel moment echt over een andere regio dan de VS. Bovendien is er geen enkel punt of argument dat zou demonstreren dat Meta niet goed bezig is. In tegendeel: wie de tekst leest, zou haast denken dat Meta de enige is die de wereld kan redden.