Volgens een rapport van Google valt de ecologische tol van Gemini best nog mee. Experten vinden dat Google de cijfers mooier voorstelt dan ze in werkelijkheid zijn.
Het energie- en waterverbruik door (AI-)datacenters is al lange tijd voer voor discussie. Google wil komaf maken met de energieverslindende reputatie van zijn Gemini-modellen. Een technische paper moet de wereld overtuigen dat de milieu-impact van AI niet zo drastisch is als door experten beweerd wordt.
Volgens het rapport verbruikt een ‘mediane’ tekstprompt in Gemini ongeveer 0,24 Wh elektriciteit, wat overeenstemt met je televisie negen seconden aanzetten. Dit gaat gepaard met 0,03 g CO2-uitstoot. Gemini drinkt per prompt ongeveer vijf druppels water, ofwel 0,26 ml.
Operationele voetafdruk
Google klopt zich in een blog op de borst dat Gemini veel energiezuiniger is geworden. Het energieverbruik ligt 33 keer lager dan twaalf maanden geleden, de totale voetafdruk is zelfs 44 keer lager. Een resultaat dat bereikt werd door samenspel van efficiëntere modellen, algoritmen, inferentie, software en hardware in datacenters, aldus Google.
lees ook
Hoe Google liegt over de kracht van zijn nieuwste chips, vergeleken met El Capitan
Belangrijk om te weten is dat Google zijn eigen berekeningsmethode hanteert. Google kijkt naar eigen zeggen naar de ‘werkelijke operationele voetafdruk’, die verschillende factoren in rekening brengt:
- Volledig systeemvermogen: Google meet niet alleen de energie van het AI-model zelf, maar ook de effectieve chipbenutting in productie. In de praktijk is die benutting vaak lager dan het theoretisch maximum, wat betekent dat een deel van de capaciteit onbenut blijft, maar toch energie verbruikt.
- Idle capaciteit: Om beschikbaarheid en betrouwbaarheid te garanderen, moet Google altijd extra capaciteit klaarhouden voor piekbelasting of failover. Deze inactieve maar draaiende machines verbruiken stroom en worden meegeteld in de totale voetafdruk.
- CPU en RAM: AI draait niet enkel op accelerators. Ook de host-CPU’s en het RAM-geheugen ondersteunen de uitvoering en verbruiken dus energie, die in de berekening wordt meegenomen.
- Datacenter-overhead: Naast de IT-apparatuur zelf vraagt ook de infrastructuur (koeling, stroomdistributie, …) energie. Google gebruikt de internationale standaardmaatstaf PUE (Power Usage Effectiveness) om deze overhead toe te rekenen.
- Waterverbruik: Datacenters gebruiken vaak water voor koeling om energieverbruik en emissies te beperken.
Google beweert dat het zo tot een realistischer beeld van het energieverbruik van AI-modellen dan wanneer enkel naar de theoretische efficiëntie wordt gekeken. Overschatting wordt op deze manier vermeden.
Meer water
Toch gaan experten niet akkoord met de cijfers van Google, die volgens hen de realiteit nog steeds zwaar onderschatten. The Verge polste bij academici die geciteerd worden in de paper van Google. De wetenschappers plaatsen meerdere bedenkingen bij Google’s methode.
Shaolei Ren, professor compute engineering aan de universiteit van California, zegt dat Google cruciale informatie achterhoudt. Het waterverbruik door Gemini wordt berekend door de hoeveelheid water die nodig is voor het koelen van systemen in datacenters. Dat is een voorname bron van watergebruik in datacenters, maar AI verbruikt ook indirect water.
De elektriciteit die die datacenters verbruiken, is afkomstig van gas- en kerncentrales, die op hun beurt weer veel water verbruiken. Neem dat indirecte verbruik erbij en je komt volgens Ren op 50 ml water per prompt uit.
Appels met peren
Alexander De Vries-Gao, doctoraatsstudent milieustudies aan de universiteit van Amsterdam, verwijt Google selectief te zijn in de gebruikte maatstaven bij het meten van het energieverbruik. Google brengt enkel markt-gebaseerde emissies in rekening. Die houdt rekening met de duurzame energiecertificaten en contracten die een bedrijf afsluit om groene stroom te ondersteunen, maar zegt weinig over de werkelijke energiemix die een bedrijf gebruikt.
Enkel locatie-gebaseerde emissies brengen het totale plaatje in beeld. Deze methode laat zien hoeveel CO₂ er effectief vrijkomt door de plaats waar een datacenter stroom afneemt. Hierdoor kan een bedrijf de lokale uitstoot niet compenseren door elders in groene stroom te financieren. Locatie-uitstoot ligt doorgaans hoger en schept zo een eerlijker beeld van de lokale milieu-impact van een datacenter.
Tenslotte betwisten beide academici de claim van Google dat zijn berekening accurater is dan voorgaand academisch werk. Google kijkt naar een ‘mediane’ prompt, terwijl vorige studies gebaseerd zijn op gemiddeldes. Dat is appelen met peren vergelijken, omdat de mediaan minder gevoelig is voor uitschieters. Er wordt ook niet verduidelijkt wat Google als een mediane Gemini-prompt beschouwt.
lees ook
Google verdrinkt eigen duurzaamheidsambities met ongeremde AI-push
De paper van Google zal de ecologische zorgen rond de milieu-impact van AI niet doen verdwijnen. Het bedrijf geeft zelf ook toe dat de uitstoot de afgelopen vijf jaar sterk is gestegen. De AI-ambities van Google en andere bedrijven komen met een hoge prijs.