Werknemers van Google waarschuwden voor de lancering van Bard dat de AI-chatbot nog niet klaar was voor het grote publiek. Ethische overwegingen werden echter genegeerd in het voordeel van snelheid.
Google-werknemers die intern aan de slag konden gaan met de AI-chatbot Bard, smeekten hun bedrijf om de tool niet te lanceren. Dat ontdekte Bloomberg na gespekken met (ex)-werknemers, gestaafd door screenshots van gesprekken. Bij interne tests bleek dat Bard “nuttelozer dan nutteloos” was. Een andere tester noemde het systeem “een pathologisch leugenaar”.
Potentieel gevaarlijke antwoorden
Bard zou immers frequent verkeerde antwoorden geven, die geregeld zelfs schade kunnen berokkenen. Als de werknemers bijvoorbeeld naar tips voor het scubaduiken vroegen, waren de antwoorden een garantie voor problemen en misschien zelfs verwondingen.
Google heeft interne mechanismen waarbij een product in verschillende categorieën een score krijgt die aangeeft in welke mate het klaar is voor lancering. Bard haalde in meerdere categorieën geen voldoende hoge score. Zowel tests met werknemers als intern beleid suggereerde dus dat een lancering nog niet aan de orde was.
Concurrentiedruk
Google besloot onder druk van OpenAI en ChatGPT echter om die zorgen naast zich neer te leggen. De oplossing: het label ‘experimenteel’ op het product plakken, in de hoop dat het publiek tekortkomingen zou vergeven. De werknemers waarmee Bloomberg sprak, zagen met lede ogen aan hoe “de betrouwbare zoekgigant informatie van lage kwaliteit voorzag in een race om bij te blijven met de concurrentie”.
lees ook
GPT-4 onder de loep: beelden lezen, talenknobbel en meerdere persoonlijkheden
Het resultaat was pijnlijk. Bij de lancering van Bard liep er veel mis en gaf Bard onder andere foutieve informatie, net zoals de werknemers voorspeld hadden. In reactie op de presentatie kelderde het aandeel van de zoekgigant.
Publieke tests
Niet iedereen bij Google ziet de snelle aanpak als een probleem. Sommigen zijn net van mening dat publieke tests een cruciaal onderdeel zijn van de ontwikkeling van generatieve AI. Feit is wel dat OpenAI met de lancering van ChatGPT een meer volwassen tool in de markt zette, al was en is ChatGPT evenmin vrij van fouten.
De getuigenissen tonen vooral aan hoe Google in snelheid gepakt is door OpenAI en Microsoft, en er als de dood voor is om een nog grotere achterstand op te lopen. Een woordvoerder van het bedrijf zegt wel aan Google dat ethische overwegingen een topprioriteit blijven voor Google, maar het onderzoek van Bloomberg toont toch dat andere zaken voorrang krijgen in de AI-concurrentiestrijd. Dat toont op zijn beurt aan dat het onrealistisch is om te verwachten dat bedrijven zichzelf reguleren op een adequate manier terwijl er een grote concurrentiestrijd woedt.