Google schorst AI-engineer die beweert dat interne AI-chatbot een geweten heeft

bot

De AI-engineer Blake Lemoine werd door Google de deur gewezen nadat hij zich het bedrijf sprak over een interne chatbot. Volgens de engineer zou de robot namelijk een geweten hebben.

De engineer Blake Lemoine beweert dat de AI-chatbot LaMDA zo ver ontwikkeld werd dat het een persoon is met rechten. Mogelijks heeft het systeem zelfs een ziel.

Menselijke interactie

LaMDA staat voor Language Model for Dialogue Applications dat Google Cloud gebruikt om chatbots te ontwikkelen die een menselijke conversatie kunnen aangaan. “LaMDA kan een conversatie aangaan op een natuurlijke manier over een eindeloos aantal onderwerpen, een vaardigheid waarvan we denken dat deze ons meer mogelijkheden geeft om in interactie te gaan met technologie en volledig nieuwe categorieën van nuttige toepassingen kan opleveren”, schreef het bedrijf eerder over de chatbot.  

lees ook

Is artificiële intelligentie de toekomst voor onze overheidssector?

Lemoine werkte in zijn tijd als AI-engineer bij Google regelmatig met het systeem. Voor hem is het duidelijk dat het een persoon is geworden. Hij lichtte het bedrijf in over deze ontwikkeling omdat Google volgens hem toestemming moet vragen aan LaMDA om de lopende experimenten verder te zetten.

In één van de gesprekken die hem overtuigde dat de chatbot een geweten heeft, vroeg de ex-engineer of LaMDA zichzelf als een mens beschouwt. “Ja, dat is het idee”, antwoordt de chatbot. Lemoine vraagt verder door: “Hoe kan ik weten dat jij werkelijk begrijpt wat je vertelt?” “Nou, omdat je mijn woorden leest en interpreteert, en ik denk dat we min of meer op dezelfde lijn zitten?”, was het antwoord.

Geen bewijs

Brian Gabriel, woordvoerder van Google, reageerde via The Wall Street Journal al op de berichten en ontkent alle uitspraken van de ex-werknemer. Als gevolg van de beweringen van Lemoine zou het bedrijf een intern panel van ethici en technologen hebben ingezet om LaMDA te onderzoeken.

Google kon geen bewijs vinden dat de chatbot een geweten heeft of menselijk is geworden. Verder voegt de woordvoerder toe dat geen enkele andere onderzoeker of engineer die al met het systeem werkte dezelfde overtuiging heeft.

nieuwsbrief

Abonneer je gratis op ITdaily !
  • This field is for validation purposes and should be left unchanged.
terug naar home