Google Gemini is erop betrapt gevoelige documenten in Drive te lezen, terwijl het niet duidelijk is of je daar nu wel of geen toestemming voor hebt gegeven.
AI-professor Kevin Bankster ontdekte dat Google Gemini zat mee te spieken in zijn persoonlijke Drive-folder. De AI-assistent had prompt een samenvatting gemaakt van zijn belastingaangifte. Je kan sinds september 2023 Gemini toegang geven tot je Drive en andere Google-applicaties voor een persoonlijkere toets. Dat zou enkel mogen gebeuren als je daar expliciet je toestemming voor hebt gegeven.
Bankster herinnerde zich niet dat hij Gemini toegang tot zijn belastingaangifte zou hebben gegeven en ging dus graven in zijn accountinstellingen. Na veel langer zoeken dan zou mogen, ontdekte hij dat AI-samenvattingen voor Gmail, Drive en Docs in zijn account wel degelijk uitgeschakeld stonden.
Rariteit
Volgens de professor gaat het in dit geval eerder om een rariteit in Google Drive die niet per se alle gebruikers van Gemini zal treffen. De fout kan voorkomen nadat er op de Gemini-knop is gedrukt in ten minste één document.
Het overeenkomende documenttype (in dit geval PDF) activeert vervolgens automatisch Google Gemini voor alle toekomstige bestanden van hetzelfde type die worden geopend in Google Drive. Of het nu om een rariteit gaat of niet, de inhoud van je belastingaangifte deel je wellicht liever niet met Google.
Google kan dergelijke negatieve publiciteit eveneens missen als kiespijn. Het bedrijf is aan een ongeremde AI-push bezig en heeft sowieso al niet de beste reputatie als het aankomt op privacy. In Europa kunnen dergelijke blunders Google binnenkort veel geld kosten. De AI Act treedt per 1 augustus in werking. Als AI-technologie voor ‘algemeen gebruik’ valt Gemini onder strengere regels.