Zestien individuen hebben woensdag een klacht neergelegd tegen Microsoft en OpenAI. De klagers vinden dat AI-producten via ChatGPT persoonlijke informatie hebben verzameld en openbaar gemaakt, zonder hun uitdrukkelijke toestemming.
De klacht is ingedien bij de federale rechtbank in San Francisco, weet The Register. In het document beweren de aanklagers dat Microsoft en OpenAI de privacywetgeving hebben genegeerd om gegevens te verzamelen, zonder ervoor te betalen, voor hun AI-modellen. De aanklacht spreek zelfs over pure diefstal waarbij zonder toestemming systematisch 300 miljard woorden geanalyseerd en verzameld zijn. ”OpenAI deed dit in het geheim zonder zich te registreren als datamakelaar”, klinkt het.
Persoonlijke informatie
De klacht gaat zelfs verder. Zo staat te lezen dat OpenAI en Microsoft via hun AI-producten persoonlijke informatie ‘verzamelen, bewaren, volgen, delen en onthullen van miljoenen mensen’. Het gaat om productdetails, accountinformatie, namen, contactgegevens, inloggegevens, e-mails, betaalinformatie, browsergegevens, cookies, gebruiksgegevens, zoekopdrachten, social media en andere online activiteiten.
De klacht beweert ook dat Microsoft en OpenAI de persoonlijke informatie in het AI-product hebben ingebed. Zo zouden ze hobby’s, religieuze overtuigingen, politieke opvattingen, etc hebben verzameld. OpenAI heeft met de generatieve modellen zoals GPT-4 en ChatGPT een familie van tekstgenererende toepassingen die Microsoft dan weer inzet in alle delen van het bedrijf, van Bing in Edge, over Windows tot Azure.
157 pagina’s bezorgdheid
“De beklaagden slagen er niet in om persoonlijk identificeerbare informatie voldoende uit de trainingsmodellen te filteren waardoor miljoenen mensen het risico lopen dat die informatie aan derden wordt onthuld”, aldus de aanklacht. In totaal stelden de advocaten een document op van 157 pagina’s met citaten uit media en academische hoek, waarbij iedereen de bezorgdheid uit over de AI-modellen en ethiek. Toch gaat het in slechts een beperkt aantal gevallen over specifieke schade.
De zestien eisers gebruikten ChatGPT en andere internetdiensten zoals Reddit waarbij ze verwachtten dat hun digitale interacties niet zouden worden opgenomen in een AI-model. Met andere woorden, dat het model niet werd getraind door hun gegevens. OpenAI heeft in het verleden de reproductie van persoonlijke informatie tegengehouden via filters. In elk geval zal het moeilijk te bewijzen zijn dat die data effectief is gebruikt om AI-modellen te trainen.
lees ook
EU-lidstaten geraken het eens over de Data Act
Niet de eerste klachten
De klagers eisen drie miljard dollar schadevergoeding van Microsoft en OpenAI. Dat is volgens The Register een indicatief getal want het is aan de rechtbank om de grootte van de (eventuele) schadevergoeding vast te stellen. In de klacht staat te lezen dat Microsoft en OpenAI zowel de Amerikaanse Electronic Privacy Communications Act als de Computer Fraud and Abuse Act hebben overtreden. Zowel Microsoft als OpenAI weigeren (voorlopig) commentaar te geven.
Het is niet de eerste klacht die OpenAI naar het hoofd krijgt geslingerd. In november vorig jaar was het al prijs toen het samen met GitHub (dochteronderneming van Microsoft) werd aangeklaagd voor het reproduceren van de code van miljoenen softwareontwikkelaars. Dat zou in strijd zijn met de licentievereisten via de Copilot-service, wat gebaseerd is op een OpenAI-model. De zaak is nog altijd lopende.