Italië heeft serieuze twijfels bij de legaliteit van ChatGPT en de manier waarop OpenAI het model getraind heeft. Omdat alles er op wijst dat de GDPR daarvoor niet werd nageleefd, wil het land de AI-chatbot blokkeren.
OpenAI heeft ChatGPT getraind op data afkomstig van het internet. De AI is daardoor in staat om veel feitelijke informatie te geven over specifieke zaken, ook wanneer die te maken hebben met personen. Dat impliceert dat de trainingsdata gegevens bevatte over Europeanen en dat mag niet zomaar. De GDPR verbiedt immers de verwerking van persoonsgegevens dan Europese burgers zonder hun toestemming, en al zeker wanneer die verwerking buiten de EU gebeurt.
Oneigenlijke verwerking
Aangezien ChatGPT redelijk wat te vertellen heeft over Europeanen, concludeert de Italiaanse databeschermingsautoriteit dat OpenAI de voeten heeft geveegd aan die GDPR-wetgeving. Daar komt nog bij dat ChatGPT er niet voor terugschrikt om gaten in z’n kennis op te vullen met verzonnen gegevens die misschien realistisch klinken, maar nergens op gebaseerd zijn.
Zo weet ChatGPT waarover ondergetekende zoal schrijft, maar schrikt de AI er niet voor terug om de publicaties van de concullega’s bij de korte biografie te betrekken. Dat brengt ons naar een tweede probleem: de GDPR geeft Europeanen het recht op fouten rond data over hun persoon recht te zetten. Dat is bij ChatGPT momenteel niet mogelijk.
Dat alles suggereert dat OpenAI legaal niet helemaal in orde is in de EU. Italië wil ChatGPT daarom verbieden in het land en geeft OpenAI twintig dagen om te reageren.
GDPR vs. AI
De beslissing is verregaand en complex. Langs de ene kant vormt ze een interessant precedent. De EU heeft regels rond data en daar moet iedereen zich aan houden. Het doel heiligt de middelen niet: doorbraken in AI zijn geen excuus om laks om te springen met Europese data.
Langs de andere kant rijst de vraag in welke mate de GDPR van toepassing is of moet zijn op training van AI en machine learning. Een te strikte interpretatie kan AI-onderzoek in Europa misschien volledig aan banden leggen. Het hek is nu in ieder geval van de dam. Deze en andere juridische uitdagingen zullen de ontwikkeling van AI mee sturen.