Privacywaakhond vraagt verbod op AI-systemen die sociale scores maken

Simulation,Of,A,Screen,Of,Cctv,Cameras,With,Facial,Recognition

De Europese Raad moet volgens EPDS werk maken van een betere bescherming voor burgers door AI-systemen aan banden te leggen.

De European Data Protection Supervisor (EDPS) lanceert het voorstel naar aanleiding van de onderhandelingen over een verdrag rond artificiële intelligentie, mensenrechten, democratie en de rechtsstaat. De EDPS wil een totaal verbod op AI-systemen die mensen kunnen categoriseren op basis van sociale scores, biometrische data en biometrische identificatie.

Mensenrechten

In een persbericht stelt de EDPS dat de prioriteit moet liggen op de bescherming van de rechten van het individu en groepen individuen bij het gebruik van AI-systemen. Om die bescherming te vrijwaren moeten de onderhandelingen leiden tot een verdrag dat in lijn ligt met de bestaande Europese regels rond gegevensbescherming. EDPS wil met andere woorden dat het wetsvoorstel van de Europese Commissie rond AI aangevuld wordt met de bescherming van de grondrechten van personen.

“Het verdrag is een opportuniteit om het eerste juridisch bindende internationaal instrument te maken rond AI, overeenkomstig de EU-normen en -waarden inzake mensenrechten”, zegt Wojchiech Wiewiórowski van EDPS. “Het verdrag moet dan ook passende en duidelijke waarborgen bevatten voor individuen wanneer AI-systemen worden gebruikt.”

Verbod op bepaalde AI-systemen

De EDPS geeft de Europese Commissie mee dat alle systemen verboden moeten worden wanneer die een onaanvaardbaar risico vormen voor het individu. Het gaat dan meer bepaald over het gebruik van AI-systemen die:

  • Een sociale score aan individuen kunnen geven
  • Biometrische identificatie in openbare ruimtes
  • Klassering op basis van biometrische gegevens
  • Klassering via waargenomen emoties

Voor EDPS moeten alle systemen die de mensenrechten en de menswaardigheid aantasten simpelweg verboden worden. Daarom moet de Europese Commissie in de onderhandelingen een minimumaantal procedurele waarborgen opnemen om het individu te beschermen. Die waarborgen moeten zorgen voor een transparant beleid dat gemonitord kan worden door de overheid, ook via grensoverschrijdende samenwerkingen. Het voorstel van EDPS bouwt verder op de Artificial Intelligence Act, die vorig jaar is voorgesteld.

nieuwsbrief

Abonneer je gratis op ITdaily !
  • This field is for validation purposes and should be left unchanged.
terug naar home