De EDPB en de EDPS roepen op tot een complete ban voor gezichtsherkenning in publieke ruimtes.
De Europese Data Protection Board (EDPB) en de Europese Data Protection Supervisor (EDPS) roepen op tot een totale ban van AI-gebaseerde biometrische identificatie in de publieke ruimte. Ze mikken daarbij niet enkel op gezichtsherkenning maar ook andere kenmerken waarmee een systeem mensen kan identificeren. Verder willen ze niet dat AI mensen in hokjes catalogiseert, bijvoorbeeld op basis van etniciteit of geslacht.
Gaten dichttimmeren
De oproep van de EDPB en de EDPS is een reactie op een eerder gelanceerd voorstel door de Europese Commissie. Dat voorstel is de basis voor nieuwe regelgeving die het gebruik van AI omkadert. De insteek voor het raamwerk is al redelijk privacyvriendelijk maar laat volgens de privacy-instanties nog enkele gevaarlijke hiaten. Zo wil ook de commissie AI binnen openbare ruimtes aan banden leggen, behoudens enkele uitzonderingen. Het huidige voorstel maakt echter geen gewag van internationale politiesamenwerking, want impliceert dat AI in die context plots wel inzetbaar is.
lees ook
EU wil strenge regels voor AI: geen massa-surveillance, focus op transparantie
De twee instanties vrezen ervoor dat de uitrol van biometrische identificatiecapaciteiten in publiek toegankelijke ruimtes het einde van de anonimiteit in deergelijke ruimtes betekent. Een algemene ban voor het gebruik van gezichtsherkenning in de openbare ruimte is een noodzakelijk startpunt als we onze vrijheden willen bewaren, klinkt het.
Geen sociale scores
De Europese organisaties willen verder sociale scores zoals die in China bestaan, verbieden. Sociale scoorsystemen gebruiken AI om mensen een score toe te kennen op basis van hun gedrag. Daaraan gekoppeld krijgen ze meer of minder privileges. Dat systeem druist volledig in tegen de fundamentele waarden van de EU.
Met hun oproep oefenen de EDPB en de EDPS druk uit op de commissie en de lidstaten tijdens de bespreking van het juridische raamwerk voor de nieuwe AI-regelgeving. Het zal echter nog een hele tijd duren voor er ook effectief nieuwe regels klaar zijn om in werking te treden.