Het Europees Parlement wil geen automatische gezichtsherkenning toestaan in de EU en vraagt strenge veiligheidsmaatregelen voor het gebruik van AI door de politie.
Leden van het Europees Parlement (MEP’s) hebben tegen automatische gezichtsherkenning gestemd op openbare plaatsen in de EU. De teller staat op 377-248, met 62 onthoudingen. Daarnaast vragen de MEP’s strenge veiligheidsmaatregelen voor het gebruik van AI door de politie.
Discriminatie vermijden
De parlementsleden zijn ervan overtuigd dat het monitoren van burgers enkel nodig is wanneer ze verdacht worden van een misdaad. Ze maken zich zorgen over een algoritmische bias in AI en willen zowel met menselijke supervisie als met wettelijke bescherming grootschalige discriminatie vermijden.
Er is namelijk bewijs voorhanden dat gezichtsherkenning gebaseerd op AI, kan leiden tot het verkeerd identificeren van etnische minderheidsgroepen, mensen uit de LGBTI+-groep, senioren en vrouwen. Volgens de MEP’s moeten algoritmes dus altijd transparant en onderbouwd zijn, met voldoende open-source opties.
Volgens de wet
Het niet-bindend besluit stelt dat mensen onderworpen aan AI-systemen, ook toegang moeten krijgen tot verscheidene hulpmiddelen. Volgens Europese wetten heeft “een persoon namelijk het recht om niet onderworpen te worden aan een beslissing die rechterlijke gevolgen voor hem of haar heeft of die de persoon in kwestie significant beïnvloedt en enkel gebaseerd is op automatische dataprocessen.”
AI bij handhavingsinstanties
Daarbij wil het Europees Parlement gezichtsherkenningsdatabases verbieden bij de politie, zoals Clearview AI, alsook ‘predictive policing’. Dankzij predictive policing kunnen handhavingsinstanties namelijk misdaadvoorspellingen doen voor de toekomst op basis van gedragsgegevens.
Verder dringen ze bij de Europese Commissie aan om sociale scoringssystemen – die burgers een score geven op basis van hun gedrag – te verbieden. Ook de virtuele grenscontrole-agent, iBorderCtrl, of andere systemen die werken met gezichtsherkenning, mogen niet meer ingezet worden.
lees ook
EU wil strenge regels voor AI: geen massa-surveillance, focus op transparantie
Artificial Intelligence Act
De goedkeuring van het besluit komt er na meerdere vragen vanuit verschillende Europese hoeken. Ook werd er in april de Artificial Intelligence Act voorgesteld door de Europese Commissie, die een gereguleerd kader voorziet voor het gebruik van AI. Hierin zit onder andere biometrische identificatie vanop afstand (lees: gezichtsherkenning), wanneer de politie het enkel voor het bestrijden van misdaad gebruikt.