EU wil AI voor massa-surveillance verbieden en andere toepassingen reguleren

Europa wil sterk reguleren waar artificiële intelligentie een rol mag spelen in de samenleving en hoe. AI zou niet ingezet mogen worden om burgers op grote schaal op te volgen.

De EU werkt aan een voorstel dat het gebruik van AI sterk aan banden moet leggen. De unie wil het gebruik van de technologie sterk reguleren en voorkomen dat AI wordt ingezet in domeinen die een al te grote impact hebben op het leven van burgers.

Verbod en toezicht

Het meest opmerkelijke onderdeel van het voorstel verbiedt de inzet van AI voor massa-surveillance en voor systemen die de betrouwbaarheid van mensen vastleggen op basis van hun sociaal gedrag. Beide systemen worden vandaag al wel in China gebruikt. Daar houdt AI burgers in het oog, en wordt hun gedrag opgevolgd. Wie zich te veel misdraagt, kan daar gevolgen van ondervinden in de maatschappij en niet alleen op juridisch vlak.

Verder wil de EU een toezichtsysteem uitwerken voor biometrische identificatie op afstand. Daarbij gaat het vooral om gezichtsherkenning in de publieke ruimte, bijvoorbeeld voor camera’s. Risicosystemen in het algemeen krijgen meer toezicht, zeker wanneer ze een grote impact hebben op de veiligheid of op het leven van een burger. Denk daarbij enerzijds aan technologie voor zelfrijdende wagens en anderzijds aan AI die bijvoorbeeld binnen een bedrijf helpt om kandidaten voor een nieuwe job te selecteren.

AI-raad

Om te bepalen welke systemen een risico inhouden en extra toezicht vereisen, wil de EU een Europese AI-raad uit de grond stampen. De leden daarvan zullen afkomstig zijn uit alle lidstaten.

Het voorstel hamert ook op transparantie van AI. Zo moeten belangrijke systemen onder menselijk toezicht komen, en moet AI zich kunnen verantwoorden voor beslissingen. De Europese Unie zal er ook op toezien dat kritieke systemen met kwalitatieve data worden getraind en geen vooroordelen vertonen.

Grote impact

Het voorstel lekte via Politico en ook The Verge kon het al inkijken, maar het moet nog officieel ingediend worden. Dat zou volgende week al gebeuren. Daarna komt er vermoedelijk nog een discussie op gang, aangezien er nu al twijfels bestaan over de vage verwoordingen van verschillende regels. Strikte definities van risicosystemen zijn bijvoorbeeld belangrijk, aangezien er anders onduidelijkheid ontstaat.

De EU verrast met snelle en ingrijpende regels rond AI. Als het voorstel wordt aangenomen, zal het een impact hebben die we kunnen vergelijken met de GDPR. De Unie zal onder andere boetes voorzien voor bedrijven die zich niet aan de regels houden. Het erg brede voorstel heeft betrekking op de ganse implementatie van AI in de EU, zodat bedrijven die zaken willen doen in de grote eengemaakte markt zich naar de regels moeten schikken.

nieuwsbrief

Abonneer je gratis op ITdaily !
  • This field is for validation purposes and should be left unchanged.
terug naar home