Dag des oordeels voor Europese AI Act: “misbruik van AI mogen we niet aanvaarden”

europa ai act

Het Europese parlement buigt zich vandaag over de Europese AI Act. Nu de technologie de politiek al lang heeft voorbijgestreefd, stijgt de nood aan duidelijke spelregels. Komt de wet ongeschonden uit de politieke strijd?

Vandaag verzamelt het Europese parlement voor zijn dagelijkse bijeenkomst. Voor de technologiesector wordt het echter geen zitting als een andere. Op de agenda staat de AI Act, een wettelijk kader waarmee de Europese Commissie het gebruik van artificiële intelligentie onder controle wil krijgen. De wettekst ligt klaar en het is nu aan het parlement om hun goedkeuring te geven.

De AI Act is vandaag een relevanter gespreksonderwerp dan ooit tevoren. Microsoft en Google zijn in een haantjesgevecht verwikkeld voor wie de beste AI heeft. De technologie lijkt eindeloze gebruikstoepassingen te hebben. Door duidelijke regels op te stellen, hoopt Europa te verzekeren dat AI enkel in handen kan komen van wie goede bedoelingen heeft. Een dag voor de stemming staan EU-parlementariërs Brando Benifei (Italië, S&D) en Dragos Tudorache (Roemenië, Renew Europe) de pers te woord om meer toelichting te geven.

lees ook

Van autopiloot tot copiloot: hoe zal AI ons (werk)leven veranderen?

Terug naar de tekentafel dankzij ChatGPT

Europa is al enige tijd bezig met het uitwerken van de AI Act, benadrukt Benifei. Een eerste versie van de wettekst werd al op 21 april 2021 gepubliceerd. Waarom komt het dan nu pas tot een stemming? Sinds 2021 is de ontwikkeling van AI zodanig snel gegaan dat de wettekst in geen tijd achterhaald was.

Een chatbot genaamd ChatGPT, die we niet meer hoeven voor te stellen, zorgde ervoor dat Benifei en zijn collega’s eind 2022 nog eens opnieuw naar de tekentafel moesten. Aanvankelijk was de AI Act toegespitst op artificiële intelligentie die voor zeer specifieke doeleinden bedoeld was. Europa wilde bijvoorbeeld het gebruik van gezichtsherkenning voor het toekennen van ‘sociale scores’ bij wet illegaal maken.

Dankzij ChatGPT en hype die nadien ontstaan is door generatieve AI, kwam Benifei tot de realisatie dat de wet ook rekening moest houden met AI die voor ‘algemeen doel’ ontwikkeld wordt. ChatGPT heeft immers meerdere gebruikstoepassingen voor ogen, wat ook het risico inhoudt op gebruik voor slechte doeleinden. Zo ontdekten beveiligingsonderzoekers dat je met ChatGPT kwaadaardige code kan ontwikkelen en realistisch ogende phishingmails kan opstellen. De AI Act wil bedrijven die achter de knoppen zitten ter verantwoording roepen om ervoor te zorgen dat hun technologie ter dienste van de mens en de democratie staat, aldus Benifei.

Transparantie

Wat houdt de wet nu precies in? Ten eerste moeten bedrijven het risico van hun systemen laten beoordelen. Hierbij wordt een onderscheid tussen ‘laag-risico’ en ‘hoog-risico’ systemen gemaakt, waarbij die laatste categorie uiteraard aan veel strengere regels wordt onderworpen. Waar de grens tussen laag en hoog risico wordt getrokken, is een moeilijke debat geweest, zegt Tudorache, en zal vermoedelijk ook na ingaan van de wet nog voer voor discussie geven.

Een belangrijk luik in de wet is transparantie. Deze verplichting wordt op verschillende manieren opgelegd. Zo moet bij chatbots zoals ChatGPT bijvoorbeeld een waarschuwing getoond worden dat de output geproduceerd is door een machine en dus met een kritische blik moet beoordeeld worden. Ook makers van deepfakes zijn aan deze wet gebonden. Dat moet de verspreiding van fake nieuws via AI tegenhouden. De AI Act zal hier ook samenwerken met de Digital Services Act.

Maar ontwikkelaars van AI-systemen moeten ook eerlijk zijn over hoe ze de technologie opgevoed hebben. “Het is nu nog vaak onduidelijk hoe bedrijven aan de data komen om modellen te trainen”, zegt Tudorache. ChatGPT kreeg een veeg uit de pan van de Italiaanse privacyautoriteit omdat het systeem blijkbaar wel persoonlijke dingen lijkt te weten over mensen (en soms ook zaken totaal verzint), zonder dat de gebruiker weet hoe OpenAI aan die info gekomen is. Zo wil de Europese Commissie auteursrechtelijk werk beschermen, van wetenschappelijke artikels tot muzieknummers. Bedrijven hoeven niet per se toestemming te vragen om auteursrechtelijk werk te gebruiken, maar door hier eerlijk over te communiceren kunnen auteurs wel een vergoeding vragen voor hun werk.

Door duidelijke grenzen te stellen om veilig gebruik van AI te waarborgen, willen we duidelijk maken dat we misbruik van de technologie als maatschappij niet mogen aanvaarden.”

Dragos Tudorache, Europees Parlement, Renew Europe

Niet tegen AI

Tudorache wil er geen misverstand over laten bestaan dat de AI Act niet bedoeld is om het leven van technologiebedrijven moeilijker te maken, integendeel. “Het was voor ons belangrijk om een juiste balans te vinden tussen het beschermen van burgers en het promoten van de technologie. Door duidelijke grenzen te stellen om veilig gebruik van AI te waarborgen, willen we duidelijk maken dat we misbruik van de technologie als maatschappij niet mogen aanvaarden.”

Volgens Tudorache is er ook vanuit de technologiesector vraag naar duidelijke spelregels rond wat wel en niet kan met artificiële intelligentie. Uitzonderingen zijn mogelijk voor R&D en opensourcetechnologieën, om innovatie zo min mogelijk te temperen. De AI Act is een proefstuk om die regels op te stellen. Tudorache en Benifei hopen dat de wet als een inspiratie kan dienen voor andere landen.

lees ook

Legt Europa een bom onder het voorbestaan van opensourcesoftware?

Groen licht

De stemming is vanochtend om negen uur van start gegaan en volgens de eerste berichten ter plaatse van Reuters zal die positief uitdraaien voor de wet. Een opluchting voor Benifei en Tudorache, al blaakten beide heren vol van zelfvertrouwen tijdens de persbabbel. “Iedereen ziet het belang in van duidelijkere regels rond AI”, aldus Tudorache.

“We zijn ervan overtuigd dat we een wettekst hebben opgesteld die flexibel genoeg is om zich aan te passen aan nieuwe technologische ontwikkelingen. De wet zal de tijd kunnen doorstaan. Het is nu de perfecte timing om het proces te versnellen”, besluit Benifei.

De goedkeuring voor het parlement is niet de finale horde voor de AI Act. Hierna volgen nog onderhandelingen met de Raad. Daarna pas kan de wetgeving gefinaliseerd worden en van kracht gaan.

nieuwsbrief

Abonneer je gratis op ITdaily !

  • This field is for validation purposes and should be left unchanged.
terug naar home