De Europese Commissie onderzoekt of X voldoende maatregelen heeft genomen tegen seksueel getinte deepfakes van vrouwen en kinderen die met chatbot Grok verspreid worden. Een nieuwe boete lijkt zeer waarschijnlijk voor X, of komt het tot een verbod?
De AI-chatbot Grok van X is al sinds de lancering in november 2023 één brok controverse. Na racistische en antisemitische uitlatingen maakt Grok zich nu schuldig aan het verspreiden van illegale deepfakes. De Europese Commissie kondigt een onderzoek aan naar X.
De voorbije weken kwam regelmatig in het nieuwe hoe eenvoudig het is om met Grok personen letterlijk in hun onderhemd te zetten. Dat leidde al snel tot de verspreiding van illegale deepfakes van naakte vrouwen en kinderen. Volgens Bloomberg gaat het om duizenden naaktbeelden per uur. X kondigde maatregelen aan, maar die bleken in de praktijk weinig verandering teweeg te brengen.
‘Onaanvaardbare vernedering’
In het kader van de DSA-wetgeving zal de Europese Commissie onderzoeken of X voldoende maatregelen heeft genomen om de waardigheid van Europese burgers te beschermen. Henna Virkunnen, commissaris voor Techsoevereiniteit, Beveiliging en Democratie (EPP, Finland) vindt alvast niet. In een statement spreekt ze over een ‘gewelddadige, onaanvaardbare vorm van vernedering’.
De DSA verplicht digitale platformen zoals X om:
- Systemische risico’s zorgvuldig te beoordelen en te beperken, waaronder de verspreiding van illegale inhoud;
- Een risicobeoordelingsrapport op te stellen en aan de Commissie voor te leggen.
lees ook
Europese Digital Services Act volledig in werking voor grote en kleinere bedrijven: waarvoor dient de richtlijn?
Verbod op Grok?
Het is niet de eerste keer dat de Commissie Elon Musk op het matje roept. De Commissie stelde in december nog drie inbreuken op de DSA-wet vast, goed voor een boete van 120 miljoen euro. Musk reageerde daarop in zijn gekende nukkige puberstijl door de Europese Unie te vergelijken met nazi-Duitsland en EU-accounts te blokkeren.
De kans dat het tot nieuwe maatregelen tegen X en Grok komt, lijkt groot. Een verbod op Grok in de EU valt volgens bronnen niet uit te sluiten. Meerdere landen, ook buiten Europa, zijn de fratsen van de chatbot stilaan zat. In Maleisië, Indonesië en de Fillipijnen was Grok een tijdje niet meer welkom, al is die ban intussen weer opgeheven. Ook België, Nederland, Frankrijk, het Verenigd Koninkrijk en Australië hebben de chatbot in het vizier.