WhatsApp-baas Will Cathcart wil niet dat zijn bedrijf zwicht voor de eisen van de regering in het Verenigd Koninkrijk. Die werkt aan een wet dat communicatiemedia zoals WhatsApp, Facebook en anderen verplicht de privéberichten van gebruikers te scannen in de strijd tegen kindermisbruik.
“Wat ze voorstellen is dat we, direct of indirect, alle berichten lezen. Ik denk niet dat veel mensen dit willen”, zegt Will Cathcart aan de Britse omroep BBC. Hij reageert daarmee op de vraag van de Britse autoriteiten om filters in te bouwen in de chatfuncties van apps zoals WhatsApp en Facebook. Meer bepaald zouden de apps hun end-to-end encryptie moeten aanpassen met trefwoorden om in de eerste plaats gevallen van kindermisbruik op te sporen.
End-to-end encryptie (EE2E) zorgt ervoor dat enkel de verzender en ontvanger van berichten de inhoud kunnen lezen. En dus niet de provider van het communicatiekanaal of wie dan ook. De Britse overheid stelt een wet voor waarbij app-ontwikkelaars AI-filters moeten instellen om illegale content te scannen. Dit zou helemaal indruisen tegen het principe van EE2E.
“Dit druist in tegen elk van onze principes. Scanning langs de gebruikerszijde kan niet werken in de praktijk”, gaat Cathcart verder. “Het zou dom zijn om dit te accepteren waardoor ons product minder aantrekkelijk zou zijn voor 98 procent van onze gebruikers, alleen maar omdat 2 procent het anders wil. WhatsApp heeft goed werkende technieken om kindermisbruik te detecteren. Zo hebben we al honderdduizenden foto’s onderschept en gerapporteerd.”
Digital Markets Act (DMA)
Niet alleen in het VK staat de EE2E onder druk. In Europa moet de Digital Markets Act (DMA) ervoor zorgen dat chatplatformen samen werken (zie onze ‘Lees ook’ hier onder). Het Europees parlement keurde in januari nog een andere wet goed, de Digital Services Act (DSA). Die moet gebruikers beschermen tegen illegale content op platformen. DMA is dan weer een uitbreiding op DSA en moet eerlijke concurrentie garanderen tussen de grote techspelers.
lees ook
DMA maakt end-to-end versleuteling bij WhatsApp onmogelijk volgens experten
Kansen voor misbruikers
Het Britse wetvoorstel is, mede door de regeringscrisis, uitgesteld naar het najaar. Toch willen de beleidsmakers de wet erdoor krijgen. “We hebben nog geen technieken die zo accuraat zijn in het opsporen van kindermisbruik als het scannen van inhoud”, zegt Ian Levi van het Britse National Cyber Security Center. “Privacy mag niet worden onderschat. Toch hebben we voldoende argumenten die stellen dat het mogelijk is om de privacy-issues te behandelen.”
En daar schuilt net een groot gevaar. Want door AI-filters toe te passen op de end-to-end encryptie, bestaat de kans dat het systeem niet meer waterdicht is. Dat zou hackers de kans geven om op zoek te gaan naar zwaktes waardoor de veiligheid en privacy van elke gebruiker onder druk staan. En als de hackers het niet doen, dan misschien wel de overheid door op ander thema’s te scannen dan enkel kindermisbruik.