WhatsApp test Scam Alert, een optionele functie die verdachte berichten met een AI-model op het toestel herkent.
WhatsApp lanceert een nieuwe functie om gebruikers te beschermen tegen scamberichten. De berichtenapp krijgt regelmatig te maken met malwarecampagnes en AI-hulpmiddelen maken frauduleuze berichten veel geloofwaardiger. De functie wordt momenteel beperkt uitgerold in bèta. WhatsApp deelt tegelijk technische informatie over de werking, zodat gebruikers en veiligheidsonderzoekers de privacywaarborgen kunnen controleren.
Waarschuwing op het toestel
Scam Alert analyseert inkomende berichten van personen die niet in je contactenlijst staan. Het model zoekt naar patronen in gesprekken en taal die met bekende scamtechnieken overeenkomen. De analyse gebeurt volledig op het toestel met een lokaal draaiend AI-model.
Bij een vermoedelijke poging verschijnt een waarschuwing in de chat. Die waarschuwing is niet zichtbaar voor de andere persoon. De gebruiker kan het gesprek blokkeren, rapporteren of voortzetten.
Beperkte meetgegevens
WhatsApp benadrukt dat het nooit de inhoud van je berichten te zien krijgt. Om toch te kunnen meten of Scam Alert correct werkt, verzamelt geaggregeerde gegevens zoals gebruikersacties. Berichtinhoud, gesprekssignalen en gegevens per gebruiker verlaten het toestel niet.
De lokale aantallen worden op willekeurige tijdstippen via een relay verstuurd, zonder apparaatidentificatie. Vertrouwelijke virtuele machines voegen de gegevens samen en passen differentiële privacy toe. WhatsApp ontvangt daardoor alleen benaderende statistieken over grotere groepen.
De modelkeuze gebeurt op het toestel zelf. Gebruikers kunnen bovendien activiteitenlogs inschakelen via Account, Info aanvragen en Scam Alert-activiteit. Daarin staan de geanalyseerde berichten, waarschuwingen en gebruikte modelversie.
Beperkte bèta
Tijdens de bètafase liet Meta onderzoekers de privacyarchitectuur en modelgewichten controleren. Het bugbountyprogramma wordt uitgebreid om ook het model en de gegevenspijplijn te testen. De algemene beschikbaarheid volgt pas na verdere evaluatie.
Scam Alert combineert lokale analyse met controleerbare modelversies en beperkte meetgegevens. De functie blijft optioneel, terwijl WhatsApp de bescherming tijdens de bèta verder wil aanpassen aan nieuwe scamtechnieken.