IBM gebruikte stiekem beelden van beveiligingscamera’s van de NYPD om surveillancetechnologie te ontwikkelen die kan zoeken naar personen op basis van lichamelijke kenmerken zoals leeftijd en huidskleur.
Dit is volgens een rapport van The Intercept dat vertrouwelijke bedrijfsdocumenten citeert, evenals interviews met voormalige IBM- onderzoekers en NYPD-functionarissen. Hoewel IBM adverteert met het vermogen van zijn video-analysesoftware om te zoeken naar personen op basis van kenmerken als leeftijd en etniciteit, was nog niet eerder bekend dat het bedrijf bewakingsbeelden uit New York gebruikte om deze technologie te ontwikkelen.
De mate waarin IBM met de NYPD heeft samengewerkt en de geheimhouding waarmee dit gebeurde, is een verontrustend voorbeeld van technologische bedrijven die samenwerken met overheden om surveillancesystemen te bouwen zonder publiek toezicht. Dergelijke systemen zouden bijvoorbeeld racistisch bevooroordeeld kunnen zijn en er is geen duidelijke wetgeving om hun gebruik te reguleren.
Zoekfunctionaliteit verbeteren
Volgens The Intercept verwierf de NYPD in 2007 voor het eerst de video-analysesoftware van IBM via Vexcel, een dochteronderneming van Microsoft. De technologie werd in maart 2010 voor het eerst getest. In 2012 testte IBM naar verluidt de video-analysesoftware op de lichamen en gezichten van New Yorkers. Ze legden hun fysieke gegevens vast en archiveerden deze terwijl ze in het openbaar rondliepen. Het bedrijf gebruikte deze beelden vervolgens om de zoekfunctionaliteit te verbeteren bijvoorbeeld wanneer ze zochten op gender, huidskleur of haarkleur.
De NYPD zegt dat deze functies nooit daadwerkelijk zijn gebruikt. IBM wilde over het onderwerp geen specifieke vragen beantwoorden toen The Verge contact met hen opnam, maar het gaf een verklaring dat het “absoluut vastbesloten blijft om op verantwoorde wijze nieuwe technologieën te ontwikkelen.”