IBM gebruikte NYPD-bewakingsbeelden om technologie te ontwikkelen die politieonderzoek op huidskleur mogelijk maakt

Wikipedia Commons
Deel dit verhaal!
Technocraten zijn afhankelijk van externe gegevens om hun verschillende experimenten te voeden. Zonder gegevens is er geen reden voor hun bestaan. Verder worden gegevens gezien als een universeel recht dat hen op de een of andere manier speciale verwervingsbevoegdheden verleent: als je het hebt, denken ze dat ze er recht op hebben. ⁃ TN Editor

In het decennium na de 9 / 11-aanvallen heeft de New York City Police Department miljoenen New Yorkers voortdurend in de gaten gehouden. Waarschuwing voor terrorisme bedreigingen, heeft de afdeling een plan gemaakt om tapijt Manhattan straten in het centrum met duizenden camera's en had, door 2008, centraliseerde zijn videobewakingsactiviteiten in één commandocentrum. Twee jaar later, kondigde de NYPD aan dat het commandocentrum, bekend als het Lower Manhattan Security Coordination Center, geavanceerde videoanalysesoftware had geïntegreerd in geselecteerde camera's in de stad.

De videoanalysesoftware legde stilstaande beelden vast van personen die werden vastgelegd op tv-opnamen met een gesloten circuit en bestempelden de beelden automatisch met fysieke tags, zoals kledingkleur, waardoor de politie snel door uren video kon zoeken naar afbeeldingen van personen die overeenkomen met een interessante beschrijving. Destijds de software begon ook om waarschuwingen te genereren voor pakketten zonder toezicht, auto's die een straat in de verkeerde richting versnellen, of mensen die beperkte gebieden betreden.

In de loop der jaren heeft de NYPD slechts incidentele, kleine updates over de voortgang van het programma gedeeld. In een 2011-interview met Scientific American, bijvoorbeeld, inspecteur Salvatore DiPace, toen commandant van het Lower Manhattan Security Initiative, zei dat de politie testte of de software afbeeldingen van gezichten van mensen kon wegvagen terwijl ze door de metrocamera's liepen en vervolgens de afbeeldingen doorzochten voor verschillende niet-gespecificeerde ' gezichtskenmerken."

Terwijl gezichtsherkenningstechnologie, die individuele gezichten meet over 16,000 punten voor fijnkorrelige vergelijkingen met andere gezichtsbeelden, heeft aanzienlijk aangetrokken juridisch onderzoek en  media aandachtheeft deze objectidentificatiesoftware de aandacht grotendeels ontweken. Hoe deze technologie precies werd ontwikkeld en welke specifieke functies de software is gebouwd om te catalogiseren, is nooit openbaar gemaakt door de NYPD.

Nu dankzij vertrouwelijke bedrijfsdocumenten en interviews met veel van de technologen die betrokken zijn bij de ontwikkeling van de software, The Intercept en het Investigative Fund, hebben vernomen dat IBM deze objectidentificatietechnologie is gaan ontwikkelen met geheime toegang tot camerabeelden van NYPD. Met toegang tot afbeeldingen van duizenden onbekende New Yorkers die door NYPD-ambtenaren werden aangeboden, creëerde IBM al in 2012 nieuwe zoekfuncties waarmee andere politiediensten in camerabeelden kunnen zoeken naar afbeeldingen van mensen op haarkleur, gezichtshaar en huidskleur .

IBM weigerde commentaar te geven op het gebruik van NYPD-beeldmateriaal om de software te ontwikkelen. In een e-mailantwoord op vragen vertelde de NYPD echter wel aan The Intercept dat “Video van tijd tot tijd aan IBM werd verstrekt om ervoor te zorgen dat het product dat ze ontwikkelden zou werken in de drukke stedelijke NYC-omgeving en ons zou helpen de stad te beschermen . De overeenkomst van de NYPD met IBM bevat niets dat het delen van gegevens met IBM verbiedt voor systeemontwikkelingsdoeleinden. Verder hebben alle leveranciers die contractuele overeenkomsten met de NYPD sluiten de absolute vereiste om alle door de NYPD verstrekte gegevens vertrouwelijk te houden gedurende de looptijd van de overeenkomst, na de voltooiing van de overeenkomst en in het geval dat de overeenkomst wordt beëindigd. "

In een e-mail naar The Interceptde NYPD bevestigde dat geselecteerde terrorismebestrijdingsambtenaren al in de zomer van 2012 toegang hadden tot een vooraf uitgebrachte versie van het programma van IBM, met mogelijkheden voor het zoeken naar huidskleur. NYPD-woordvoerder Peter Donald zei dat de zoekkenmerken alleen werden gebruikt voor evaluatiedoeleinden en dat officieren de opdracht kregen om de functie voor het zoeken naar huidtinten niet in hun beoordeling op te nemen. De afdeling besloot uiteindelijk het analyseprogramma niet te integreren in de grotere bewakingsarchitectuur en stopte het IBM-programma geleidelijk af in 2016.

Na het testen van deze lichamelijke zoekfuncties met de NYPD, heeft IBM enkele van deze mogelijkheden vrijgegeven in een 2013-productrelease. Later versies van IBM's software behield en breidde deze lichamelijke zoekmogelijkheden uit. (IBM heeft niet gereageerd op een vraag over de huidige beschikbaarheid van videoanalyseprogramma's.)

Gevraagd naar het geheim van deze samenwerking, zei de NYPD dat "verschillende gekozen leiders en belanghebbenden" werden geïnformeerd over de inspanningen van de afdeling "om deze stad veilig te houden", eraan toevoegend dat het delen van cameratoegang met IBM noodzakelijk was voor het systeem om te werken. IBM heeft niet gereageerd op een vraag waarom het bedrijf deze samenwerking niet openbaar heeft gemaakt. Donald zei dat IBM de afdelingslicenties gaf om het systeem op 512-camera's toe te passen, maar zei dat de analyses werden getest op 'minder dan vijftig'. Hij voegde eraan toe dat IBM-personeel toegang had tot bepaalde camera's met als enig doel het configureren van het systeem van NYPD, en dat de afdeling heeft veiligheidsmaatregelen getroffen om de gegevens te beschermen, inclusief “geheimhoudingsovereenkomsten voor elke persoon die toegang heeft tot het systeem; geheimhoudingsovereenkomsten voor de bedrijven waarvoor de leveranciers hebben gewerkt; en achtergrondcontroles. "

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

0 Heb je vragen? Stel ze hier.
Inline feedbacks
Bekijk alle reacties