Amerikaanse politie moet worden uitgerust met camera's voor gezichtsherkenning

De grootste verkoper van politiecamera's van het land heeft donderdag een bestuur bijeengeroepen dat zich toelegt op de ethiek en uitbreiding van kunstmatige intelligentie, een belangrijke nieuwe stap in de richting van het aanbieden van controversiële gezichtsherkenningstechnologie aan politiediensten in het hele land.

Axon, de maker van Taser-elektroshockwapens en de draagbare bodycamera's die nu door de meeste grote Amerikaanse politiediensten worden gebruikt, heeft interesse getoond in het nastreven van gezichtsherkenning voor zijn op het lichaam gedragen camera's. De technologie zou officieren in staat kunnen stellen de gezichten van mogelijk iedereen te scannen en te herkennen die ze tijdens de patrouille zien. Een groeiend aantal bewakingsfirma's en technische startups racen om gezichtsherkenning en andere AI-mogelijkheden te integreren in realtime video.

De eerste vergadering van het bestuur zal waarschijnlijk een aanstaande confrontatie voorspellen over de zich snel ontwikkelende technologie. Kort nadat het bestuur was aangekondigd, stuurde een groep van 30 burgerrechten-, technologie- en privacygroepen, waaronder de American Civil Liberties Union en de NAACP, leden een brief waarin ze 'ernstige bezorgdheid uitten over de huidige richting van de productontwikkeling van Axon'.

In de brief werd aangedrongen op een ronduit verbod op gezichtsherkenning, dat het "categorisch onethisch om in te zetten" noemde vanwege de privacyimplicaties van de technologie, technische onvolkomenheden en mogelijk levensbedreigende vooroordelen. De meeste gezichtsherkenningssystemen, zo blijkt uit recent onderzoek, presteren veel minder nauwkeurig bij het beoordelen van mensen met een donkere huid, waardoor het potentieel wordt geopend voor een AI-enabled officier die een onschuldige persoon ten onrechte als een gevaarlijke voortvluchtige identificeert.

De oprichter en CEO van Axon, Rick Smith, zei dat het bedrijf momenteel geen gezichtsherkenningssystemen bouwt, maar zei dat de technologie "in actieve overweging" is. Hij erkende het potentieel van "vooringenomenheid en misbruik" in gezichtsherkenning, maar zei dat de mogelijke voordelen te veelbelovend zijn om te negeren.

"Ik denk niet dat het een optimale oplossing is, de wereld waarin we ons vandaag bevinden, dat het vangen van gevaarlijke mensen gewoon aan het toeval overgelaten moet worden, of dat politieagenten zich zullen herinneren naar wie ze op zoek zijn," zei Smith. “Het zou zowel naïef als contraproductief zijn om te zeggen dat wetshandhavers deze nieuwe technologieën niet zouden moeten hebben. Dat zullen ze, en ik denk dat ze ze nodig zullen hebben. We kunnen de politie in de jaren 2020 niet laten politiseren met technologieën uit de jaren negentig. "

Axon hield donderdagochtend de eerste vergadering van het bestuur op het hoofdkantoor in Arizona met acht door het bedrijf geselecteerde experts op het gebied van AI, burgerlijke vrijheden en strafrecht. Het bestuur, waarvan de leden betaalde vrijwilligers zijn en geen officieel vetorecht hebben, zal worden gevraagd om het bedrijf te adviseren over "toekomstige capaciteiten waaraan Axons AI Research-team werkt om de efficiëntie en doeltreffendheid van de politie te helpen vergroten", aldus het bedrijf in een verklaring.

Gezichtsherkenning is al lang zeer aantrekkelijk voor wetshandhaving en overheidstoezicht, en recente vorderingen in de ontwikkeling van AI en dalende camera- en hardwarekosten hebben ontwikkelaars aangespoord om te suggereren dat het zou kunnen worden toegepast voor breder gebruik. Ongeveer 117 miljoen Amerikaanse volwassenen, of ongeveer de helft van het land, zijn te vinden in de uitgebreide databases voor gezichtsherkenning die worden gebruikt door lokale, provinciale en federale wetshandhavers, schatten onderzoekers van Georgetown Law School in 2016.

Gezichten worden beschouwd als een snelle, betrouwbare manier om iemand van video of ver weg te identificeren - en in sommige gevallen gezien als gemakkelijker te verkrijgen dan andere 'biometrische identificatiemiddelen', zoals vingerafdrukken, die onmiddellijke nabijheid en fysiek contact vereisen. Het Department of Homeland Security scant de gezichten van internationale reizigers op veel van de grootste luchthavens van het land en is van plan uit te breiden naar elke reiziger die naar het buitenland vliegt.

Maar critici zeggen dat gezichtsherkenningssystemen nog steeds niet bewezen zijn in hun vermogen om iemand uniek te identificeren. Gezichten worden na verloop van tijd ouder en veranderen door omstandigheden, en ze zijn niet altijd zo uniek. Zo is bijvoorbeeld aangetoond dat een identieke tweeling de gezichtsherkenningssystemen voor de gek kan houden die worden gebruikt om Apple's iPhone X te ontgrendelen.

"Realtime gezichtsherkenning zou de grondwettelijke vrijheden van meningsuiting en vereniging doen afkoelen, vooral bij politieke protesten", stelt de brief van de afwijkende groeperingen. Het “zou ook officieren kunnen aanzetten om individuen als gevaarlijker te beschouwen dan ze in werkelijkheid zijn en om meer geweld te gebruiken dan de situatie vereist. Geen enkel beleid of waarborg kan deze risico's voldoende beperken om realtime gezichtsherkenning ooit verhandelbaar te maken. "

Axon heeft zich agressief verplaatst om de markt op het gebied van politietechnologieën te verbeteren en biedt gratis eenjarige proeven voor zijn lichaamscamera's en online opslag aan landelijke politiediensten. Het bedrijf zei in februari dat meer dan de helft van de grote stedelijke wetshandhavingsinstanties in de Verenigde Staten Axon bodycamera's of software heeft gekocht, waaronder Los Angeles, Chicago en Washington.

Het bedrijf, dat vorig jaar zijn naam veranderde van Taser International, profileert zichzelf ook als 'de grootste bewaarder van openbare veiligheidsgegevens in de VS' en zegt meer dan 20 petabytes - of 20 miljoen gigabytes - aan politiefoto's, bodycamera-video en andere documenten voor strafrechtelijk onderzoek zijn geüpload naar de cloudopslagdienst Evidence.com.

Lees hier het hele verhaal ...