Amazon's Gezichtsherkenning Tech 'Supercharges' Lokale politie

Toen werknemers van Ace Hardware hier meldden dat een vrouw de winkel uit was gelopen met een tank lasgas van $ 11.99 waarvoor ze niet had betaald in haar draagtas, kwam er een uitgebreide hightech-misdaadbestrijdingsoperatie in actie.

Een rechercheur van een sheriff uit Washington County, in samenwerking met de Special Investigations Unit van het bureau, controleerde de bewakingsbeelden van de winkel via een intern gezichtsherkenningsprogramma dat door Amazon was ontwikkeld en onthulde een mogelijke match.

Het kenteken van die vrouw was gemarkeerd en drie maanden later zag een narcoticabeambte in een ongemarkeerde SUV het en stuurde hij andere patrouille-afgevaardigden om haar tegen te houden. Een hulpsheriff sloeg een paar handboeien om haar polsen, zo luidt het arrestatierapport. Ze zei dat ze het gas nodig had om haar auto te repareren.

Afgevaardigden in deze hoek van West-Oregon buiten het ultraliberale Portland speurden criminelen op de ouderwetse manier op en faxten foto's van een verdachte op kantoor rond in de hoop dat iemand het gezicht zou herkennen.

Toen, eind 2017, werd het Sheriff's Office van Washington County de eerste wetshandhavingsinstantie in het land waarvan bekend was dat het Amazons kunstmatige-intelligentietool Rekognition gebruikte, waardoor dit struikgewas van bossen en buitenwijken werd omgevormd tot een openbare proeftuin voor een nieuwe golf van experimenteel politietoezicht. technieken.

Bijna van de ene op de andere dag zagen de afgevaardigden dat hun onderzoeksbevoegdheden werden opgevoerd, waardoor ze konden zoeken naar wedstrijden van het gezicht van een verdachte in meer dan 300,000 mugshots die sinds 2001 in de districtsgevangenis waren genomen. Een korrelige foto van iemands gezicht - vastgelegd door een beveiligingscamera, een sociale media account of de smartphone van een plaatsvervanger - kan snel een link worden naar hun identiteit, inclusief hun naam, familie en adres. Vorig jaar werden meer dan 1,000 zoekopdrachten met gezichtsherkenning geregistreerd, zeiden deputaten, die de resultaten soms gebruikten om de Facebook-pagina van een verdachte te vinden of hun huis te bezoeken.

Maar Washington County werd ook ground zero voor een strijd met hoge inzet over de ongereguleerde groei van politiewerk door algoritme. Defensieadvocaten, onderzoekers op het gebied van kunstmatige intelligentie en deskundigen op het gebied van burgerrechten beweren dat de technologie kan leiden tot de onrechtmatige arrestatie van onschuldige mensen die alleen lijken op een videobeeld. De nauwkeurigheid van Rekognition wordt ook fel betwist, en sommige deskundigen zijn bang dat een geval van identiteitsverwisseling door gewapende afgevaardigden gevaarlijke gevolgen kan hebben en de privacy en het leven van mensen in gevaar kan brengen.

Sommige politiebureaus hebben de afgelopen jaren gezichtsherkenning uitgevoerd in staats- of FBI-databases met behulp van systemen die zijn gebouwd door aannemers zoals Cognitec, IDEMIA en NEC. Maar de uitrol van Amazon heeft misschien wel de grootste stap gezet om de controversiële face-scanningtechnologie mainstream te maken. Rekognition is eenvoudig te activeren, vereist geen grote technische infrastructuur en wordt aan vrijwel iedereen aangeboden tegen koopjesprijzen. Washington County besteedde ongeveer $ 700 om zijn eerste grote fotoverzameling te uploaden, en nu betaalt het voor al zijn zoekopdrachten ongeveer $ 7 per maand.

Het is echter onmogelijk te zeggen hoe nauwkeurig of effectief de technologie is geweest tijdens de eerste 18 maanden van real-world tests. Afgevaardigden hoeven in arrestatierapporten niet te noteren wanneer een zoekopdracht met gezichtsherkenning is gebruikt, en het exacte aantal keren dat dit tot een arrestatie heeft geleid, is onduidelijk. Ambtenaren van de sheriff zeiden dat de software heeft geleid tot tientallen arrestaties voor diefstal, geweld of andere misdrijven, maar een openbaar verzoek leverde negen casusrapporten op waarin gezichtsherkenning werd genoemd.

"Net als al onze onderzoekstechnieken, vertellen we mensen niet hoe we ze vangen", zegt Robert Rookhuyzen, een rechercheur van het grote misdaadteam van het bureau, die zei dat hij "enkele tientallen" zoekopdrachten heeft uitgevoerd en vond het nuttig voor ongeveer 75%. van de tijd. "We willen dat ze blijven raden."

Ambtenaren van de sheriff zeggen dat gezichtsscans niet altijd het einde van het onderzoek markeren: afgevaardigden moeten nog steeds de waarschijnlijke oorzaak vaststellen of bewijs vinden voordat ze een verdachte aanklagen voor een misdrijf. Maar het bureau van de sheriff stelt zijn eigen regels voor het gebruik van gezichtsherkenning en staat afgevaardigden toe de tool te gebruiken om lichamen, onbewuste verdachten en mensen te identificeren die weigerden hun naam te geven.

De onvolmaakte resultaten van de zoekfunctie verhogen het risico dat een onschuldige persoon wordt gemarkeerd en gearresteerd, vooral in gevallen waarin de gescande afbeeldingen wazig, van lage kwaliteit of gedeeltelijk verborgen zijn. Afgevaardigden mogen ook kunstenaarsschetsen door de zoekopdracht voeren, een ongebruikelijk gebruik waarvan AI-experts zeiden dat het vaker tot een valse match zou kunnen leiden.

Volgens de richtlijnen van Amazon voor wetshandhaving mogen ambtenaren de resultaten van Rekognition alleen gebruiken als het systeem 99% zeker is van een wedstrijd. Maar afgevaardigden hier krijgen die zoekvertrouwen niet te zien wanneer ze de tool gebruiken. In plaats daarvan krijgen ze voor elke zoekopdracht vijf mogelijke overeenkomsten, zelfs als de zekerheid van het systeem in een overeenkomst veel lager is.

Na het beantwoorden van vragen van The Washington Post, voegde Amazon taal toe aan die richtlijnen, waarin stond dat agenten alle overeenkomsten handmatig moesten beoordelen voordat een verdachte werd vastgehouden en dat de zoekopdracht 'niet als enige bepalende factor voor het ondernemen van actie mag worden gebruikt.'

De relatie tussen Amazon en de op twee na grootste wetshandhavingsinstantie van Oregon is wederzijds voordelig: het Sheriff's Office helpt het systeem te verfijnen, dat Amazon hoopt te verkopen in het hele land. Maar de druk van Amazon op de verkoop van wetshandhavers heeft enkele juridische voorstanders gealarmeerd die zeggen dat het systeem te veel risico's met zich meebrengt voor de burgerlijke vrijheden. (Amazon-oprichter en CEO Jeff Bezos is eigenaar van The Post.)

"De regering is ongelooflijk machtig, en ze brengen veel teweeg tegen een individuele burger in een zaak", zegt Mary Bruington, de directeur van het Washington County Public Defender's Office, dat beklaagden vertegenwoordigt die zich geen advocaat kunnen veroorloven. 'Koppel je dat aan Amazon? Dat is een krachtig partnerschap. "

Matt Wood, de algemeen manager van kunstmatige intelligentie voor de cloud computing-divisie van het bedrijf, Amazon Web Services, zei in een verklaring dat Rekognition slechts "een andere input is tussen vele andere aanknopingspunten voor een 100 procent door mensen gestuurd onderzoek".

Toch krijgt het bedrijf op veel fronten te maken met kritiek: toponderzoekers op het gebied van AI, leden van het Congres en burgerrechtengroepen - evenals enkele van de eigen investeerders en werknemers van Amazon - hebben er bij het bedrijf op aangedrongen te stoppen met het leveren van de technologie aan wetshandhavers, wijzend op studies die hebben geconstateerd dat het systeem minder nauwkeurig is bij gezichten met een donkere huidskleur. Amazon heeft dat onderzoek betwist.

Sommige rivalen van Amazon hebben soortgelijke contracten afgewezen. Microsoft-president Brad Smith zei in april dat het bedrijf onlangs had geweigerd om zijn gezichtsherkenningssoftware te leveren aan een Californische wetshandhavingsinstantie die een gezichtsscan wilde uitvoeren wanneer zijn agenten iemand overhielden, maar dat het een deal had goedgekeurd om de technologie in een Amerikaanse gevangenis. Microsoft weigerde details te verstrekken.

Amazon-investeerders zullen in mei stemmen over een voorstel, gesteund door een groep activistische aandeelhouders, dat zou voorkomen dat het bedrijf Rekognition aan overheidsinstanties verkoopt, tenzij het bestuur van het bedrijf vaststelt dat het geen risico voor de mensenrechten vormt.

Het bureau van de sheriff stond postjournalisten toe om in maart twee dagen in zijn politieauto's, detectivebureaus en districtsgevangenis door te brengen, om te observeren hoe afgevaardigden de technologie in hun dagelijkse werklast hebben verwerkt. De meeste van de geïnterviewden zeiden dat de software hen tijd had bespaard, hun arrestatiecijfers had verhoogd en hen had geholpen de groeiende overvloed aan visueel bewijs te verwerken. Tot op heden is er geen juridische betwisting ingediend tegen een arrestatie op grond van het feit dat de fotowedstrijd verkeerd was, zeiden zowel afgevaardigden als openbare verdedigers.

Maar advocaten in Oregon zeiden dat de technologie niet, zoals velen het zien, een op handen zijnde stap voor de toekomst van het politiewerk zou moeten zijn, en zij omkaderen het systeem niet als een technische mijlpaal maar als een morele: is het OK om meer slechteriken te vangen als kunnen er meer goeden ook worden gearresteerd?

"Mensen houden ervan om altijd te zeggen: 'Hé, als het slechte mensen vangt, geweldig, who cares'," zei Joshua Crowther, een hoofdverdediger in Oregon, "totdat ze aan de andere kant zijn."

'Niet van magie te onderscheiden'

Toen Amazon in 2016 Rekognition onthulde, noemde het bedrijf het een doorbraak voor een krachtige stijl van diepgaande kunstmatige intelligentie die resultaten liet zien die 'niet te onderscheiden zijn van magie'. In een blogpost geïllustreerd met een foto van de hond van een directeur, bood het bedrijf enkele algemene ideeën over hoe mensen het konden gaan gebruiken, ook voor veiligheidscontrolepunten of reclameborden die waren bedraad om gegevens van het gezicht van een kijker te verzamelen.

De onthulling trok de aandacht van Chris Adzima, een voormalig eBay-programmeur die was ingehuurd bij het Sheriff's Office in Washington County om te werken aan een iPhone-app die afgevaardigden gebruiken om het gedrag van gedetineerden bij te houden. Zijn bureau had al honderdduizenden gezichtsfoto's online en er was geen echte manier om ze te analyseren. Met behulp van de AI van Amazon kreeg hij een systeem in minder dan drie weken tijd.

"Ze hadden niet echt een duidelijk idee van welk soort use-cases dan ook in de echte wereld, maar ze wisten dat ze een krachtige tool hadden die ze hadden gemaakt", zegt Adzima, een senior analist van informatiesystemen die in een klein hokje bij het hoofdkwartier van de sheriff. "Dus, weet je, ik ben het net begonnen te gebruiken."

Afgevaardigden begonnen onmiddellijk gezichtsonderzoeken te integreren in hun dagelijkse politiezorg, en Adzima bouwde een kale interne website waarop ze vanuit hun patrouillewagens konden zoeken. Hij liet de percentages van zoekvertrouwen vallen en ontwierp het systeem om elke keer vijf resultaten te retourneren: toen het systeem nul resultaten retourneerde, vroegen afgevaardigden zich af of ze iets hadden verknoeid, zei hij. Om het op te fleuren, voegde hij ook een onnodige paarse 'scan'-animatie toe telkens wanneer een hulpsheriff een foto uploadde - een aanraking die volgens hem was geïnspireerd door politieshows als' CSI '.

Lees hier het hele verhaal ...