Amazon's gezichtsherkenningssoftware is 'gebrekkig, bevooroordeeld en gevaarlijk'

Deel dit verhaal!

Na het identificeren van 28 leden van het Congres als verdachten van de politie, lijkt de gezichtsherkenning-AI van Amazon slechts ongeveer 80% van de tijd te werken, en toch wordt het massaal verkocht aan regeringen en politiebureaus. Zelfs als het 95% van de tijd werkt, lopen de 5% die ten onrechte worden geïdentificeerd het risico dat hun leven voor niets vernietigd wordt. ⁃ TN-editor

Een gezichtsherkenningstool die Amazon.com Inc. verkoopt aan webontwikkelaars, identificeerde 28-leden van het Congres ten onrechte als politie-verdachten, aldus de organisatie op een test uitgevoerd door de American Civil Liberties Union (ACLU).

Amazon zei in een reactie dat het tijdens de test problemen had met de instellingen van zijn Face ID-tool. De bevindingen wijzen niettemin op de risico's die individuen kunnen lopen als de politie de technologie op bepaalde manieren gebruikt om criminelen te vangen.

Sinds mei hebben de ACLU en andere burgerrechtenorganisaties Amazon onder druk gezet om te stoppen met het verkopen van regeringen tot Rekognition, een krachtige software voor beeldidentificatie die in 2016 werd onthuld door de cloud computing-divisie van het bedrijf.

De groepen noemden het gebruik van Rekognition door wetshandhavers in Oregon en Florida en waarschuwden dat het instrument zou kunnen worden gebruikt om immigranten en mensen van kleur oneerlijk te richten.

Hun activisme heeft een openbaar debat op gang gebracht. De president van Microsoft Corp, de rivaal van Amazon die ook gezichtsherkenningstechnologie gebruikt, riep eerder deze maand het Congres op om mogelijke regelgeving te bestuderen.

De ACLU zei dat het wil dat het Congres een moratorium instelt op het gebruik van de technologie door wetshandhavers.

Gezichtsherkenning wordt in China al op grote schaal gebruikt voor politiedoeleinden, en een aantal startende bedrijven daar - sommige ter waarde van miljarden dollars - zijn agressief bezig met de technologie.

Amazon heeft een reeks toepassingen aangeprezen voor Rekognition, van het online detecteren van aanstootgevende inhoud tot het identificeren van beroemdheden.

"We blijven enthousiast over hoe beeld- en videoanalyse een drijfveer voor het goede in de wereld kan zijn", zei een woordvoerster van Amazon Web Services in een verklaring, daarbij verwijzend naar de hulp bij het opsporen van verloren kinderen en het voorkomen van misdaden. Ze zei dat herkenning normaal werd gebruikt om het veld voor menselijke beoordeling te verkleinen, niet om definitieve beslissingen te nemen.

De ACLU zei dat het slechts $ 12.33 betaalde om Amazon Rekognition officiële foto's van elk lid van het Amerikaanse Huis en de Senaat te laten vergelijken met een database met 25,000 foto's van openbare arrestaties.

De technologie identificeerde "overeenkomsten" voor 28 leden van het Congres met een nauwkeurigheid van ten minste 80 procent, de standaardinstelling van Amazon, aldus de ACLU.

Lees hier het hele verhaal ...