Biometrische smackdown: speling groeit tegen gezichtsherkenning

Een tiener klaagt Apple aan voor $ 1 miljard. De proces, ingediend maandag, hangt af van het vermeende gebruik van een steeds populairdere - en controversiële - technologie: gezichtsherkenning. De technologie kan een persoon identificeren door zijn gelaatstrekken te analyseren in afbeeldingen, video's of in realtime.

De eiser, 18-jarige student Ousmane Bah, claimt het bedrijf gezichtsherkenningstool leidde ertoe dat hij werd gearresteerd voor diefstal van Apple Store hij pleegde niet, door zijn naam ten onrechte te verbinden met het gezicht van de echte dief. NYPD-officieren kwamen afgelopen najaar naar het huis van Bah om hem 's ochtends bij 4 te arresteren, maar ontdekten dat ze blijkbaar de verkeerde hadden. Bah zegt dat de hele beproeving hem ernstig emotioneel leed heeft veroorzaakt. Ondertussen staat Apple erop dat haar winkels geen gezichtsherkenningstechnologie gebruiken.

Wat de waarheid in dit geval ook blijkt te zijn, Bah's rechtszaak is het laatste teken van een escalerende weerslag tegen gezichtsherkenning. Naarmate de technologie in meer en meer domeinen wordt geïmplementeerd, heeft het steeds meer controverses veroorzaakt. Neem bijvoorbeeld de zwarte huurders in Brooklyn die onlangs maakte bezwaar tegen het plan van hun verhuurder om de technologie in hun huur-gestabiliseerd gebouw te installeren. Of de reiziger die dat via Twitter heeft geklaagd JetBlue had haar ingecheckt in haar vlucht met behulp van gezichtsherkenning zonder haar toestemming. (De luchtvaartmaatschappij legde uit dat het daarvoor gegevens van het Department of Homeland Security had gebruikt en verontschuldigde zich.)

Dat is een aanvulling op de onderzoekers, voorstanders en duizenden leden van het publiekdie hun bezorgdheid hebben geuit over het risico dat gezichtsherkenning leidt tot onrechtmatige arrestaties. Ze maken zich zorgen dat bepaalde groepen onevenredig worden getroffen. Gezichtsherkenningstechnologie is redelijk goed in het identificeren van blanke mannelijke gezichten, omdat dat het soort gezichten is waarop het is getraind. Maar te vaak, het identificeert mensen van kleur en vrouwen verkeerd. Dat vooroordeel kan ertoe leiden dat ze onevenredig worden vastgehouden voor ondervraging naarmate meer wetshandhavingsinstanties de technologie in gebruik nemen.

Nu bereiken we een buigpunt waar grote bedrijven - niet alleen Apple, maar ook Amazon en Microsoft - worden gedwongen dergelijke klachten serieus te nemen. En hoewel ze eindelijk proberen te telegraferen dat ze gevoelig zijn voor de zorgen, kan het te laat zijn om vertrouwen terug te winnen. Publieke ontevredenheid heeft zo'n koortspitch bereikt dat sommige, inclusief de stad San Francisco, overwegen nu een volledig verbod op gezichtsherkenningstechnologie.

Een stem om Amazon te verbieden Rekognition te verkopen

Amazon staat er niet bepaald om bekend dat hij leuk speelt. Het heeft een reputatie voor vechten tegen voorgestelde wetten die hij niet leuk vindt en voor agressief verdedigen van haar werk met de politie en de overheid. Jarenlang kon het zich veroorloven om zich zo te gedragen. Toch maakt de opschudding over gezichtsherkenning die houding moeilijker te handhaven.

Amazon's gezichtsherkenningstool, Rekognition, is al verkocht aan wetshandhavers en gooide op immigratie en douanehandhaving. Maar vooraanstaande AI-onderzoekers hebben onlangs betoogd een open brief dat de technologie erg gebrekkig is. (Voorbeeld in: vorig jaar in een test, Rekognition koppelde 28-leden van het congres aan criminele mugshots.) En aandeelhouders van Amazon schreeuwen om een ​​stemming over de vraag of het bedrijf moet stoppen met het verkopen van de tool aan overheidsinstellingen totdat het een onafhankelijke beoordeling van de gevolgen voor de burgerrechten doorstaat.

Amazon vocht hard om te voorkomen dat de stemming plaatsvond, maar de Securities and Exchange Commission uitgesloten deze maand dat het bedrijf het moet laten doorgaan. Het zal plaatsvinden op mei 22. Hoewel het resultaat grotendeels symbolisch zal zijn - aandeelhoudersresoluties zijn niet bindend - brengt de stemming Amazon onder de aandacht.

In de tussentijd is het bedrijf geweest probeert het beeld te verzachten door bijvoorbeeld een aantal van zijn agressieve promotionele tactieken terug te draaien. Kartik Hosanagar, professor Wharton School of Business, zei Amazon onderneemt "preventieve actie" om aardig te worden "voordat een van de [presidents-] kandidaten Amazon de poster maakt van wat zij de problemen met Big Tech noemen."

De gemengde berichten van Microsoft over het ethische gebruik van gezichtsherkenning

Terwijl Amazon nog steeds een jong bedrijf is, opgericht in 1994, is Microsoft volwassen geworden - het bestaat al sinds 1975. Die langere levensduur betekent dat het meer tijd had om fouten te maken, maar ook meer tijd om ervan te leren. Kim Hart bij Axios stelt dat dat de reden is Microsoft is er grotendeels in geslaagd de terugslag tegen big tech te voorkomen. "Microsoft, die door zijn eigen antitruststrijd met het ministerie van Justitie in de '90s sjokte, heeft de fouten van zijn jongere, brasher Big Tech-broeders omzeild", schrijft ze.

Toch is Microsoft geenszins volledig immuun voor de speling. Nadat deze maand werd gemeld dat Microsoft-onderzoekers drie artikelen over AI en gezichtsherkenning hadden geproduceerd bij een militaire universiteit in China, beschuldigden sommige Amerikaanse politici het bedrijf voor het helpen van een regime dat gevangen houdt een miljoen Oeigoerse moslims in interneringskampen en miljoenen meer surveilleren. Senator Marco Rubio noemde het "Zeer verontrustend ... een daad die hen medeplichtig maakt aan het helpen van het totalitaire censuurapparaat van de communistische Chinese regering."

De pers wees er ook op dat het bedrijf zijn gezichtsherkenningssoftware heeft verkocht aan een Amerikaanse gevangenis, en dat Microsoft President Brad Smith heeft gezegd dat het zou zijn "wreed" om helemaal te stoppen met de verkoop van de software aan overheidsinstanties.

Dagen later deed het bedrijf moeite om aan te tonen dat het wel om ethisch gebruik van AI geeft. Smith kondigde aan dat het had geweigerd zijn gezichtsherkenningssoftware te verkopen aan een Californische wetshandhavingsinstantie die het wilde installeren in officiersauto's en body cams. Hij zei dat Microsoft weigerde op grond van mensenrechten, wetende dat het gebruik van de software ertoe zou leiden dat gekleurde mensen en vrouwen onevenredig vastgehouden worden voor ondervraging.

De drang om gezichtsherkenningstechnologie ronduit te verbieden

Deze maand heeft duidelijk gemaakt dat de publieke druk werkt als het gaat om gezichtsherkenning. Behemoth-bedrijven weten dat ze de kritiek niet langer kunnen negeren - of, zoals ze onlangs deden, gewoon zeggen dat ze de regulering van deze technologie zouden verwelkomen. Critici maken duidelijk dat dat niet goed genoeg is - ze willen dergelijke bedrijven zien "helemaal uit de bewakingsbusiness stappen", zoals de American Civil Liberties Union Vox vertelde.

Lees hier het hele verhaal ...