Gezichtsherkenning AI voorspelt criminelen op basis van gezicht?

Een team van de Universiteit van Harrisburg, PA, heeft geautomatiseerde gezichtsherkenningssoftware voor computers ontwikkeld waarvan zij beweren dat ze met 80 procent nauwkeurigheid en 'geen raciale vooroordelen' kan voorspellen of een persoon waarschijnlijk een crimineel zal worden, puur door naar een foto van hen. "Door de identificatie van potentiële bedreigingen zonder vooringenomenheid te automatiseren, is ons doel om instrumenten te produceren voor misdaadpreventie, rechtshandhaving en militaire toepassingen", zeiden ze, en verklaarden dat ze op zoek waren naar "strategische partners" om mee samen te werken om hun product te implementeren.

In een zorgwekkend woordgebruik, het team in hun eentje persbericht, van een verwijzing naar de software die door de software wordt herkend als "waarschijnlijke criminelen" naar "criminelen" in slechts één zin, wat suggereert dat ze vertrouwen hebben in de in diskrediet geraakte racistische pseudowetenschap van de frenologie die ze lijken te hebben bijgewerkt voor de 21e eeuw.

De reacties van het publiek op het project waren niet bepaald enthousiast, te oordelen naar opmerkingen links op Facebook, waaronder "Samenlevingen proberen al eeuwenlang het idee van 'geboren criminelen' te pushen," "en dit profileert zich niet omdat ......?" en "20 procent wordt constant door de politie gevolgd omdat ze de 'misdaadgezicht' hebben." De reactie was inderdaad zo negatief dat de universiteit het persbericht van het internet haalde. Het is echter nog steeds zichtbaar met de Internet Wayback-machine.

Hoewel het onderzoeksteam beweert vooringenomenheid en racisme uit de besluitvorming te verwijderen en het aan een gezichtsloos algoritme over te laten, hebben degenen die de code schrijven en degenen die mogen beslissen wie in de eerste plaats een crimineel is, zeker hun eigen vooroordelen . Waarom worden daklozen of mensen van kleur die “rondhangen” op de trottoirs gecriminaliseerd, maar senatoren en congresleden die stemmen voor oorlogen en regeringsoperaties niet? En wie wordt er vaker gearresteerd? Leidinggevenden van Wall Street die cocaïne doen in hun kantoren of arbeiders die marihuana roken of crack roken? Hoe hoger het niveau van een persoon in de samenleving, hoe ernstiger en schadelijker hun misdaden worden, maar de kans op arrestatie en vrijheidsstraf neemt af. Zwarte mensen worden vaker gearresteerd voor dezelfde misdaad als blanken en worden veroordeeld tot langer verblijf ook in de gevangenis. Bovendien is gezichtsherkenningssoftware dat wel berucht omdat ze mensen van kleur niet van elkaar kunnen onderscheiden, wat verdere zorgen oproept.

Lees hier het hele verhaal ...