Moeten gezichtsherkenningssystemen op Amerikaanse scholen worden geïnstalleerd?

Afbeelding: Steve Ringman / The Seattle Times
Deel dit verhaal!
Ouders protesteren minder dan biometrische identificatie voor hun kinderen absoluut zou moeten zijn voordat ze zelfs afstuderen aan de middelbare school. Technocraten doen het in het algemeen met stoom over ethische en constitutionele zorgen, pleiten voor efficiëntie en gemak. ⁃ TN Editor

RealNetworks biedt scholen een nieuwe, gratis beveiligingstool aan: gezichtsherkenningssoftware. Maar naarmate de technologie zich verder in de openbare ruimte begeeft, roept dat privacyproblemen op en roept het op tot regulering - zelfs van de technologiebedrijven die de biometrische software uitvinden.

Terwijl Mike Vance de glazen deur nadert die naar het engineeringbureau van RealNetworks leidt, glimlacht hij een beetje naar een kleine camera die voor hem is gemonteerd. Klik. De deur wordt ontgrendeld en reageert op een opdracht van software die de camera voedt die het gezicht van Vance herkende en zijn identiteit bevestigde.

Vance, een senior directeur van productmanagement bij het technologiebedrijf in Seattle, leidt het team dat veilige, nauwkeurige gezichtsherkenning - of SAFR - heeft gecreëerd, die 'veiliger' werd uitgesproken - een technologie die het bedrijf deze zomer gratis aan K-12-scholen begon aan te bieden.

Het duurde drie jaar, 8 miljoen gezichten en meer dan 8 miljard datapunten om de technologie te ontwikkelen, die een gezicht met vrijwel perfecte nauwkeurigheid kan identificeren. Het kortetermijndoel, zeggen de leidinggevenden van RealNetworks, is verhoogde schoolveiligheid.

"Er is veel voordeel voor scholen om te begrijpen wie er komt en gaat," zei Vance.

De software is al in gebruik op één school in Seattle en RealNetworks is in gesprek om het uit te breiden naar verschillende andere in het hele land. Wat de toekomst betreft, is RealNetworks - bekend om video- en muziekstreamingsoftware die in de vroege 2000's werd geïntroduceerd - van plan om SAFR aan verschillende industrieën te verkopen, hoewel het bedrijf voorlopig volledig op de hoogte blijft van de details.

De introductie van de technologie heeft RealNetworks in het midden van een veld gebracht dat snel groeit naarmate software beter wordt in het identificeren van gezichten. Maar tegelijkertijd groeien er privacyoverwegingen en toenemende roep om regulering - zelfs van de technologiebedrijven die de biometrische software uitvinden.

Gezichtsherkenningstechnologie is al gebruikelijk, wordt overal gebruikt, van foto-apps die foto's van mensen sorteren, tot het ontgrendelen van een iPhone, tot wetshandhavingsinstanties die databases zoeken met foto's van rijbewijzen.

Gezichtsherkenning wordt in grote lijnen op twee manieren gebruikt, zegt Oren Etzioni, CEO van het Allen Institute for Artificial Intelligence in Seattle, de zusterorganisatie van Paul Allen's instituut voor hersenwetenschap. Een daarvan is het gemak van de consument, zoals het groeperen van foto's, en de andere is voor bewaking en tracking.

De grote technische spelers zijn geweest al jaren betrokken: Microsoft markten Face API voor bedrijven om vergelijkbare gezichten voor apps en andere producten te identificeren en te groeperen, terwijl Amazon Rekognition heeft, dat eerder dit jaar onder vuur kwam te liggen toen de ACLU vroeg het bedrijf om te stoppen verkopen aan wetshandhavingsinstanties. Google, Apple en Facebook spelen ook een rol, zoals het taggen en groeperen van foto's op smartphones.

Maar nu, zoals de SAFR van RealNetworks aantoont, is de technologie verder in de openbare ruimte geraakt. En daarmee vragen advocaten van privacy zich af of mensen zich volledig realiseren hoe vaak hun gezichten worden gescand, en advocaten en de industrie vragen zich af waar de grens ligt tussen de voordelen voor het publiek en de kosten voor privacy.

Een gezicht leren

Gezichtsherkenningstechnologie werkt net als vingerafdrukken - elk gezicht heeft zijn eigen unieke handtekening en bedrijven leren machines de unieke functies van mensen te herkennen en te matchen.

De technologie van RealNetworks brengt 1,600 datapunten in kaart op elk gezicht dat het ziet. Het team heeft zijn machine ongeveer twee jaar "getraind" sinds de lancering van RealTimes, de gratis app waarmee mensen diavoorstellingen van foto's kunnen maken. In de gebruikersovereenkomst van 3,300 woorden voor die app zit de taal die RealNetworks in staat stelt foto's van klanten te gebruiken om zijn gezichtsherkenningssysteem te trainen.

SAFR kent de identiteit van mensen op de RealTimes-foto's niet, zei Vance - er zijn geen namen, adressen of andere identificerende informatie in de enorme database met 8 miljoen gezichten. Maar wat het kan doen, is vertellen of twee gezichten dezelfde persoon zijn. Het is zo nauwkeurig geworden dat het identieke tweelingen uit elkaar kan houden en familiefoto's van dezelfde persoon kan matchen, zelfs als ze tientallen jaren uit elkaar zijn genomen.

SAFR vertrouwt erop mensen in het wild te kunnen identificeren of openhartig te handelen en niet te poseren.

"Het mooie van dat soort gezichten is dat het mensen zijn die dingen doen die ze van nature in het leven doen," zei Vance. “Het zijn geen mugshots of blikshots. Je kunt een systeem overtraineren voor mensen die recht in de camera kijken. Maar wanneer je hier rondloopt, wanneer je rond een school loopt, kijk je niet altijd recht in de camera. "

Veel technologieën voor gezichtsherkenning kunnen ook basisdemografie van een persoon identificeren. De Face API van Microsoft kan bijvoorbeeld uw leeftijd raden met slechts één foto - een functie die nauwkeuriger is geworden sinds deze voor het eerst werd uitgebracht in 2015 voor middelgrote gebruikersrecensies.

Dat heeft geleid tot bezorgdheid over bias, echter, vooral sinds een studeren aan MIT's Media Lab ontdekte dat de apps voor gezichtsherkenning van sommige grote techbedrijven foutenpercentages tot 35 procent hoger hadden bij het identificeren van vrouwen met een donkerdere huid in vergelijking met mannen met een lichtere huid. Sommigen vreesden dat dit zou kunnen leiden tot verkeerde identificatie van vrouwen en mensen van kleur, een zorgwekkende kwestie, vooral als de systemen worden gebruikt door wetshandhavers.

Microsoft heeft de bias-problemen erkend en neemt stappen om verschillende gezichten beter te identificeren,het verbreden van de database die het gebruikt om zijn systeem te trainen door foto's van meer uiteenlopende mensen toe te voegen. 

RealNetworks heeft zijn software echter niet getraind om iemand op basis van ras te identificeren. Je kunt bijvoorbeeld niet aan SAFR vragen je te waarschuwen wanneer een blanke door een deur loopt, omdat hij niet weet welke gezichten wit zijn.

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

0 Comments
Inline feedbacks
Bekijk alle reacties