Hoe technocraten je gezicht in een oorlogswapen veranderden

Van wie is jouw gezicht? Je zou denken van wel, maar bedenk dat Clearview AI, een Amerikaans bedrijf dat gezichtsherkenningstechnologie verkoopt, sinds 2020 een database van tien miljard afbeeldingen heeft verzameld. gezichtsafbeeldingen van het internet. Het is moeilijk om de beweringen van het bedrijf te beoordelen, maar als we Clearview AI op het eerste gezicht nemen, heeft het genoeg gegevens om bijna iedereen op aarde te identificeren en privacy en anonimiteit overal te beëindigen.

Terwijl u deze woorden leest, verdient uw gezicht geld voor mensen die u nog nooit hebt ontmoet en die nooit uw toestemming hebben gevraagd toen ze uw gezichtsafdruk van uw sociale-mediaprofielen en online fotoalbums haalden. Tegenwoordig is de technologie van Clearview AI: gebruikt door meer dan 3,100 Amerikaanse wetshandhavingsinstanties, evenals de US Postal Service. In Oekraïne wordt het gebruikt als oorlogswapen. Het bedrijf heeft zijn tools gratis aangeboden aan de Oekraïense regering gebruik zij aan identificeren dode en levende Russische soldaten en toen contact hun moeders.

Het zou gemakkelijk zijn om dit van je af te schudden. We hebben tenslotte vrijwillig afstand gedaan van onze privacy op het moment dat we foto's online begonnen te delen, en miljoenen van ons blijven websites en apps gebruiken die onze gegevens niet beschermen, ondanks waarschuwingen van privacyactivisten en westerse veiligheidsdiensten. Zoals zovelen van ons sympathiseren met Oekraïne en geschokt zijn door De brutaliteit van Rusland, is het verleidelijk om het feit over het hoofd te zien dat Oekraïne Clearview AI niet gebruikt om dode Oekraïners te identificeren, wat suggereert dat we getuige zijn van het gebruik van gezichtsherkenningstechnologie voor psychologische oorlogsvoering, niet voor identificatie. Sommige mensen zullen de implicaties hiervan prima vinden: als Russische moeders verontrustende foto's van hun dode zonen moeten ontvangen, dan zij het zo.

Overweeg de volgende gedachte-experimenten om te begrijpen waarom we het gebruik van gezichtsherkenningstechnologie in conflictsituaties zouden willen heroverwegen. Stel je eerst voor dat het Rusland was dat Oekraïense biometrische gegevens van internet had geschraapt om een ​​technologie voor gezichtsherkenning te bouwen die het gebruikte om dode Oekraïners te identificeren en contact op te nemen met hun moeders. Liberale democratieën zouden deze acties waarschijnlijk veroordelen en ze toevoegen aan de groeiende lijst van barbaarse acties van Rusland. Stel je ten tweede een conflict voor waarin de Verenigde Staten vochten tegen een tegenstander die Amerikaanse gezichtsafdrukken had gemaakt om zijn gezichtsherkenningstechnologie te trainen en deze gebruikte om dode Amerikaanse soldaten te identificeren en contact op te nemen met hun moeders. Dit zou vrijwel zeker leiden tot gehuil van protest in de Verenigde Staten. Technologiemanagers zouden in de pers worden belasterd en voor het Congres worden gesleept, waar wetgevers eindelijk een wet zouden kunnen aannemen om de biometrische gegevens van Amerikanen te beschermen.

We hoeven niet te wachten tot deze scenario's zich voordoen; Het congres zou nu kunnen optreden om de biometrische gegevens van Amerikanen te beschermen. Als inspiratie halen uit de Algemene Verordening Gegevensbescherming (AVG) van de Europese Unie (EU) een stap te ver lijkt, hoeft het Congres alleen maar naar Illinois te kijken, wiens Wet op de biometrische informatieprivacy (BIPA) vereist dat bedrijven de opt-in-toestemming van mensen verkrijgen voordat ze gezichtsopnamen en andere biometrische gegevens vastleggen. Clearview AI is momenteel aan het vechten meerdere rechtszaken bij federale en staatsrechtbanken in Illinois wegens het niet verkrijgen van toestemming van gebruikers. Deze rechtszaken benadrukken een verontrustend aspect van gezichtsherkenningstechnologie in de Verenigde Staten: de privacy, burgerlijke vrijheden en rechten van Amerikanen op hun biometrische gegevens variëren van staat tot staat, en zelfs binnen staten, en worden niet beschermd door de federale wetgeving.

Om dit probleem te verhelpen, zou het Congres ook naar verschillende Amerikaanse bondgenoten kunnen kijken, waaronder drie van zijn Vijf ogen partners voor het delen van informatie. In 2021 identificeerde de Canadese privacycommissaris Clearview AI als een instrument voor massale surveillance en gedeclareerd het is illegaal, terwijl Brits en  Australisch gegevens regelgevers beboet Clearview AI en bestelde het aan verwijderen de gegevens van hun burgers. In de EU, Italië onlangs beboet Clearview € 20 miljoen, beval het om alle gegevens te verwijderen die het van Italiaanse burgers had verzameld, en verbood Clearview AI om meer gegevens te verzamelen. Vorig jaar legde Zweden de politie een boete op voor het gebruik van de technologie van Clearview AI om mensen te identificeren, en a aantal van privacy-, burgerlijke vrijheden- en mensenrechtengroepen dienden klachten in tegen het bedrijf bij gegevenstoezichthouders in Frankrijk, Oostenrijk en Griekenland. Zoals te verwachten, in mei 2021, Clearview AI zei: het had geen in de EU gevestigde klanten.

Lees hier het hele verhaal ...