Facebook is op een eenrichtingsreis naar de vergetelheid als zijn Technocrat-programmeurs hun gewoonte om gegevens te produceren uit het niets over gebruikers over de hele wereld veranderen. Afgeleide gegevens zijn geen echte, geverifieerde gegevens en zijn vaak onjuist. ⁃ TN-editor
Eerder deze maand kwam naar voren dat onder de talloze algoritmisch geïnduceerde advertentiecategorieën van Facebook een inzending was voor gebruikers van wie de datamining-systemen van het platform mogelijk interesseerden verraad tegen hun regering. Het label was op meer dan 65,000 Russische burgers aangebracht, waardoor ze een groot risico liepen als hun regering het label zou ontdekken. Evenzo observeren de algoritmen van het platform stilletjes de acties en woorden van de twee miljard gebruikers, schatend welke gebruikers het denkt homoseksueel te zijn en plaatsen stilletjes een label op hun account met die schatting. Wat gebeurt er wanneer overheden deze labels beginnen te gebruiken om hun burgers te controleren, lastig te vallen, vast te houden en zelfs uit te voeren op basis van de labels die zijn geproduceerd door Black Box-algoritmen van een Amerikaans bedrijf?
Een van de uitdagingen met de enorme geautomatiseerde machine die de advertentie-engine van Facebook is, is dat de schaal en reikwijdte ervan betekent dat het nooit volledig onder menselijk toezicht zou kunnen staan. In plaats daarvan zoemt het zwijgend mee en kijkt stilletjes de twee miljard gebruikers van het platform als Big Brother aan, wijst hen stilletjes labels toe die hun schattingen van alles aangeven, van hun routinematige commerciële belangen tot de meest gevoelige en intieme elementen van hun persoonlijkheid, overtuigingen en medische aandoeningen die kunnen door hun regeringen worden gebruikt om hen te manipuleren, te arresteren of uit te voeren.
Dergelijke zorgen zijn helaas verre van hypothetisch. Ik kan persoonlijk bevestigen dat er veel regeringen over de hele wereld zijn die zich zeer bewust zijn van het potentieel van de reclametools van Facebook voor surveillance en deze daadwerkelijk gebruiken om specifieke demografische gegevens en interesses bij te houden, met behulp van de ingebouwde rapportagetools van het bedrijf om geografische gebieden te identificeren en demografie te targeten voor verder toezicht.
Tegenwoordig draait veel van het overheidsgebruik van de ad-targeting-tools van Facebook om het gebruik van publiek toegankelijke targeting- en rapportagetools om dingen te begrijpen zoals buurten met de hoogste dichtheid aan personen in een bepaalde demografie die ook een bijzonder belang hebben bij de overheid. Door een groot aantal parallelle campagnes te voeren die alle permutaties van een reeks demografische gegevens en interesses bestrijken, kunnen overheden zelfs leren welke demografische gegevens het meest worden geassocieerd met bepaalde interesses en welke interesses het sterkst zijn gecorreleerd met bepaalde demografische gegevens. Geografische rapportagetools maken identificatie op buurtniveau mogelijk waar die demografische gegevens en interesses samenvallen, waardoor de surveillancebronnen in die gebieden kunnen worden uitgebreid.
De publieke beschikbaarheid van Facebook's targeting tools betekent dat inlichtingendiensten geen rechterlijke bevelen nodig hebben om ze te gebruiken, buitenlandse inlichtingendiensten kunnen ze gebruiken om buitenlandse bodem te volgen en te controleren en zelfs lokale wetshandhavingsinstanties kunnen ze met enkele beperkingen gebruiken. De wereldwijde beschikbaarheid van het advertentieplatform van Facebook biedt een bijzonder krachtig en uitnodigend hulpmiddel voor inlichtingenbureaus die tegenstanders in kaart willen brengen, waardoor ze de demografische en interessecorrelaties en geografische affiniteiten beter kunnen begrijpen en de toewijzing van hun eigen grondgebonden bronnen kunnen sturen.
Ondanks hun ongelooflijke kracht en openbare beschikbaarheid, zijn de advertentietools van Facebook nog steeds een relatief bot instrument in vergelijking met traditionele bewakingshulpmiddelen op individueel niveau.
Zoals ik gezinspeeld tot eerder deze week, wat gebeurt er als landen waar homoseksualiteit een strafbaar feit is dat de doodstraf kan inhouden, de tools van Facebook gebruiken om zich op die gemeenschappen te richten? Met alleen de openbare advertentietools van Facebook kunnen ze populaire buurten en hangouts, gecorreleerde interesses in die gebieden enzovoort schatten, maar ze kunnen niet gemakkelijk een lijst samenstellen met echte namen en adressen van iedereen in hun land waarvan Facebook denkt dat ze homoseksueel zijn.
Gegeven het feit dat homoseksualiteit in sommige landen wordt geclassificeerd als een misdrijf volgens hun formele wettelijke code, zouden die landen dan een gerechtelijk bevel kunnen gebruiken om Facebook te dwingen een lijst op te geven van alle namen van personen in hun land die volgens de algoritmen homoseksueel kunnen zijn? De wetten van veel landen zouden het voor Facebook moeilijk maken om te proberen zijn gebruikers te beschermen tegen een rechtmatig verzoek om een lijst van personen die ervan worden verdacht een ernstig misdrijf te plegen.
wpDiscuz