Pre-Crime Software: 'Holy Grail' of vooringenomen tegen minderheden?

Deel dit verhaal!

Zoals voorspeld, heeft pre-crime software de natie veroverd, met afdelingen op alle niveaus die proberen te profiteren van de utopische belofte om ze te vangen voordat ze plegen. Critici realiseren zich echter dat dit een nieuwe methode van profilering wordt, waaruit niet kan worden ontsnapt.  TN Editor

Sgt. Charles Coleman dook uit zijn politie-SUV en scande een straat vol vuilnis die populair was bij de daklozen van de stad en reageerde op een misdaad die nog niet was gebeurd.

Het was geen 911-oproep die de officier van de politie van Los Angeles naar deze plek bracht, maar een wervelende computer die jaren van criminaliteitsgegevens kraamde om tot een voorspelling te komen: een autodiefstal of inbraak zou waarschijnlijk hier in de buurt vanmorgen plaatsvinden.

In de hoop het af te wenden, inspecteerde Coleman een rij gammele campers die werden gebruikt voor onderdak door daklozen, wekte een man die in een pick-up sliep en tikte op de zijkant van een hut gemaakt van multiplex en zeilen.

'Hoe gaat het, schat?' Vroeg hij aan een vrouw die naar buiten liep. Coleman luisterde sympathiek terwijl ze beschreef hoe ze maanden geleden bijna op mes werd verkracht en zei dat het gebied 'echt zwaar' was voor een vrouw.

Al snel was Coleman terug in zijn SUV op weg naar de volgende pre-crime. Tientallen andere LAPD-officieren deden hetzelfde op andere plaatsen, geleid door het misdaadprognosesysteem dat PredPol wordt genoemd.

'Predictive policing' is een paradigmaverschuiving die politieafdelingen in het hele land doormaakt. Wetshandhavingsinstanties proberen in toenemende mate te voorspellen waar en wanneer misdaad zal plaatsvinden, of wie een dader of een slachtoffer kan zijn, met behulp van software die afhankelijk is van algoritmen, dezelfde wiskunde die Amazon gebruikt om boeken aan te bevelen.

"De hoop is de heilige graal van wetshandhaving - het voorkomen van criminaliteit voordat het gebeurt," zei Andrew G. Ferguson, een professor in de rechten aan de Universiteit van District of Columbia, die een boek over big data en politiewerk voorbereidt.

Nu door 20 van 50 grootste politiediensten van het land door één telling gebruikt, staan ​​de technologieën in het middelpunt van een steeds verhit debat over hun effectiviteit, mogelijke impact op arme en minderheidsgemeenschappen en implicaties voor burgerlijke vrijheden.

Sommige politieafdelingen hebben PredPol en andere systemen geprezen als instrument om misdaad te verminderen, schaarse middelen te concentreren op probleemlocaties en individuen en hun vooringenomenheden en potentiële vooroordelen te vervangen door harde gegevens.

Maar privacy- en raciale rechtengroepen zeggen dat er weinig bewijs is dat de technologieën werken en merk op dat de formules die de systemen voeden grotendeels geheim zijn. Ze zijn bezorgd dat de praktijk de handhaving in kleurgemeenschappen oneerlijk zou kunnen concentreren door te vertrouwen op racistisch scheve politiedata. En ze maken zich zorgen dat officieren die een diefstal of inbraak verwachten binnenkort de mensen die ze tegenkomen waarschijnlijk zullen behandelen als potentiële criminelen.

De experimenten zijn een van de meest consequente tests van algoritmen die steeds krachtigere krachten in ons leven zijn, het bepalen van kredietscores, het meten van werkprestaties en het markeren van kinderen die mogelijk worden misbruikt. Het Witte Huis heeft onderzocht hoe de voordelen en risico's die ze opleveren, in evenwicht zijn.

"De technische mogelijkheden van big data hebben een niveau van verfijning en alomtegenwoordigheid bereikt dat moet worden overwogen hoe de mogelijkheden van big data het beste kunnen worden afgewogen tegen de sociale en ethische vragen die deze technologieën met zich meebrengen," schreef het Witte Huis in een recent rapport.

Een seismische verschuiving in politie

Het was 6: 45 ben op een maandag, maar het vel papier dat Coleman in zijn handen hield, bood een glimp van hoe oktober 24 zou kunnen gaan: een autodiefstal bij de hoek van Van Nuys en Glenoaks, een inbraak bij Laurel Canyon en Roscoe enzovoort.

De misdaadprognose wordt aan het begin van elke dienst door PredPol geproduceerd. Rode dozen verspreid over Google-kaarten van de San Fernando Valley, met aandacht voor 500-by-500-vierkante voet locaties waar PredPol vermoedde dat vermogensdelicten waarschijnlijk waren.

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

0 Comments
Inline feedbacks
Bekijk alle reacties