Utah creëert Surveillance Panopticon door gegevens te geven aan particuliere AI-bedrijven

Banjo past kunstmatige intelligentie toe op bewakings- en verkeerscamera's van de overheid in de hele staat Utah om de politie te informeren over "anomalieën".

De staat Utah heeft een bedrijf voor kunstmatige intelligentie realtime toegang gegeven tot verkeerscamera's, CCTV- en "openbare veiligheidscamera's", 911 noodsystemen, locatiegegevens voor voertuigen in staatseigendom en andere gevoelige gegevens.

Het bedrijf, genaamd Banjo, zegt dat het deze gegevens combineert met informatie die is verzameld via sociale media, satellieten en andere apps, en beweert dat zijn algoritmen "afwijkingen detecteren" in de echte wereld.

Het verheven doel van het systeem van Banjo is om de politie te waarschuwen voor misdrijven die zich voordoen. Het beweert dat het dit doet terwijl het op de een of andere manier alle persoonlijke gegevens uit het systeem verwijdert, waardoor het de politie kan helpen zonder iemands privacy in gevaar te brengen. Net als bij andere algoritmische misdaadsystemen, is er weinig openbaar toezicht of informatie over hoe het systeem precies bepaalt waarvoor de politie moet worden gewaarschuwd.

In zijn presentaties aan potentiële klanten belooft Banjo dat zijn technologie, genaamd "Live Time Intelligence", een ongelooflijke verscheidenheid aan misdaden in realtime kan identificeren en mogelijk kan helpen bij het oplossen van de politie. Banjo zegt dat de AI de politie kan helpen bij het oplossen van gevallen van ontvoering van kinderen 'in seconden', actieve schietsituaties kan identificeren wanneer ze zich voordoen, of mogelijk een waarschuwing kan sturen bij een verkeersongeval, het inzetten van een airbag, brand of een auto rijdt de verkeerde kant op​ Banjo zegt het heeft "een oplossing voor dakloosheid" en kan helpen bij de opioïde epidemie door "opioïde gebeurtenissen" op te sporen. Het biedt "kunstmatige intelligentie-verwerking" van audiosensoren van de staat die "inclusief maar niet beperkt zijn tot spraakherkenning en natuurlijke taalverwerking", evenals automatische scènedetectie, objectherkenning en voertuigdetectie op opgenomen realtime videobeelden van de camera's van Utah.

In juli, Banjo tekende een vijfjarig contract van $ 20.7 miljoen met Utah dat het bedrijf ongekende toegang geeft tot gegevens die de staat verzamelt. Banjo's pitch voor nationale en lokale instanties is dat hoe meer gegevens erin worden ingevoerd, hoe beter het product zal werken. Daarom heeft het bedrijf het afgelopen jaar geprobeerd zoveel mogelijk nationale en lokale instanties toegang te geven tot zijn CCTV- en verkeerscamera's, audiosensoren en andere gegevens.

Hierop is het ongelooflijk succesvol geweest. Banjo heeft zijn eigen servers geïnstalleerd in het hoofdkantoor van het Utah Department of Transportation (UDOT), een civiel agentschap, en heeft directe, realtime toegang tot de duizenden verkeerscamera's die de staat exploiteert. Het is aangesloten op 911 systemen van noodoperaties overal in de staat, volgens contracten, e-mails en andere overheidsdocumenten die door Motherboard zijn verkregen met openbare registratieaanvragen, evenals video- en audio-opnamen van gemeenteraadsvergaderingen in de staat die we hebben beoordeeld .

Haar contract met de staat zegt dat de technologie van Banjo zal worden ingezet of momenteel wordt geïmplementeerd in alle 29 provincies van Utah, in de 13 grootste steden van de staat en in 10 andere steden met 'aanzienlijke relevantie' en voor 'campusbeveiliging' voor de universiteit van Utah. Een vertegenwoordiger van Banjo vertelde in januari aan de stad Springville, Utah dat a in totaal ongeveer 70 andere steden en provincies binnen Utah had afgesproken om Banjo hun gegevens te geven. Het werkt ook samen met het Utah Department of Public Safety en de Utah Highway Patrol, volgens openbare gegevens.

Tot dusverre kon het kantoor van de procureur-generaal van Utah Motherboard echter geen voorbeeld geven van een echt geval waarin Banjo is gebruikt, hoewel het erop stond dat het inderdaad was gebruikt.

Banjo is nog een nieuwe in een nieuwe reeks voorspellende politietools en kunstmatige intelligentie-gerichte politietools. In tegenstelling tot andere tools, zoals Palantir—die wordt gebruikt door ICE en is zo controversieel dat er zijn geweest meerdere protesten over het gebruik ervan—Banjo beweert dat het de politie niet helpt bij het opsporen van criminelen, het helpt hen bij het vinden van "noodsituaties" en het lokaliseren van criminele handelingen.

"We doen in wezen het meeste van wat Palantir doet, we doen het gewoon live", zei Bryan Smith, Banjo's toplobbyist, Emergency Lake Center Operations Board van Salt Lake Valley, dat is samengesteld uit politiechefs en 911 expediteurs, in augustus. “Dus Palantir is een tool die je gebruikt voor analyse, om bepaalde dingen diepgaand te onderzoeken. Wat we willen doen, is u de informatie op het juiste moment bezorgen. Denk aan een Google Maps [u krijgt] een pincode die valt bij een [computerondersteunde dispatch] -beller en gekoppeld aan die gebeurtenis, binnen een seconde met informatie over die gebeurtenis. "

Lees hier het hele verhaal ...