Hooggerechtshof om te wegen op de geheime AI-algoritmen van het softwareprogramma die de mens naar de gevangenis stuurden

YouTube
Deel dit verhaal!

Toen Chief Justice John G. Roberts Jr. vorige maand een bezoek bracht aan het Rensselaer Polytechnic Institute, hem werd een verrassende vraag gesteld, één met boventonen van science fiction.

"Kun je een dag voorzien," vroeg Shirley Ann Jackson, president van het college in de staat New York, "wanneer slimme machines, aangedreven met kunstmatige intelligenties, zullen helpen bij het vinden van rechtszaken of, meer controversieel zelfs, gerechtelijke besluitvorming?"

Het antwoord van de opperrechter was verrassendder dan de vraag. "Het is een dag dat hier is," zei hij, "en het legt een grote druk op de manier waarop de rechterlijke macht dingen doet."

Hij dacht misschien aan de zaak van een Wisconsin-man, Eric L. Loomis, die werd veroordeeld tot zes jaar gevangenisstraf deels gebaseerd op private software van een privébedrijf. De heer Loomis zegt dat zijn recht op een eerlijk proces is geschonden door de overweging van een rechter van een rapport dat is gegenereerd door het geheime algoritme van de software, een dat de heer Loomis niet kon inspecteren of betwisten.

In maart, in een signaal dat de rechters geïntrigeerd waren door de zaak van de heer Loomis, vroegen ze de federale overheid een vriend-van-de-rechtbankbrief in te dienen zijn mening te geven over de vraag of de rechtbank zijn beroep moet behandelen.

Het rapport in de zaak van de heer Loomis werd geproduceerd door een product genaamd Compas, verkocht door Northpointe Inc. Het bevatte een reeks staafdiagrammen waarin het risico werd beoordeeld dat de heer Loomis meer misdaden zou plegen.

Het Compas-rapport, vertelde een officier van justitie aan de rechter van het proces, toonde "een hoog risico op geweld, hoog risico op recidive, hoog pretriaal risico." een persoon met een hoog risico voor de gemeenschap. "

Het Hooggerechtshof van Wisconsin oordeelde tegen Mr. Loomis. Het rapport voegde waardevolle informatie toe, zei hij, en de heer Loomis zou dezelfde zin hebben gekregen uitsluitend op basis van de gebruikelijke factoren, waaronder zijn misdaad - de politie ontvluchten in een auto - en zijn criminele geschiedenis.

Tegelijkertijd leek het hof ongemakkelijk met het gebruik van een geheim algoritme om een ​​man naar de gevangenis te sturen. Justitie Ann Walsh Bradley, voor de rechtbank geschreven, bijvoorbeeld besproken, een rapport van ProPublica over Compas dat gesloten dat zwarte beklaagden in Broward County, Fla. "veel waarschijnlijker waren dan blanke beklaagden om ten onrechte te worden beoordeeld met een hoger percentage recidive."

Justice Bradley merkte op dat Northpointe had betwistte de analyse. Toch schreef ze: "deze studie en anderen roepen bezorgdheid op over hoe de risicofactoren van een Compas-beoordeling correleren met ras."

Uiteindelijk stond Justitie Bradley echter toe dat rechters van veroordeling Compas gebruikten. Ze moeten rekening houden met de beperkingen van het algoritme en de geheimhouding eromheen, schreef ze, maar zei dat de software nuttig zou kunnen zijn "om het vonnishof zoveel mogelijk informatie te geven om tot een geïndividualiseerde straf te komen."

Justice Bradley maakte de rol van Compas in de veroordeling als de overweging van ras in het holistische toelatingsprogramma van een selectieve universiteit. Het zou een van de vele factoren kunnen zijn, schreef ze, maar niet de bepalende factor.

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

1 Reactie
Oudste
Nieuwste Meest Gestemd
Inline feedbacks
Bekijk alle reacties
Paul Godden

De Blake's 1980 TV-serie uit de jaren tachtig had een doosje waarin Blake en zijn vrienden werden beoordeeld en naar de strafkolonie op Jupiter werden gestuurd. Ik denk dat het in de eerste aflevering van Blake's 7 is waar ze voor de rechtbank staan.