Omdat de mens onvolmaakt is, volgt hieruit dat alles wat de mens maakt ook onvolmaakt is, inclusief de computerprogramma's die bedoeld zijn om alles in ons leven uit te voeren. Bovendien suggereert de wet van Entropie dat alles wat de mens creëert imperfecter zal zijn dan de maker. Ons leven en fortuin vertrouwen op geheime algoritmen is dwaas en gevaarlijk. ⁃ TN Editor
In 1603, Engelse functionarissen arresteerden Sir Walter Raleigh. Ze beschuldigden hem van verraad. Hij was naar verluidt betrokken bij een complot om de nieuwe koning, James I, omver te werpen en te doden.
Tijdens zijn proces hebben aanklagers slechts één stuk bewijsmateriaal ingevoerd. Het was een bekentenisbrief geschreven door de man die het complot zou hebben geplandHeer Cobham. De brief met de naam Raleigh a samenzweerder.
Sir Walter Raleigh zei dat de bekentenis alleen niet betrouwbaar was. Als hij kon brengen Cobham om voor de rechtbank te getuigen, zou hij tenminste de kans krijgen verhoor de enige getuige tegen hem.
Maar de Engelse rechtbanken aan de tijd was niet bijzonder geïnteresseerd in een eerlijk proces. Ze hebben Raleigh wit veroordeeldhout waardoor hij de getuige kan confronteren of onderzoeken.
Hij werd gevangengezet en uiteindelijk geëxecuteerd.
Snel vooruit naar USA, 2017. Een man wordt geconfronteerd met moordaanslagen. En de belangrijkste getuige tegen hem is een computeralgoritme.
Het algoritme analyseert complexe DNA-monsters. Het beslistif het DNA van de verdachte is aanwezig in een monster.
natuurlijk, de verdediger wil weten hoe precies het algoritme werkt.
En hij heeft goede reden om je af te vragen. Zijn eerdere veroordeling voor dezelfde moord had vertrouwd op een verschillende DNA-testmachine.
Maar scientists later besliste het algoritme had niet helemaal gelijk. Thet bewijs dat hem veroordeelde, was veranderd van positief in niet-overtuigend.
Hij had in de gevangenis gezeten, veroordeeld voor moord, gebaseerd op een fout algoritme!
Dus bij de nieuwe proef, vraagt de verdediging naar onderzoek thij nieuwe algoritme.Maar het bedrijf dat ontwierp dealgoritme houdt niet van dat idee.
De algorithm is een handelsgeheim. Het was kostbaar om te ontwikkelen, aen ze willen niet dat dat geheim eruit komt.
wij zijn levenin de leeftijd van algoritmen.
Een algoritme kiest naar welke muziek je luistert. En Spotify doet het behoorlijk goed ... A defect algoritme kan je dwingen om naar een evangelie te luisteren in plaats van naar gangster rap. Niet de grootste deal ...
Maar wat gebeurt er wanneer een algoritme voor een zelfrijdende auto moet beslissen of hij een groep wil raken of voetgangers, of stort zichzelf - en u—Van een klif af?
Het algoritme wordt een kwestie van leven en dood.
Voordat je in een zelfrijdende auto stapt, jij'll wil een beetje weten over het algoritme.
Wat voor soort split-second beslissingen is geprogrammeerd om te nemen?
Welke gegevensinvoer wordt overwogen?
En Who schreef precies het algoritme? Onthoud, algoritmen nogeen menselijke component hebbent. En mensen zijn inherent bevooroordeeld. Hun subjectieve meningen zullen onvermijdelijk het algoritme bereiken.
Wanneer een algoritme de verdachte veroordeelt in een moordzaak ... dat is het ook leven of dood.
Sommige kinderbeschermingsdiensten gebruiken een algoritme om te beslissen welke kinderen nemen. Het algoritme kent een risicoscoreop basis van input zoals het aantal oproepen dat de afdeling heeft ontvangen en of de ouders vijandig staan tegenover zakenmensen.
Overig rechtbanken gebruiken al een algoritme om de recidivis te achterhalenm risico - als een crimineel waarschijnlijk opnieuw zal beledigen. Hoe hoger het risico, hoe langer de straf.
Als ik een joint rookte of ruzie kreeg op de middelbare school, heb ik dan 40 meer kans dat te doen plegena misdrijf?
WiIk word schuldig geacht op basis van waarschijnlijkheid alleen? Hoe weet ik zeker dat het algoritme niet bevooroordeeld is?
Wanneer ProPublica analyseerde de recidive algoritme, vonden ze dat was raciaal bevooroordeeld.
O'Neil Risk Consulting & Algorithmic Auditing is een andere organisatie die onderzoekt hoe eerlijk de algoritmen die door het rechtssysteem worden gebruikt, zijn. Maar ze geven toe dat zelfs de audits tot op zekere hoogte subjectief zijn.
Dat is best eng om algoritmen het strafrechtsysteem te laten besturen. Verschuldigd proces kan worden vervangen door computerprocessors.
Maar algoritmen zijn niet noodzakelijk een slechte zaak. Ze kunnen enorme en complexe gegevenssets analyseren. Het kost veel werk om een goed algoritme te bouwen. U kan begrijpen waarom een bedrijf willens beschermen zijn geheimen.
wpDiscuz