Technocraten wenden zich tot ethici om 'hun ziel te redden'

SocratesWikipedia Commons, Greg O'Beirne
Deel dit verhaal!
Technocraten creëren omdat ze dat kunnen, niet omdat er een morele of ethische reden voor is. Technologie is in hun ogen niet ethisch of moreel en verdient daarom geen aandacht tijdens de ontwikkelingsprocessen. ⁃ TN Editor

Tweeënvijftig verdiepingen onder de top van de Salesforce Tower ontmoet ik Paula Goldman in een vergaderruimte met glazen panelen waar de woorden EQUALITY OFFICE worden gespeld op een lappendeken, het soort decoratie dat je zou kunnen kopen voor het verjaardagsfeestje van een kind.

Goldman heeft een masterdiploma van Princeton en een Ph.D. van Harvard, waar ze bestudeerde hoe controversiële ideeën mainstream worden. Ze kwam bij Salesforce iets meer dan een jaar geleden om de allereerste Chief Ethical and Humane Use Officer te worden, die een ongekende en beslist dubbelzinnige titel aanneemt die specifiek is gemaakt voor haar ongekende, dubbelzinnige, maar zeer specifieke taak: zorg ervoor dat Salesforce de wereld beter maakt, niet slechter.

"Ik denk dat we ons op een moment in de branche bevinden waar we ons op dit omslagpunt bevinden", vertelt Goldman. “Ik denk dat de tech-industrie hier eerder was, met beveiliging in de jaren '80. Plots waren er virussen en wormen, en er moest een geheel nieuwe manier komen om erover na te denken en ermee om te gaan. En je zag daarna een beveiligingsindustrie opgroeien. En nu is het gewoon een standaardprotocol. Je zou geen belangrijk product verzenden zonder het samen te voegen of ervoor te zorgen dat de juiste beveiligingsmaatregelen erin zitten. "

"Ik denk dat we ons op een soortgelijk moment bevinden met ethiek", zegt ze. “Het vereist niet alleen een set tools om het werk te doen, maar ook een set normen, dat het belangrijk is. Dus hoe schaal je die normen op? "

Ik vraag haar hoe die normen in de eerste plaats worden bepaald.

"In zekere zin is het de vraag van een miljard dollar", zegt ze. “Al deze problemen zijn buitengewoon gecompliceerd, en er zijn er maar heel weinig waarvan het antwoord absoluut duidelijk is. Rechtsaf? Veel ervan komt er uiteindelijk op neer: welke waarden houd je het hoogst in je calculus? "

···

In de nasleep van het Cambridge Analytica-schandaal, het uitvallen van werknemers en andere politieke en privacy-incidenten, werden technologiebedrijven geconfronteerd met een golf van gesprekken naar huren wat onderzoekers van het Data & Society Research Institute noemen "Eigenaars van ethiek", mensen die verantwoordelijk zijn voor het operationaliseren van "de oeroude, domein-springende en onoplosbare debatten over menselijke waarden die ten grondslag liggen aan ethisch onderzoek" op praktische en aantoonbare manieren.

Salesforce heeft Goldman op afstand van het Omidyar-netwerk ingehuurd hoogtepunt van een zeven maanden durend crisisbeheersingsproces dat volgde nadat Salesforce-medewerkers protesteerden tegen de betrokkenheid van het bedrijf bij het immigratiewerk van de Trump-regering. Andere bedrijven hebben, als reactie op hun eigen respectievelijke crises en zorgen, een klein kader van vergelijkbare professionals ingehuurd - filosofen, beleidsdeskundigen, taalkundigen en kunstenaars - allemaal om ervoor te zorgen dat wanneer ze beloven niet slecht te zijn, ze daadwerkelijk een samenhangend idee hebben van wat dat inhoudt.

Wat gebeurde er toen?

Hoewel sommige technologiebedrijven concrete stappen hebben ondernomen om ethisch denken in hun processen te integreren, zegt Catherine Miller, interim-CEO van het ethische adviesbureau Doteveryone, dat er ook veel over het onderwerp is geklapt.

Critici verwerpen het als “Ethiek wassen, ”De praktijk van louter kowtowen in de richting van morele waarden om overheidsregulering en media-kritiek af te wenden. De term behoort tot het groeiende lexicon rond technologie-ethiek, of 'tethiek', een afkorting die begon als satire op het tv-programma 'Silicon Valley', maar sindsdien is overgegaan in af en toe ernstig gebruik.

"Als je dit spul niet toepast in de praktijk en in je incentivestructuren, als je geen beoordelingsprocessen hebt, dan wordt het een soort morele vaporware", zegt Shannon Vallor, een technologiefilosoof bij het Markkula Center. voor toegepaste ethiek aan de Santa Clara University. "Het is iets dat je hebt beloofd en dat je wilde waarmaken, maar het is nooit echt aangekomen."

Google heeft berucht een AI-raad opgericht en vervolgens, in april vorig jaar, ontbond het na werknemers protesteerden de opname van een anti-LGBTQ-advocaat. Tegenwoordig omvat Google's benadering van ethiek het gebruik van 'Modelkaarten”Die zijn AI willen verklaren.

"Dat is niet iets dat tanden heeft", zegt Michael Brent, data-ethicus bij Enigma en hoogleraar filosofie aan de University of Denver. "Dat is net als: 'Hier is echt een mooie kaart.'"

Het bedrijf heeft meer substantiële inspanningen geleverd: Vallor heeft zojuist een dienstverband bij Google afgerond, waar ze ethische seminars gaf aan ingenieurs en het bedrijf hielp bij het implementeren van bestuursstructuren voor productontwikkeling. "Als ik het over ethiek heb in een organisatorische setting, presenteer ik dat vaak omdat het de hoeveelheid morele kennis en morele vaardigheden is die mensen en organisaties helpt hun verantwoordelijkheden tegenover anderen te nemen", vertelt Vallor me.

Meer dan 100 Google-medewerkers hebben bijgewoond ethische trainingen ontwikkeld in het Markkula-centrum. Het bedrijf ontwikkelde ook een eerlijkheid module als onderdeel van zijn Machine Learning Crash Course, en updates de lijst van "verantwoorde AI-praktijken" elk kwartaal. "De overgrote meerderheid van de mensen in deze bedrijven wil producten bouwen die goed zijn voor mensen", zegt Vallor. “Ze willen de democratie echt niet breken, en ze willen echt geen bedreiging vormen voor het menselijk welzijn, en ze willen de geletterdheid en het bewustzijn van de realiteit in de samenleving echt niet verminderen. Ze willen dingen maken waar ze trots op zijn. Dus ga ik doen wat ik kan om hen daarbij te helpen? Ja."

···

Het Markkula-centrum, waar Vallor werkt, is vernoemd naar Mike Markkula Jr., de "onbekend"Mede-oprichter van Apple die, in 1986, gaf het centrum een ​​startersbeurs op dezelfde manier als hij de jonge Steve Jobs een eerste lening gaf. Hij heeft nooit gewild dat zijn naam op het gebouw zou verschijnen - dat was een verrassing, een blijk van dankbaarheid van de universiteit.

Markkula heeft zich teruggetrokken om een ​​rustig leven te leiden, werkend vanuit zijn uitgestrekte omheinde landgoed in Woodside. Tegenwoordig heeft hij niet veel contact met het bedrijf dat hij is begonnen - "alleen als er iets misgaat met mijn computer", vertelt hij me. Maar toen hij halverwege de jaren 80 op de campus van Santa Clara aankwam voor een oriëntatie met zijn dochter, was hij de voorzitter van Apple en maakte hij zich zorgen over de gang van zaken in de Valley. "Het was ons allebei duidelijk, Linda [zijn vrouw] en ik, dat er nogal wat mensen in besluitvormingsposities waren die gewoon geen ethiek op hun radarscherm hadden", zegt hij. "Het is niet dat ze onethisch waren, ze hadden gewoon geen tools om mee te werken."

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

3 Comments
Oudste
Nieuwste Meest Gestemd
Inline feedbacks
Bekijk alle reacties
ik bedoel maar

"Al deze problemen zijn buitengewoon ingewikkeld", zegt ze. Waarden zijn afhankelijk van het individu. In zekere zin ja, het is aan ons individueel, maar de kwestie is niet ingewikkeld. Ze hebben het aas gepakt en het werkt. Ze zijn belangrijk voor zichzelf en hebben als zodanig van zichzelf kleine goden gemaakt die goed en kwaad kennen, niet alleen voor zichzelf, maar hebben het ook voor ons gekozen. Ethiek en jurisprudentie werden vroeger op school onderwezen, maar het is met de Bijbel weggegooid. Kijk maar naar alle advocaten die op televisie adverteren. De waarheid is dat we ALLEMAAL zondaars zijn. Ja dat... Lees verder "

Steve Prewitt

Dit hele artikel kwam me voor als "vaporware". Ethiek is een grap als de grootste speler van de industrie hand in hand werkt met China en een nationale technocratische goelag creëert (en nee, ik heb het niet over de "heropvoedingskampen" voor moslims die het kwaad definiëren).