Update: Google annuleert AI Ethics Panel na opschudding

Wikimedia Commons
Deel dit verhaal!
Het ethiekpanel van Google werd overspoeld door duizenden (onethische?) Niet-deelnemers die individuele leden van het ethiekpanel aanvielen. Het resultaat was een totale chaos, ontslag en uiteindelijk het annuleren van de hele zaak. Big Tech en ethiek naderen een oxymoronische status. ⁃ TN-editor

Deze week, Vox en andere verkooppunten gerapporteerd dat het nieuw gecreëerde AI ethics board van Google uit elkaar viel te midden van controverse over verschillende van de bestuursleden.

Het is officieel uit elkaar gevallen - het is geannuleerd. Google vertelde Vox donderdag dat het de stekker uit het ethische bord trekt.

Het bord overleefde amper meer dan een week. Opgericht als leidraad voor "verantwoorde ontwikkeling van AI" bij Google, zou het acht leden hebben gehad en vier keer in de loop van 2019 zijn samengekomen om bezorgdheid over het AI-programma van Google te overwegen. Die zorgen omvatten onder andere hoe AI autoritaire staten mogelijk kan maken, hoe AI-algoritmen uiteenlopende resultaten opleveren, of ze moeten werken aan militaire toepassingen van AI, en meer. Maar het kwam vanaf het begin in de problemen.

Duizenden Google-medewerkers hebben een verzoekschrift tot verwijdering van een bestuurslid, Heritage Foundation president Kay Coles James, over haar opmerkingen over transgenders en de scepsis van haar organisatie over klimaatverandering. Ondertussen heeft Dyan Gibbens, CEO van het dronebedrijf, oude divisies in het bedrijf over de gebruik van de AI van het bedrijf voor militaire toepassingen.

Bestuurslid Alessandro Acquisti afgetreden. Een ander lid, Joanna Bryson, verdedigde haar besluit om geen ontslag te nemen, beweerde van James, "Geloof het of niet, ik weet slechter over een van de andere mensen." Andere bestuursleden bevonden zich overspoeld met eisen dat ze hun beslissing rechtvaardigen om in het bestuur te blijven.

Donderdagmiddag vertelde een Google-woordvoerder aan Vox dat het bedrijf heeft besloten het panel, de Advanced Technology External Advisory Council (ATEAC), volledig te ontbinden. Hier is de volledige verklaring van het bedrijf:

Het is duidelijk geworden dat ATEAC in de huidige omgeving niet kan functioneren zoals we wilden. Dus we beëindigen de raad en gaan terug naar de tekentafel. We blijven verantwoordelijk voor ons werk met betrekking tot de belangrijke kwesties die AI aan de orde stelt, en zullen verschillende manieren vinden om externe meningen over deze onderwerpen te krijgen.

Het panel moest externe perspectieven toevoegen aan doorlopend AI-ethisch werk van Google-ingenieurs, die allemaal zullen doorgaan. Hopelijk betekent de annulering van het bestuur geen terugtrekking uit het ethische werk van Google, maar een kans om na te denken over hoe constructiever externe belanghebbenden kunnen worden betrokken.

Het bestuur veranderde in een enorme aansprakelijkheid voor Google

De geloofwaardigheid van het bestuur viel voor het eerst toen Alessandro Acquisti, een privacyonderzoeker, aangekondigd op Twitter dat hij aftrad met het argument: "Hoewel ik toegewijd ben aan onderzoek dat worstelt met de belangrijkste ethische kwesties van eerlijkheid, rechten en inclusie in AI, geloof ik niet dat dit het juiste forum is voor mij om deel te nemen aan dit belangrijke werk."

Ondertussen de petitie om Kay Coles James te verwijderen heeft tot nu toe meer dan 2,300-handtekeningen van Google-medewerkers aangetrokken en vertoonde geen tekenen van stoomverlies.

Naarmate de woede over het bestuur toenam, werden bestuursleden betrokken bij uitgebreide ethische debatten over waarom ze in het bestuur zaten, wat niet kan zijn waar Google op hoopte. Op Facebook mijmerde bestuurslid Luciano Floridi, een ethisch filosoof in Oxford:

Vragen om advies van [Kay Coles James] was een ernstige fout en geeft de verkeerde boodschap over de aard en doelen van het hele ATEAC-project. Vanuit ethisch perspectief heeft Google verkeerd ingeschat wat het betekent om representatieve opvattingen in een bredere context te hebben. Als mevrouw Coles James geen ontslag neemt, zoals ik hoop dat ze dat doet, en als Google haar niet verwijdert (https://medium.com/…/googlers-against-transphobia-and-hate-…), zoals ik persoonlijk heb aanbevolen, wordt de vraag: wat is de juiste morele houding ten aanzien van deze ernstige fout?

Uiteindelijk besloot hij in het panel te blijven, maar dat was niet het soort ethische debat dat Google had willen in gang zetten - en het werd moeilijk voor te stellen dat de twee samenwerken.

Dat was niet het enige probleem. ik ruzie een dag geleden dat, afgezien van verontwaardiging, het bestuur niet goed was opgezet voor succes. AI-ethiekborden zoals die van Google, die populair zijn in Silicon Valley, lijken grotendeels niet te zijn uitgerust om moeilijke vragen over ethische AI-vooruitgang op te lossen of er zelfs vooruitgang mee te boeken.

Een rol op het AI-bord van Google was een onbetaalde, tandeloze positie die onmogelijk in vier vergaderingen in de loop van een jaar kan komen tot een duidelijk begrip van alles wat Google doet, laat staan ​​om genuanceerde begeleiding te bieden. Er zijn dringende ethische vragen over het AI-werk dat Google doet - en er is geen echte manier waarop het bestuur deze naar tevredenheid kan aanpakken. Vanaf het begin was het slecht ontworpen voor het doel.

Nu is het geannuleerd.

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

0 Comments
Inline feedbacks
Bekijk alle reacties