Verschillende culturen geven verschillende antwoorden, en er is duidelijk geen rigide gemeenschap tussen naties. Wanneer AI-programma's worden gemaakt, moeten ze echter beginnen met een moreel oordeel over hoe hun programma's zich zullen gedragen. ⁃ TN Editor
Het beruchte 'trolley-probleem' werd in een wereldwijd onderzoek aan miljoenen mensen voorgelegd, waaruit bleek hoeveel ethiek in verschillende culturen uiteenloopt.
In 2014 ontwierpen onderzoekers van het MIT Media Lab een experiment genaamd Morele machine. Het idee was om een game-achtig platform te creëren dat de beslissingen van mensen over hoe zelfrijdende auto's prioriteit zouden moeten geven aan levens in verschillende varianten van de 'trolley probleem. ”Tijdens het proces zouden de gegenereerde gegevens inzicht geven in de collectieve ethische prioriteiten van verschillende culturen.
De onderzoekers hebben de virale ontvangst van het experiment nooit voorspeld. Vier jaar nadat het platform live ging, hebben miljoenen mensen in 233 landen en territoria 40 miljoen beslissingen vastgelegd, waardoor het een van de grootste onderzoeken is die ooit zijn gedaan naar mondiale morele voorkeuren.
A nieuw papier gepubliceerd NATUUR presenteert de analyse van die gegevens en onthult hoeveel interculturele ethiek uiteenloopt op basis van cultuur, economie en geografische locatie.
Het klassieke trolleyprobleem gaat als volgt: je ziet een op hol geslagen trolley over de rails rijden, die op het punt staat vijf mensen te raken en te doden. Je hebt toegang tot een hendel die de trolley naar een andere baan zou kunnen schakelen, waar een andere persoon voortijdig zou overlijden. Moet je aan de hendel trekken en een leven beëindigen om er vijf te sparen?
The Moral Machine nam dat idee om negen verschillende vergelijkingen te testen waarvan is aangetoond dat ze mensen polariseren: moet een zelfrijdende auto voorrang geven aan mensen boven huisdieren, passagiers boven voetgangers, meer levens boven minder, vrouwen boven mannen, jong boven oud, fit boven ziekelijk, hoger sociaal status boven lagere, gezagsgetrouwe mensen boven wetsovertreders? En tot slot, moet de auto uitwijken (actie ondernemen) of op koers blijven (niets doen)?
In plaats van één-op-één vergelijkingen te maken, bood het experiment de deelnemers echter verschillende combinaties, zoals of een zelfrijdende auto rechtdoor moet blijven rijden om drie oudere voetgangers te doden of zich in een barricade moet werpen om drie jeugdige passagiers te doden.
De onderzoekers ontdekten dat de voorkeuren van landen sterk verschillen, maar ze correleren ook sterk met cultuur en economie. Deelnemers uit collectivistische culturen zoals China en Japan sparen bijvoorbeeld minder vaak de jongeren over de ouderen - misschien, veronderstelden de onderzoekers, vanwege een grotere nadruk op het respecteren van de ouderen.
Evenzo zijn deelnemers uit armere landen met zwakkere instellingen toleranter voor jaywalkers dan voetgangers die legaal oversteken. En deelnemers uit landen met een hoge mate van economische ongelijkheid vertonen grotere verschillen tussen de behandeling van personen met een hoge en lage sociale status.
En, wat neerkomt op de essentiële vraag van het trolleyprobleem, ontdekten de onderzoekers dat het enorme aantal mensen dat gevaar liep niet altijd de dominante factor was bij het kiezen welke groep moet worden gespaard. De resultaten toonden aan dat deelnemers uit individualistische culturen, zoals het VK en de VS, meer nadruk legden op het sparen van meer levens gezien alle andere keuzes - misschien, volgens de auteurs, vanwege de grotere nadruk op de waarde van elk individu.
De eigenaar en / of bestuurder moet de eerste keuze zijn om te sterven, omdat ze de keuze hebben gemaakt om het voertuig te kopen / hebben. Maakte deel uit van die keuze, het concept dat anderen zouden kunnen worden uitgekozen om te sterven in plaats van dat zij de gevolgen van hun acties onder ogen zouden zien. Zo is geadverteerd dat ANDEREN die niet bij dat besluit betrokken waren, de prijs zouden betalen. Degenen die ze kopen / gebruiken, MOETEN degenen zijn die de gevolgen betalen die door deze voertuigen worden veroorzaakt.
wpDiscuz
De eigenaar en / of bestuurder moet de eerste keuze zijn om te sterven, omdat ze de keuze hebben gemaakt om het voertuig te kopen / hebben. Maakte deel uit van die keuze, het concept dat anderen zouden kunnen worden uitgekozen om te sterven in plaats van dat zij de gevolgen van hun acties onder ogen zouden zien. Zo is geadverteerd dat ANDEREN die niet bij dat besluit betrokken waren, de prijs zouden betalen. Degenen die ze kopen / gebruiken, MOETEN degenen zijn die de gevolgen betalen die door deze voertuigen worden veroorzaakt.