Technocraten hebben een monster gecreëerd waarvan ze nu beseffen dat het hun makers kan omdraaien en vernietigen; dus worden 'oorlogsspelletjes' gemaakt om te leren hoe ze het kunnen verslaan - kunstmatige intelligentie. Dit is weer een voorbeeld van een poging om 'de wereld te redden' is uitgegroeid tot een 'vernietig de wereld'-scenario. ⁃ TN Editor
Boosters voor kunstmatige intelligentie voorspellen een dappere nieuwe wereld van vliegende auto's en kankermedicijnen. Criticasters maken zich zorgen over een toekomst waarin mensen verslaafd zijn aan een kwaadaardig ras van robot-opperheren. Veteraan AI-wetenschapper Eric Horvitz en Doomsday Clock-goeroe Lawrence Krauss, op zoek naar een middenweg, verzamelden een groep experts in de woestijn van Arizona om het ergste te bespreken dat mogelijk zou kunnen gebeuren - en hoe dit te stoppen.
Hun workshop vond afgelopen weekend plaats aan de Arizona State University met financiering van Tesla Inc. mede-oprichter Elon Musk en Skype mede-oprichter Jaan Tallinn. Officieel genaamd 'Envisioning and Addressing Adverse AI Outcomes', was het een soort AI-doemdagspellen die zo'n 40 wetenschappers, cyberveiligheidsexperts en beleidsmakers organiseerden in groepen aanvallers - het rode team - en verdedigers - het blauwe team - die AI speelden zeer verkeerde scenario's, variërend van beursmanipulatie tot wereldwijde oorlogvoering.
Horvitz is optimistisch - een goede zaak omdat machine-intelligentie zijn levenswerk is - maar sommige andere, meer dystopisch ingestelde ondersteuners van het project leken zijn kijk te positief te vinden toen de plannen voor dit evenement ongeveer twee jaar geleden begonnen, zei Krauss, een theoretische natuurkundige die ASU's Origins Project leidt, het programma dat de workshop leidt. Toch zei Horvitz dat, om deze technologieën met succes vooruit te helpen en om een breed publiek vertrouwen te winnen, alle zorgen volledig moeten worden geuit en aangepakt.
“Er is een enorm potentieel voor AI om zoveel aspecten van onze samenleving op zoveel manieren te transformeren. Tegelijkertijd zijn er ruwe kanten en mogelijke nadelen, zoals bij elke technologie, ”zegt Horvitz, algemeen directeur van Microsoft's Research Lab in Redmond, Washington. "Om maximaal voordeel te halen uit de voordelen, moeten we ook meer in detail nadenken over mogelijke uitkomsten dan voorheen, en nadenken over hoe we daarmee zouden omgaan."
De deelnemers kregen “huiswerk” om inzendingen in te dienen voor worstcasescenario's. Ze moesten realistisch zijn - gebaseerd op de huidige of mogelijke technologieën - en vijf tot 25 jaar in de toekomst. De deelnemers met de "winnende" nachtmerries werden gekozen om de panels te leiden, waarin ongeveer vier experts in elk van de twee teams zaten om de aanval te bespreken en hoe deze te voorkomen.
wpDiscuz