Het World Economic Forum begrijpt dat AI een internationale wapenwedloop heeft veroorzaakt, maar de uitkomst is nog onduidelijk. Vanuit een technocraatbrein is AI de oplossing voor alle maatschappelijke en persoonlijke problemen van de mensheid. ⁃ TN Editor
De machines stijgen op en onderwerpen de mensheid. Het is een science fiction trope die bijna net zo oud is als machines zelf. De doemscenario's rond dit thema zijn zo bizar - achtig De matrix, waarin door de mens gecreëerde kunstmatige intelligentie mensen aansluit op een gesimuleerde realiteit om energie uit hun lichaam te winnen - het is moeilijk om ze te visualiseren als ernstige bedreigingen.
Ondertussen blijven kunstmatig intelligente systemen zich snel ontwikkelen. Zelfrijdende auto's beginnen onze wegen te delen; apparaten op zakformaat reageren op onze vragen en beheren onze schema's in realtime; algoritmen verslaan ons op Go; robots worden beter in het opstaan als ze omvallen. Het is duidelijk hoe het ontwikkelen van deze technologieën de mensheid ten goede zal komen. Maar dan - beginnen niet alle dystopische sciencefictionverhalen op deze manier?
Elke discussie over het dystopische potentieel van AI dreigt naar een van twee uitersten te trekken. Men is overdreven goedgelovige bangmakerij. Siri staat natuurlijk niet op het punt om zich om te zetten in moorddadige HAL 2001: A Space Odyssey. Maar het andere uiterste is even gevaarlijk - zelfgenoegzaamheid dat we niet over deze kwesties hoeven na te denken, omdat de mensbedreigende AI tientallen jaren of meer weg is.
Het is waar dat de kunstmatige "superintelligentie", geliefd bij sci-fi, vele decennia in de toekomst kan zijn, als het überhaupt mogelijk is. Een recent onderzoek van toonaangevende AI-onderzoekers door TechEmergence ontdekte een grote verscheidenheid aan zorgen over de beveiligingsrisico's van AI in een veel realistischer 20-jaar tijdsbestek - inclusief het afsmelten van financiële systemen omdat algoritmen onverwacht op elkaar inwerken, en het potentieel voor AI om kwaadwillende actoren te helpen biotechnologische wapens te optimaliseren.
Deze voorbeelden laten zien hoe, naast technologische vooruitgang op vele fronten, de vierde industriële revolutie een snelle en massale democratisering belooft van het vermogen om op zeer grote schaal schade aan te richten. Aan de donkere kant van het 'diepe web', waar informatie verborgen is voor zoekmachines, zijn er al destructieve hulpmiddelen voor een hele reeks opkomende technologieën te koop, van 3D-geprinte wapens tot splijtbaar materiaal en apparatuur voor genetische manipulatie in thuislaboratoria. In elk geval vergroot AI het potentieel voor schade.
Overweeg een andere mogelijkheid die wordt genoemd in de TechEmergence-enquête. Als we een pistool, een quadrocopter-drone, een camera met hoge resolutie en een gezichtsherkenningsalgoritme combineren dat niet veel geavanceerder hoeft te zijn dan de actueel de beste in zijn soort, we zouden in theorie een machine kunnen maken die we kunnen programmeren om over menigten te vliegen, naar specifieke gezichten te zoeken en doelen te moorden.
Zo'n apparaat zou geen superintelligentie vereisen. Het is denkbaar met behulp van de huidige, "smalle" AI die nog niet het soort creatieve sprongen van begrip kan maken over verschillende domeinen die mensen wel kunnen. Wanneer "kunstmatige algemene intelligentie" of AGI wordt ontwikkeld - zoals waarschijnlijk lijkt, vroeg of laat - zal dit zowel de potentiële voordelen van AI als de woorden van Jeff Goddell, zijn beveiligingsrisico's, "dwingen een nieuw soort boekhouding met de technologische geest".
Maar er wordt niet genoeg nagedacht over het wapenbare potentieel van AI. Als Wendell Wallach stelt: "Navigeren in de toekomst van technologische mogelijkheden is een gevaarlijke onderneming", merkt hij op. "Het begint met het leren stellen van de juiste vragen - vragen die de valkuilen van passiviteit onthullen, en nog belangrijker, de doorgangen die beschikbaar zijn voor het uitzetten van een koers naar een veilige haven."
Non-proliferatie-uitdagingen
Prominente geleerden inclusief Stuart Russell hebben uitgegeven oproep tot actie om "mogelijke valkuilen" bij de ontwikkeling van AI te vermijden met een rug door toonaangevende technologen waaronder Elon Musk, Demis Hassabis, Steve Wozniak en Bill Gates. Een opvallende valkuil kan zijn "dodelijke autonome wapensystemen" (LAWS) - of, beter gezegd, "moordende robots". Technologische vooruitgang in robotica en de digitale transformatie van beveiliging heeft het fundamentele paradigma van oorlogvoering al veranderd. Volgens Christopher Coker "21st-eeuwse technologie verandert ons begrip van oorlog op diep verontrustende manieren." Volledig ontwikkelde WETEN zullen moderne oorlogvoering waarschijnlijk net zo dramatisch transformeren als buskruit en nucleaire wapens.
De VN-Mensenrechtenraad heeft verzocht om een moratorium over de verdere ontwikkeling van LAWS, terwijl andere activistische groepen en campagnes hebben gepleit voor een volledig verbod, waarbij een analogie wordt getrokken met chemische en biologische wapens, die volgens de internationale gemeenschap verder gaan. Voor het derde jaar op rij kwamen de lidstaten van de Verenigde Naties vorige maand bijeen om te debatteren over de roep om een verbod en hoe ervoor te zorgen dat elke verdere ontwikkeling van WETTEN binnen het internationale humanitaire recht blijft. Wanneer baanbrekende wapentechnologie zich niet langer beperkt tot enkele grote militairen, worden non-proliferatie-inspanningen veel moeilijker.
Het debat wordt gecompliceerd door het feit dat definities verward blijven. Platforms, zoals drones, worden vaak verward met wapens die op platforms kunnen worden geladen. Het idee dat systemen worden gevraagd om nauw omschreven taken uit te voeren, zoals het identificeren en elimineren van gepantserde voertuigen die zich in een specifiek geografisch gebied verplaatsen, onderscheidt zich niet altijd van het idee dat systemen discretionaire ruimte krijgen om meer algemene missies te interpreteren, zoals 'winnen de oorlog" .
wpDiscuz