Robogeddon: autonome 'slachtbots' geprogrammeerd om te doden

Een wapenwedloop van supermachten om moordende robots te bouwen kan de mensheid uitroeien als er niets aan wordt gedaan, vrezen experts.

De doemscenario-waarschuwing komt nadat een VN-conferentie er niet in is geslaagd overeenstemming te bereiken over een verbod op Terminator-achtige "slaughterbots" - die worden ontwikkeld door China, Rusland en de VS.

Grootmachten investeren miljarden om geavanceerde AI-wapens te maken die doelen kunnen jagen en aanvallen zonder input van controllers.

Vorig jaar maakte een kamikaze-drone van Turkse makelij de 's werelds eerste autonome moord over menselijke doelen in Libië, zo blijkt uit een VN-rapport.

Maar experts waarschuwen dat de technologie zo snel evolueert dat regeringen en samenlevingen de gevaren niet goed hebben overwogen.

Ze zeggen dat machines die hun eigen beslissingen nemen vatbaar zijn voor onvoorspelbare en zich snel verspreidende fouten.

Deze komen voort uit codes die algoritmen worden genoemd en die zelfs de programmeurs niet altijd begrijpen en niet kunnen stoppen met mislukken.

Als AI-wapens in de toekomst worden bewapend met biologische, chemische of zelfs nucleaire kernkoppen, kunnen de resultaten onbedoeld Armageddon zijn.

"Het is een wereld waar het soort onvermijdelijke algoritmische fouten die zelfs techreuzen als Amazon en Google teisteren, nu kunnen leiden tot de eliminatie van hele steden," waarschuwt Prof James Dawes van het Macalester College.

“De wereld mag de catastrofale fouten van de nucleaire wapenwedloop niet herhalen. Het mag geen dystopie slaapwandelen.”

MIT-professor Max Tegmark, mede-oprichter van het Future of Life Institute, gaf deze week een soortgelijke ernstige waarschuwing.

He vertelde Wired: “De technologie ontwikkelt zich veel sneller dan de militair-politieke discussie.

"En we gaan standaard naar de slechtst mogelijke uitkomst."

Een mogelijk verbod op zogenaamde Lethal Automomous Weapons Systems (LAWS) werd vorige week besproken tijdens de vijfjaarlijkse VN-conventie over bepaalde conventionele wapens.

Sommige van de 120 deelnemende landen - waaronder Brazilië, Zuid-Afrika en Nieuw-Zeeland - voerden aan dat WETTEN zouden moeten worden beperkt door verdragen, zoals landmijnen en sommige indenciaries.

Een groeiende lijst van landen, waaronder Frankrijk en Duitsland, ondersteunt limieten voor sommige autonome wapens, waaronder wapens die op mensen zijn gericht. China zei dat het een beperkt aantal beperkingen ondersteunt.

Andere landen, waaronder de VS, Rusland, India, het VK en Australië verzetten zich tegen een verbod en zeggen dat het van essentieel belang is om killer-robots te blijven ontwikkelen om te voorkomen dat ze strategisch worden benadeeld.

Beslissingen over leven en dood

Al een angstaanjagende reeks AI-wapens zijn over de hele wereld ingezet, waaronder zelfvurende machinegeweren in het niemandsland van de gedemilitariseerde zone in Korea.

Ten minste 14 landen hebben AI-drones voor zelfmoord, waaronder het verwoestende Harop-aanvalsvliegtuig van Israël dat werd gebruikt om Hamas-terroristen op te sporen.

Harops ook het leger van Armenië verwoest tijdens de botsing met Azerbeidzjan vorig jaar - hoewel niet werd onthuld of ze met of zonder menselijke inbreng handelden.

De dodelijke robotwapens van Rusland omvatten de nieuwe Schaakmat stealth vechter, die AI-systemen combineert met een menselijke piloot.

Ontwerpers zeggen dat er een toekomstige versie zou kunnen zijn zonder dat een pilot nodig is.

China begon meer dan tien jaar geleden met testen een robotonderzeeër ontworpen om autonoom vijandelijke schepen op te sporen en te vernietigen.

Het heeft ook onlangs onthulde een anti-onderzeeër drone en vrachtwagen gelanceerd slagveld drone zwermen.

China is ook een robot oorlogsschip bouwen bewapend met torpedo's, onthulden satellietbeelden in oktober.

Al deze moordmachines kunnen worden geprogrammeerd om menselijke goedkeuring te zoeken voordat ze de doelen die ze vinden aanvallen.

Maar ze kunnen ook worden gebruikt als de ultieme 'vuur-en-vergeet'-technologie, waarbij ze uren of dagen rondhangen, klaar om te vuren op doelen die volledig door een computer zijn gekozen.

ongecontroleerde slachting

Experts zeggen dat vooraanstaande militairen zichzelf voor de gek houden als ze denken dat ze de verspreiding van deze geavanceerde nieuwe wapens kunnen beheersen.

Ze zeggen dat schurkenstaten en terroristen onvermijdelijk zullen proberen hen te pakken te krijgen om bloedbaden te ontketenen.

En aangezien compacte moordrobots net zo goedkoop worden als kalasjnikovs, kunnen bendes zoals de Mexicaanse kartels ze gebruiken in een angstaanjagende nieuwe golf van bloedvergieten.

"Als je slachtbots kunt kopen voor dezelfde prijs als een AK-47, is dat veel beter voor drugskartels, omdat je niet gepakt wordt als je iemand vermoordt", vertelde professor Tegmark aan The Sun.

"Zelfs als een rechter veel lijfwachten heeft, kun je door een slaapkamerraam naar binnen vliegen terwijl ze slapen en ze doden."

En regeringen zullen in de toekomst meer geneigd zijn om oorlog te voeren, zeggen experts, omdat robotwapens minder soldaten in de vuurlinie betekenen.

Lees hier het hele verhaal ...