Claim: als AI regeert, kan One Rogue Programmer het menselijke ras beëindigen

US Navy
Deel dit verhaal!

Uiteindelijk zullen het tech-verzadigde menselijke technocraten zijn, geen programma's, die het anti-menselijke beleid en de resultaten creëren die de mensheid schaden. Ze zullen zich verschuilen achter AI om aan de verantwoordelijkheid te ontsnappen, en iedereen zal denken dat de algoritmen ze hebben gedaan. TN Editor

Het idee dat kleine groepen mensen controle hebben over enkele van de krachtigste wapens die ooit gebouwd zijn, is eng, maar het is de realiteit waarin we leven. In de niet zo verre toekomst zou die ongelooflijke macht en verantwoordelijkheid kunnen worden overgedragen aan AI en robotsystemen, die al in actieve ontwikkeling zijn. In een paar open brieven aan de premiers van Last Australië en Canada pleiten honderden AI-onderzoekers en wetenschappers dat dit niet zal gebeuren.

De angst, zeggen ze, is dat het verwijderen van het menselijke element uit beslissingen over leven en dood een destructief tijdperk kan inluiden dat uiteindelijk het einde van de mensheid betekent. De AI-wapensystemen zijn, zoals de onderzoekers zeggen, "massavernietigingswapens" die volledig moeten worden verboden voordat ze ernstige schade kunnen aanrichten.

"Het delegeren van beslissingen over leven of dood aan machines overschrijdt een fundamentele morele lijn - ongeacht welke partij ze bouwt of gebruikt", aldus de brief legt uit. “Het spelen van Russische roulette met het leven van anderen kan nooit alleen worden gerechtvaardigd op basis van effectiviteit. Dit is niet alleen een fundamentele kwestie van mensenrechten. De beslissing om autonome wapens te verbieden of te gebruiken, raakt de kern van onze mensheid. "

In een omgeving waar computers de ultieme zeggenschap hebben over het al dan niet uitvoeren van vijandige acties - zelfs onder het mom van het verdedigen van hun eigen territoria of het beschermen van de populaties waarvoor ze zijn geprogrammeerd om te beschermen - kunnen conflicten veel sneller escaleren dan mensen ooit hebben gezien. Weken, maanden of zelfs jaren van houding en diplomatie kunnen slechts enkele minuten of zelfs seconden worden, met raketten die vliegen voordat mensen zelfs kunnen beginnen in te grijpen. En dan is er natuurlijk het probleem dat de AI op onvoorziene manieren wordt gemanipuleerd.

"Dit zullen massavernietigingswapens zijn", zeggen de wetenschappers. “Eén programmeur kan een heel leger besturen. Elk ander massavernietigingswapen is verboden: chemische wapens, biologische wapens, zelfs nucleaire wapens. We moeten autonome wapens toevoegen aan de lijst met wapens die moreel onaanvaardbaar zijn om te gebruiken. "

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

0 Comments
Inline feedbacks
Bekijk alle reacties