De geest is al uit de fles, maar geavanceerde AI-onderzoekers maken zich nu grote zorgen over hoe hun creaties zullen worden gebruikt in autonome oorlogsvoering. AI staat op het punt zichzelf te repliceren, wat betekent dat malafide toepassingen die erop gericht zijn mensen te doden, zich kunnen vermenigvuldigen totdat het menselijk ras is uitgedoofd. ⁃ TN-editor
Duizenden wetenschappers die zich specialiseren in kunstmatige intelligentie (AI) hebben verklaard dat ze niet zullen deelnemen aan de ontwikkeling of productie van robots die mensen kunnen identificeren en aanvallen zonder menselijk toezicht.
Demis Hassabis bij Google DeepMind en Elon Musk bij het Amerikaanse raketbedrijf SpaceX behoren tot meer dan 2,400 ondertekenaars van de belofte die van plan is militaire bedrijven en naties af te schrikken om dodelijke autonome wapensystemen te bouwen, ook wel Wetten genoemd.
De verhuizing is de nieuwste van betrokken wetenschappers en organisaties om de gevaren van het overdragen van beslissingen over leven en dood aan AI-verbeterde machines te benadrukken. Hieruit volgt roept op tot een preventief verbod over technologie die volgens campagnevoerders een nieuwe generatie massavernietigingswapens zou kunnen inluiden.
Georganiseerd door de Boston-gebaseerde organisatie, The Future of Life Institute, roept de belofte de regeringen op om normen, wetten en voorschriften overeen te komen die de ontwikkeling van moordende robots stigmatiseren en effectief verbieden. Bij gebrek aan dergelijke maatregelen beloven de ondertekenaars om “noch deel te nemen aan noch de ontwikkeling, productie, handel of het gebruik van dodelijke autonome wapens te ondersteunen.” Meer dan 150 AI-gerelateerde bedrijven en organisaties hebben hun naam aan de toezegging toegevoegd vandaag aangekondigd op de internationale gezamenlijke conferentie over AI in Stockholm.
Yoshua Bengio, een AI-pionier van het Montreal Institute for Learning Algorithms, vertelde de Guardian dat als de belofte die bedrijven en militaire organisaties die autonome wapens bouwen te schande zou maken, de publieke opinie tegen hen zou slingeren. “Deze aanpak werkte feitelijk voor landmijnen, dankzij internationale verdragen en publieke shaming, hoewel grote landen zoals de VS het verdrag dat landmijnen verbiedt niet hebben ondertekend. Amerikaanse bedrijven zijn gestopt met het bouwen van landmijnen, 'zei hij. Bengio heeft de belofte ondertekend om zijn 'sterke bezorgdheid over dodelijke autonome wapens' te uiten.
Het leger is een van de grootste financiers en adopters van AI-technologie. Met geavanceerde computersystemen kunnen robots missies over vijandig terrein vliegen, over de grond navigeren en onder zee patrouilleren. Meer geavanceerde wapensystemen zijn in de maak. Op maandag onthulde de minister van Defensie Gavin Williamson een £ 2bn-plan voor een nieuwe RAF-jager, de Tempest, die zonder piloot kan vliegen.
Britse ministers hebben verklaard dat Groot-Brittannië geen dodelijke autonome wapensystemen ontwikkelt en dat zijn strijdkrachten altijd toezicht en controle zullen hebben op de wapens die het inzet. Maar de campagnevoerders waarschuwen dat snelle vooruitgang op het gebied van AI en andere gebieden betekent dat het nu mogelijk is om geavanceerde wapens te bouwen die menselijke doelen kunnen identificeren, volgen en afvuren zonder toestemming van een menselijke controller. Voor veel onderzoekers overschrijdt het geven van machines de beslissing over wie leeft en sterft een morele lijn.
“We moeten er de internationale norm van maken dat autonome wapens niet acceptabel zijn. Een mens moet altijd op de hoogte zijn, 'zei Toby Walsh, een professor van AI aan de Universiteit van New South Wales in Sydney, die de belofte ondertekende
wpDiscuz
kinderen gebaseerd op het echte levensverhaal van About Real-Life Kids Who Changed the World