Militairen maken AI-wapensystemen om 'ter slachting te worden gebracht'

De video is grimmig. Twee dreigende mannen staan ​​naast een wit busje in een veld met afstandsbedieningen. Ze openen de achterdeuren van het busje en het gejank van drones met quadcopter klinkt op. Ze draaien een schakelaar om en de drones zwermen als vleermuizen uit een grot. Binnen een paar seconden gingen we naar een klaslokaal. De moordende robots stromen door ramen en ventilatieopeningen naar binnen. De studenten schreeuwen van angst terwijl ze binnenin opgesloten zitten, terwijl de drones met dodelijk geweld aanvallen. De les dat de film, Slachtbots, probeert over te brengen is duidelijk: kleine killerrobots zijn hier of een kleine technologische vooruitgang verwijderd. Terroristen zouden ze gemakkelijk kunnen inzetten. En de bestaande verdediging is zwak of bestaat niet.

Sommige militaire experts voerden aan dat Slaughterbots - die is gemaakt door het Future of Life Institute, een organisatie die onderzoek doet existentiële bedreigingen voor de mensheid - sensationaliseerde een ernstig probleem, wakkerde angst aan waar kalme reflectie vereist was. Maar als het gaat om de toekomst van oorlog, is de grens tussen sciencefiction en industriële feiten vaak wazig. De Amerikaanse luchtmacht heeft een toekomst voorspeld waarin "Swat-teams mechanische insecten uitgerust met videocamera's zullen sturen om een ​​gebouw binnen te kruipen tijdens een gijzeling". Een "microsysteem-samenwerking" heeft al Octoroach uitgebracht, een "extreem kleine robot met een camera en radiozender die tot 100 meter op de grond kan afleggen". Het is slechts een van de vele “biomimetische”, Of natuurimiterende wapens die aan de horizon zijn.

Wie weet hoeveel andere schadelijke wezens nu model staan ​​voor avant-garde militaire theoretici. Een recente roman van PW Singer en August Cole, die zich afspeelt in een nabije toekomst waarin de VS in oorlog zijn met China en Rusland, presenteerde een caleidoscopisch beeld van autonome drones, lasers en gekaapte satellieten. Het boek kan niet worden afgeschreven als een techno-militaire fantasie: het bevat honderden voetnoten die de ontwikkeling documenteren van elk stuk hardware en software dat het beschrijft.

Vooruitgang in het modelleren van robotachtige moordmachines is niet minder verontrustend. Een Russisch sciencefictionverhaal uit de jaren 60, Crabs on the Island, beschreef een soort Hongerspelen voor AI's, waarin robots met elkaar zouden vechten om middelen. Verliezers zouden worden geschrapt en winnaars zouden spawnen, totdat sommigen evolueerden tot de beste moordmachines. Wanneer een vooraanstaande computerwetenschapper noemde een soortgelijk scenario als het Amerikaanse Defense Advanced Research Projects Agency (Darpa) en noemde het een "robot Jurassic Park", een leider daar noemde het "haalbaar". Er is niet veel reflectie voor nodig om te beseffen dat een dergelijk experiment de potentie heeft om uit de hand te lopen. Uitgaven zijn de belangrijkste belemmering voor een grote macht die experimenteert met dergelijke potentieel destructieve machines. Softwaremodellering kan zelfs die barrière wegnemen, waardoor virtuele gevechtsgeteste simulaties toekomstige militaire investeringen kunnen inspireren.

In het verleden zijn natiestaten samengekomen om bijzonder gruwelijke of angstaanjagende nieuwe wapens te verbieden. Tegen het midden van de 20e eeuw verbood internationale verdragen biologische en chemische wapens. De gemeenschap van naties heeft het gebruik van verblindende lasertechnologieook. Een robuust netwerk van ngo's heeft er met succes bij de VN op aangedrongen om lidstaten bijeen te roepen om in te stemmen met een soortgelijk verbod op moordrobots en andere wapens die op eigen kracht kunnen optreden, zonder directe menselijke controle, om een ​​doelwit te vernietigen (ook bekend als dodelijke autonome wapensystemen , of wetten). En hoewel er discussie is geweest over de definitie van dergelijke technologie, kunnen we ons allemaal een aantal bijzonder angstaanjagende soorten wapens voorstellen die alle staten zouden moeten overeenkomen om ze nooit te maken of in te zetten. Een drone die geleidelijk verwarmde vijandelijke soldaten tot de dood zou in strijd zijn met internationale verdragen tegen foltering; sonische wapens die zijn ontworpen om het gehoor of het evenwicht van een vijand te vernielen, verdienen een soortgelijke behandeling. Een land dat dergelijke wapens heeft ontworpen en gebruikt, moet uit de internationale gemeenschap worden verbannen.

In abstracto kunnen we het er waarschijnlijk over eens zijn dat ostracisme - en zwaardere straffen - ook verdiend is voor de ontwerpers en gebruikers van killer robots. Het hele idee van een machine die wordt losgelaten om te slachten, is huiveringwekkend. En toch lijken enkele van 's werelds grootste legers in de richting van de ontwikkeling van dergelijke wapens te sluipen, door een logica van afschrikking na te streven: ze zijn bang om verpletterd te worden door de AI van rivalen als ze geen even krachtige kracht kunnen ontketenen. De sleutel tot het oplossen van zo'n hardnekkige wapenwedloop ligt misschien niet zozeer in mondiale verdragen als wel in een waarschuwende heroverweging van waar martial AI voor kan worden gebruikt. Zoals "oorlog komt thuis”, Is de inzet van militair geweld in landen als de VS en China een scherpe waarschuwing voor hun burgers: welke controle- en vernietigingstechnologieën u uw regering nu toestaat te kopen voor gebruik in het buitenland, kan in de toekomst heel goed tegen u worden gebruikt.

Lees hier het hele verhaal ...