Kunstmatige intelligentie en de toekomst van oorlogvoering

Samenvatting van het papier

• Zowel militaire als commerciële robots zullen in de toekomst 'kunstmatige intelligentie' (AI) bevatten die hen in staat zou kunnen stellen zelfstandig taken en missies uit te voeren. In de militaire context geeft dit aanleiding tot een debat over de vraag of dergelijke robots dergelijke missies moeten kunnen uitvoeren, vooral als er een mogelijkheid is dat er mensenlevens op het spel kunnen staan.
• Om de problemen die op het spel staan ​​beter te begrijpen, presenteert dit artikel een kader waarin de huidige stand van zaken voor AI, de sterke en zwakke punten van de technologie, en wat de toekomst waarschijnlijk in petto heeft, wordt uitgelegd. Het framework laat zien dat, hoewel computers en AI superieur kunnen zijn aan mensen in sommige op vaardigheden en regels gebaseerde taken, in situaties die oordelen en kennis vereisen, mensen in aanwezigheid van aanzienlijke onzekerheid superieur zijn aan computers.
• In de complexe discussie over of en hoe de ontwikkeling van autonome wapens moet worden beheerst, moet de snel groeiende commerciële markt voor zowel lucht- als grond autonome systemen ten volle in overweging worden genomen. Het verbieden van een autonome technologie voor militair gebruik is misschien niet praktisch gezien het feit dat afgeleide of superieure technologieën mogelijk wel beschikbaar zouden zijn in de commerciële sector.
• Er is een metaforische wapenwedloop gaande in de commerciële sfeer van de ontwikkeling van autonome systemen, en deze verschuiving in O & O-inspanningen en -uitgaven van militaire naar commerciële instellingen is problematisch. De ontwikkeling van militaire autonome systemen is op zijn best traag en incrementeel verlopen, en verbleekt in vergelijking met de vorderingen die zijn gemaakt in commerciële autonome systemen zoals drones, en vooral in zelfrijdende auto's.
• In een zeer competitieve markt voor hoogopgeleide robotica en aanverwante ingenieurs in de sectoren die het meest geïnteresseerd zijn in AI, ruimtevaart en defensie, waar de financiering veel beter is dan die van de commerciële auto- of informatie- en communicatiesector, is dit minder aantrekkelijk voor het meest bekwame personeel. Als gevolg hiervan loopt de wereldwijde defensie-industrie achter op zijn commerciële tegenhangers op het gebied van technologische innovatie, waarbij de kloof alleen maar groter wordt naarmate de beste en slimste ingenieurs naar de commerciële sfeer gaan.
• Wat betreft de toekomst van oorlogsvoering, aangezien het verband houdt met AI, zou de huidige grote ongelijkheid tussen commerciële en militaire O & O-uitgaven voor de ontwikkeling van autonome systemen een trapsgewijs effect kunnen hebben op de soorten en kwaliteit van autonomie die uiteindelijk in militaire systemen worden opgenomen. Een cruciale vraag in dit verband is of defensiebedrijven de capaciteit zullen hebben om veilige en controleerbare autonome systemen te ontwikkelen en te testen, vooral die welke wapens afvuren.
• Fielding ontluikende technologieën zonder uitgebreide testen kunnen zowel militair personeel als burgers onnodig in gevaar brengen. De snelle ontwikkeling van commerciële autonome systemen zou echter de acceptatie van autonome systemen voor het leger en het publiek kunnen normaliseren, en dit zou staatsmilitairen kunnen aanmoedigen om de ontwikkeling van dergelijke systemen te financieren op een niveau dat beter past bij investeringen in bemande systemen.