Militair zoekt AI om besluitvorming op slagveld te vervangen

Het Defense Advanced Research Projects Agency (DARPA) – de innovatietak van het Amerikaanse leger – wil deze netelige vragen beantwoorden door het besluitvormingsproces uit te besteden aan kunstmatige intelligentie. Via een nieuw programma, In the Moment genaamd, wil het technologie ontwikkelen die snelle beslissingen zou nemen in stressvolle situaties met behulp van algoritmen en gegevens, met het argument dat het verwijderen van menselijke vooroordelen levens kan redden, volgens details van de lancering van het programma deze maand.

Hoewel het programma nog in de kinderschoenen staat, komt het wanneer andere landen proberen een eeuwenoud systeem van medische triage te updaten, en terwijl het Amerikaanse leger steeds meer leunt op technologie om menselijke fouten in oorlog te beperken. Maar de oplossing roept rode vlaggen op bij sommige experts en ethici die zich afvragen of AI erbij moet worden betrokken als er levens op het spel staan.

"AI is geweldig in het tellen van dingen", zei Sally A. Applin, een research fellow en consultant die de kruising tussen mensen, algoritmen en ethiek bestudeert, verwijzend naar het DARPA-programma. "Maar ik denk dat het een precedent kan scheppen waardoor de beslissing voor iemands leven in de handen van een machine wordt gelegd."

DARPA, opgericht in 1958 door president Dwight D. Eisenhower, is een van de meest invloedrijke organisaties op het gebied van technologisch onderzoek en heeft projecten voortgebracht die een rol hebben gespeeld bij tal van innovaties, waaronder internet, GPS, weersatellieten en, meer recentelijk, Moderna's coronavirusvaccin.

Maar zijn geschiedenis met AI weerspiegelt de ups en downs van het veld. In de jaren zestig boekte het bureau vooruitgang in de verwerking van natuurlijke taal en kreeg het computers zover om spellen zoals schaken te spelen. In de jaren zeventig en tachtig stagneerde de vooruitgang, met name door de beperkingen in rekenkracht.

Sinds de jaren 2000, toen grafische kaarten zijn verbeterd, rekenkracht goedkoper is geworden en cloud computing een hoge vlucht heeft genomen, heeft het bureau een heropleving gezien in het gebruik van kunstmatige intelligentie voor militaire toepassingen. In 2018 besteedde het $ 2 miljard, via een programma genaamd AI Next, om AI op te nemen in meer dan 60 defensieprojecten, wat aangeeft hoe centraal de wetenschap zou kunnen zijn voor toekomstige jagers.

"DARPA voorziet een toekomst waarin machines meer zijn dan alleen gereedschappen", zei het bureau bij de aankondiging van het AI Next-programma. “De machines die DARPA voor ogen heeft, zullen meer als collega’s functioneren dan als gereedschap.”