Technocraten in het leger die bouwen simpelweg omdat ze kunnen, vormen een bedreiging voor de hele wereld. Technologie die mensen dient en helpt, niet om ze te doden of te beheersen, is wat de mensheid wenst. ⁃ TN Editor
De controverse rond militaire kunstmatige intelligentie is geworteld in "ernstige misvattingen" over wat de afdeling eigenlijk probeert te doen, volgens de huidige en voormalige Defensie-ambtenaren.
Voor de bescherming van de VS in de komende decennia zal het Pentagon 'substantiële, duurzame' investeringen in militaire kunstmatige intelligentie moeten doen, en critici moeten zich realiseren dat het die taak niet licht opvat, volgens de huidige en voormalige functionarissen van het ministerie van Defensie.
Pogingen om het gebruik van de afdeling van AI-systemen door de afdeling uit te breiden, hebben bij velen in de tech- en beleidsgemeenschappen, die zich zorgen maken over de Verenigde Staten, bezorgdheid gekregen over machines die binnenkort beslissingen over leven en dood op het slagveld zullen nemen. Vorig jaar leidde Google door werknemersprotesten om een luchtmachtproject uit te trekken die machine-learning gebruikte om bewakingsbeelden te sorteren.
Op woensdag zeiden ambtenaren dat het Pentagon dat is tot het uiterste gaan om ervoor te zorgen dat mogelijke toepassingen van AI voldoen aan strikte ethische normen en internationale normen. Zelfs als de Amerikaanse militairen de technologie inzetten, waarschuwden ze, wereldwijde tegenstanders zoals Rusland en China zullen dat zeker niet doen, en hun ethische kader zal waarschijnlijk ontbreken.
"Het ministerie van Defensie is absoluut niet verontschuldigend over het nastreven van deze nieuwe generatie AI-wapens", zei voormalig plaatsvervangend minister van Defensie Robert Work woensdag tijdens een evenement georganiseerd door AFCEA's afdeling in Washington, DC. "Als we willen slagen tegen een concurrent als China die helemaal in deze competitie zit ... zullen we de onvermijdelijkheid van AI moeten begrijpen."
Uitgebracht in februari, de Pentagon's AI-strategie eist expliciet dat menselijke operatoren de mogelijkheid hebben om beslissingen van een militair AI-systeem te negeren en zorgt ervoor dat de technologie zich houdt aan de wetten van gewapende conflicten.
"Ik zou beweren dat het Amerikaanse leger de meest ethische militaire kracht in de geschiedenis van oorlogvoering is, en we denken dat de verschuiving naar AI-wapens deze trend zal voortzetten," zei Work. En ondanks de kritiek, voegde hij eraan toe, kon de technologie mogelijk levens redden door vriendelijk vuur te verminderen en burgerslachtoffers te voorkomen.
Generaal Jack Shanahan, die het nieuw geslagen Joint Artificial Intelligence Center van de afdeling leidt, vertelde het publiek veel van de kritiek die hij hoorde op militaire AI-inspanningen is geworteld in 'ernstige misvattingen over waar [de afdeling] eigenlijk aan werkt'. Hoewel sommigen zich een algemeen AI-systeem kunnen voorstellen "dat zonder onderscheid over het slagveld gaat", zei hij, zal de technologie slechts beperkt worden toegepast en zullen mensen altijd op de hoogte blijven.
Uit het protest blijkt zelfs dat het Pentagon volgens Shanahan niet genoeg contact heeft met de industrie over de projecten die het nastreeft.
wpDiscuz