Zijn Killer Robots nodig of een bedreiging voor de mensheid?

Deze wapens, die op het land, in de lucht of op zee kunnen opereren, dreigen een revolutie teweeg te brengen in gewapende conflicten en wetshandhaving op alarmerende manieren. Voorstanders zeggen dat deze moordende robots nodig zijn omdat moderne gevechten zo snel bewegen, en omdat robots door gevechten soldaten en politieagenten uit de weg zouden kunnen houden. Maar de bedreigingen voor de mensheid zouden zwaarder wegen dan de voordelen van militaire of wetshandhaving.

Het verwijderen van mensen uit de targetingbeslissing zou een gevaarlijke wereld creëren. Machines zouden leven en dood bepalen buiten menselijke controle. Het risico op onevenredige schade of het verkeerd richten van burgers zou toenemen. Niemand kan aansprakelijk worden gesteld.

Gezien morele, juridische en aansprakelijkheidsrisico's van volledig autonome wapens, die hun ontwikkeling, productie en gebruik vooropstellen, kan niet wachten. De beste manier om met deze dreiging om te gaan, is een internationaal, wettelijk bindend verbod op wapens die geen zinvolle menselijke controle hebben.

Empathie en oordeel behouden

Ten minste 20-landen hebben zich uitgesproken tijdens VN-vergaderingen de overtuiging dat mensen de selectie en betrokkenheid van doelen moeten dicteren. Velen van hen echoden argumenten uiteengezet in een nieuw rapport, waarvan ik de hoofdauteur was. Het rapport werd uitgebracht in april door Human Rights Watch en Harvard Law School International Human Rights Clinic, twee organisaties die campagne voeren voor een verbod op volledig autonome wapens.

Het behouden van menselijke controle over wapens is een morele imperatief. Omdat ze empathie bezitten, kunnen mensen het emotionele gewicht voelen van het beschadigen van een ander individu. Hun respect voor de menselijke waardigheid kan en moet dienen als een controle op het doden.

Robots hebben daarentegen geen echte emoties, waaronder compassie. Bovendien konden levenloze machines niet echt de waarde begrijpen van het menselijk leven dat ze verkozen te nemen. Door hen te laten bepalen wanneer zij geweld moeten gebruiken, zou de menselijke waardigheid worden ondermijnd.

Menselijke controle bevordert ook de naleving van het internationale recht, dat is ontworpen om zowel burgers als soldaten te beschermen. Bijvoorbeeld de oorlogswetten onevenredige aanvallen verbieden waarin de verwachte civiele schade zwaarder weegt dan het verwachte militaire voordeel. Mensen kunnen hun oordeel toepassen op basis van ervaringen uit het verleden en morele overwegingen, en van geval tot geval beslissingen nemen over evenredigheid.