Zwermen AI Drones to Patrol Europe's Borders

Deel dit verhaal!
Dreigingsanalyses en beslissingen zullen autonoom worden genomen, waarbij grensbewakingsagenten op de hoogte worden gesteld; Dit is echter een gladde helling die maar al te gemakkelijk kan worden opgenomen in brede wetshandhavingspraktijken. ⁃ TN-editor

Stel je voor dat je wandelt door het bos bij een grens. Plots hoor je een mechanisch zoemen, als een gigantische bij. Twee quadcopters hebben je gezien en duiken voor een kijkje. Antennes op beide drones en op een nabijgelegen autonoom voertuig halen de radiofrequenties op uit de mobiele telefoon in uw zak. Ze sturen de signalen naar een centrale server, die uw exacte locatie trianguleert en terugvoert naar de drones. De robots komen dichterbij.

Camera's en andere sensoren op de machines herkennen u als mens en proberen uw bedoelingen vast te stellen. Ben je een bedreiging? Overschrijd je illegaal een grens? Heb je een pistool? Bent u bezig met terroristische aanslagen of georganiseerde misdaad? De machines sturen videofeeds naar hun menselijke operator, een grenswachter in een kantoor mijlenver weg, die de video's controleert en besluit dat u geen risico loopt. De grenswacht drukt op een knop en de robots schakelen uit en gaan door met hun patrouille.

Dit is geen science fiction. De Europese Unie financiert een project voor de ontwikkeling van drones met kunstmatige intelligentie en bedoeld om autonoom de grenzen van Europa te bewaken. De drones zullen werken in zwermen, coördinerende en bevestigende informatie tussen vloten van quadcopters, kleine vliegtuigen met vaste vleugels, grondvoertuigen, onderzeeërs en boten. Ontwikkelaars van het project, bekend als Roborder, zeggen dat de robots mensen kunnen identificeren en onafhankelijk kunnen beslissen of ze een bedreiging vormen. Als ze vaststellen dat je mogelijk een misdrijf hebt begaan, stellen ze de grenspolitie op de hoogte.

President Donald Trump heeft het spook van criminelen die de zuidelijke grens overstaken gebruikt om nationalistisch politiek sentiment op te wekken en zijn basis te activeren. In Europa, twee jaar na het hoogtepunt van de migratiecrisis die meer dan een miljoen mensen naar het continent bracht, voornamelijk uit het Midden-Oosten en Afrika, blijft immigratie een hot-button-kwestie, zelfs nu het aantal nieuwkomers is gedaald. Politieke partijen in de hele Europese Unie winnen verkiezingen anti-immigrantenplatforms en steeds restrictiever worden grensbeleid. Technische ethici en voorstanders van privacy maken zich zorgen dat Roborder en dergelijke projecten te veel wetshandhavingswerk uitbesteden aan niet-menselijke actoren en gemakkelijk kunnen worden bewapend tegen mensen in grensgebieden.

"De ontwikkeling van deze systemen is een duistere stap in moreel gevaarlijk gebied," zei Noel Sharkey, emeritus hoogleraar robotica en kunstmatige intelligentie aan de Sheffield University in het VK en een van de oprichters van het International Committee for Robot Arms Control, een non-profit dat pleit voor militair gebruik van robotica. Sharkey geeft voorbeelden van bewapende drones die momenteel op de markt zijn: vliegende robots uitgerust met Tasers, pepperspray, rubberen kogels en andere wapens. Hij waarschuwt voor de implicaties van het combineren van die technologie met op AI gebaseerde besluitvorming en het gebruik ervan in politiek geladen grensgebieden. "Het is slechts een kwestie van tijd voordat een drone actie kan ondernemen om mensen te stoppen," vertelde Sharkey aan The Intercept.

De ontwikkelaars van Roborder overtreden mogelijk ook de voorwaarden van hun financiering, volgens documenten over het project die zijn verkregen via transparantieregels van de Europese Unie. Het initiatief wordt meestal gefinancierd door een EU-subsidie ​​van € 8 miljoen voor onderzoek en innovatie die exclusief voor niet-militaire projecten is ontworpen, maar de ontwikkelaars van Roborder erkennen dat delen van hun voorgestelde systeem militaire technologie omvatten of gemakkelijk kunnen worden omgezet voor militair gebruik.

Een groot deel van de ontwikkeling van Roborder is geclassificeerd, maar The Intercept heeft interne rapporten verkregen met betrekking tot ethische overwegingen en zorgen over het programma. Die documentatie is onjuist bewerkt en per ongeluk volledig vrijgegeven.

In een van de rapporten probeerden de ontwikkelaars van Roborder ethische criteria aan te pakken die verband houden met hun EU-financiering. Ontwikkelaars overwogen of hun werk zou kunnen worden aangepast of verbeterd om mensen te schaden en wat er zou kunnen gebeuren als de technologie of kennis die in het project werd ontwikkeld "in verkeerde handen terechtkwam." Deze ethische kwesties worden naar voren gebracht, schreven de ontwikkelaars, toen "onderzoek gebruik maakt van gerubriceerde informatie, materialen of technieken; gevaarlijke of beperkte materialen [;] en als specifieke resultaten van het onderzoek een gevaar kunnen vormen voor deelnemers of voor de samenleving als geheel. ”

De ontwikkelaars van Roborder betoogden dat deze ethische problemen niet van toepassing waren op hun werk, en verklaarden dat hun enige doel was om de nieuwe technologie te ontwikkelen en te testen, en dat deze tijdens de levenscyclus van het project niet buiten de Europese Unie zou worden verkocht of overgedragen. Maar in interviews met The Intercept erkenden projectontwikkelaars dat hun technologie zou kunnen worden hergebruikt en verkocht, zelfs buiten Europa, nadat de Europese projectcyclus is voltooid, wat naar verwachting volgend jaar zal gebeuren.

Afgezien van het Roborder-project, suggereren de ethische rapporten die bij de Europese Commissie zijn ingediend een grotere vraag: als het gaat om nieuwe technologie met het potentieel om te worden gebruikt tegen kwetsbare mensen op plaatsen met weinig mensenrechten, die beslist wat we wel en niet moeten ontwikkelen ?

Roborder heeft zijn gewonnen financieringssubsidie ​​in 2017 en is van plan om halverwege 2020 een verhandelbaar prototype te ontwikkelen - "een zwerm robotica ter ondersteuning van grensbewaking". De ontwikkelaars hopen een verzameling lucht-, zee- en landdrones te bouwen en uit te rusten die kunnen worden gecombineerd en uitgezonden op grenspatrouille-missies, en zoeken naar 'bedreigingen' op basis van informatie van menselijke operatoren, zei Stefanos Vrochidis, projectmanager van Roborder .

De drones maken gebruik van optische, infrarood- en thermische camera's; radar; en radiofrequentiesensoren om bedreigingen langs de grens te bepalen. Frequenties van mobiele telefoons worden gebruikt om de locatie van mensen die verdacht worden van criminele activiteiten te trianguleren, en camera's identificeren mensen, wapens, voertuigen en andere objecten. "Het belangrijkste doel is om zoveel mogelijk sensoren in het veld te hebben om het patrouillepersoneel te helpen", zegt Kostas Ioannidis, technisch manager van Roborder.

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

0 Heb je vragen? Stel ze hier.
Inline feedbacks
Bekijk alle reacties