De snel opkomende AI-wapenwedloop om autonome moordmachines te maken, is de waanzin van Technocrat op zijn hoogste hoogtepunt. Voor de technocraten heeft elk probleem een wetenschappelijke oplossing; dus waarom een gewapende en dodelijke AI-robot niet al het werk van menselijke soldaten laten doen? ⁃ TN Editor
Moet een machine die beslissing nemen of een ander mens nemen als het gaat om het beslissen om een mens in oorlogstijd te doden?
De vraag is moreel, naar voren gebracht door de technieken en prikkels van moderne technologie. Het is een vraag waarvan de reikwijdte volledig onder de auspiciën van het internationale recht valt, en waarover landen jarenlang hebben gedebatteerd. Maar het is ook een collectief actieprobleem, waarbij niet alleen staten, maar ook bedrijven en werknemers in bedrijven een overeenkomst moeten sluiten om af te zien van een waargenomen voordeel. Het gevaar ligt niet zozeer in het maken van een wapen, maar in het maken van een wapen dat doelen kan kiezen onafhankelijk van de verantwoordelijke mens die zijn actie initieert.
In een mei 8 rapport van Pax - een non-profitorganisatie met de expliciete doelstelling om burgers te beschermen tegen geweld, het verminderen van gewapende conflicten en het opbouwen van een rechtvaardige vrede - kijken auteurs naar de bestaande staat van kunstmatige intelligentie in wapens en zetten landen, bedrijven en werknemers aan tot nadenken over hoe je een AI-wapenwedloop kunt voorkomen, in plaats van na te denken over hoe je er een kunt winnen. Zonder corrigerende maatregelen, waarschuwt het rapport, zou de status-quo alle deelnemers in een no-win situatie kunnen brengen, met enig voordeel dat wordt behaald door het ontwikkelen van een tijdelijk en beperkt autonoom wapen.
"We zien deze opkomende AI-wapenwedloop en we denken dat als er niets gebeurt dat dat een grote bedreiging voor de mensheid is", zei Frank Slijper, een van de auteurs op het verslag. “Er is een kans om een AI-wapenwedloop te stoppen. Staten moeten proberen een AI-wapenwedloop te voorkomen en toe te werken naar internationale regelgeving. In de tussentijd hebben bedrijven en onderzoeksinstituten zelf een grote verantwoordelijkheid om ervoor te zorgen dat werk op het gebied van KI en aanverwante gebieden niet bijdraagt aan potentiële dodelijke autonome wapens. "
Het rapport is geschreven met een specifiek oog op de zeven leidende AI-krachten. Deze omvatten de vijf permanente leden van de VN-veiligheidsraad: China, Frankrijk, Rusland, het Verenigd Koninkrijk en de Verenigde Staten. Bovendien beschrijft het rapport het kunstmatige intelligentieonderzoek van Israël en Zuid-Korea, beide landen waarvan de geografische en politieke posities de ontwikkeling van militaire AI hebben aangemoedigd.
“We hebben de belangrijkste spelers geïdentificeerd op het gebied van gebruik en onderzoek en ontwikkeling op het gebied van zowel AI als militair gebruik van AI in steeds autonomer wordende wapens. Ik kon niemand bedenken, elke staat die we deze zeven zouden hebben gemist ”, zegt Slijper. "Natuurlijk is er altijd een nummer acht en het nummer negen."
Voor elke gedekte AI-macht wordt in het rapport de toestand van AI onderzocht, de rol van AI in het leger en wat bekend is over samenwerking tussen AI-ontwikkelaars in de particuliere sector of universiteiten en het leger. Met landen als de Verenigde Staten, waar militaire AI-programma's worden genoemd, kan worden gewezen op het regeringsbeleid en zijn debatten over de relatie tussen commerciële AI en militair gebruik bekend, meldt het rapport dat proces. De grondigheid van het onderzoek wordt gebruikt om de expliciet activistische missie van Pax te onderstrepen, hoewel het ook een waardevol overzicht geeft van de toestand van AI in de wereld.
Zoals het rapport de hele tijd volhoudt, is deze rol van AI in wapens niet alleen een kwestie voor regeringen. Het is een vraag voor de mensen die verantwoordelijk zijn voor bedrijven, en een vraag voor de werknemers die AI voor bedrijven creëren.
"Veel ervan heeft te maken met het vrij unieke karakter van AI-geïnfundeerde wapentechnologie", zegt Slijper. “Traditioneel werkten veel van de bedrijven die nu aan AI werken vanuit een puur civiel perspectief om goed te doen en de mensheid te helpen. Deze bedrijven waren traditioneel geen militaire producenten of dominante leveranciers aan het leger. Als je voor een wapenbedrijf werkt, weet je waar je voor werkt. '
In de Verenigde Staten is er weerstand uitgesproken tegen bijdragen aan Pentagon-contracten van arbeiders in de technologiesector. Na Google-werker na het vernemen van de inzet van het bedrijf Project Maven, die een drone-beeldverwerkingsverwerking AI voor het leger ontwikkelde, stemde de leiding van het bedrijf ermee in het project te onderbreken. (Project Maven wordt nu beheerd door de Peter Thiel ondersteund Andruil.)
Microsoft ook ervaren arbeidersweerstand tot militair gebruik van zijn augmented reality-tool HoloLens, waarbij sommige werknemers een brief schreven waarin stond dat de sensoren en de verwerking van de headset in handen van het Pentagon gevaarlijk dicht bij een wapencomponent kwamen. De werknemers merkten specifiek op dat zij had HoloLens gebouwd "Om mensen te leren chirurgie uit te voeren of piano te spelen, om de grenzen van gamen te verleggen en om contact te maken met de Mars Rover," dit is allesbehalve een manier om het leger te helpen bij het identificeren van bedreigingen op patrouille.
“En ik denk dat het voor veel mensen die in de technologiesector werken behoorlijk verontrustend is dat, hoewel dat bedrijf aanvankelijk voornamelijk of alleen aan civiele toepassingen van die technologie werkte, nu steeds meer zien dat deze technologieën ook voor militaire doeleinden worden gebruikt projecten of zelfs dodelijke wapens, 'zei Slijper.
Slijper wijst op het Protocol inzake blinde wapens als een manier waarop de internationale gemeenschap een technologie reguleerde met zowel civiele als militaire toepassingen om ervoor te zorgen dat het gebruik ervan binnen de oorlogswetten viel.
Nou, duh. Er is in ieder geval teruggedrongen door werknemers nadat ze hadden bevestigd dat ze werden gebruikt. Maar denk er echt over na. U werkt aan AI-componenten voor bekende door de overheid gecontroleerde en gefinancierde organisaties en u denkt niet dat het belangrijkste punt is om die technologie te bewapenen voor de oorlogsmachine? WAKKER, KINDEREN! Ze geven geen geld uit omdat ze aardig zijn. De hele geschiedenis van het overheid / leger / inlichtingencomplex en wat ze financieren wordt verdoezeld en vergeten door degenen die het niet willen zien.
wpDiscuz
Nou, duh. Er is in ieder geval teruggedrongen door werknemers nadat ze hadden bevestigd dat ze werden gebruikt. Maar denk er echt over na. U werkt aan AI-componenten voor bekende door de overheid gecontroleerde en gefinancierde organisaties en u denkt niet dat het belangrijkste punt is om die technologie te bewapenen voor de oorlogsmachine? WAKKER, KINDEREN! Ze geven geen geld uit omdat ze aardig zijn. De hele geschiedenis van het overheid / leger / inlichtingencomplex en wat ze financieren wordt verdoezeld en vergeten door degenen die het niet willen zien.