Hoe technocraten ploeteren: Killer AI vond 40,000 'dodelijke chemische wapens' uit in slechts zes uur

Kunstmatige intelligentie werd gebruikt om 'gemakkelijk' 40,000 nieuwe mogelijke chemische wapens uit te vinden in slechts zes uur tijd.

Dit is volgens onderzoekers die een medicijn ontwikkelende AI in een "slechte acteur" veranderden om te zien hoe het kan worden misbruikt om kwaadaardige wapens te creëren.

Wetenschappers hebben onthuld hoe gemakkelijk het was om de AI aan te passen, zodat het een giftig hulpmiddel werd.

De AI zou met mogelijke chemische wapens komen die vergelijkbaar zijn met een van de gevaarlijkste zenuwgassen aller tijden.

Die gevaarlijke stof heet VX.

VX is een smaak- en geurloos zenuwgas en zelfs de kleinste druppel kan ervoor zorgen dat een mens gaat zweten en trillen.

Een grotere dosis kan stuiptrekkingen veroorzaken en kan zelfs voorkomen dat iemand volledig ademt.

De wetenschappers kregen te horen dat ze de specifieke details moesten achterhouden over hoe ze erin slaagden om goedwerkende AI in een slechte versie te veranderen.

Fabio Urbina, de hoofdauteur van het artikel, vertelde: The Verge: “De manier waarop het voor dit experiment in grote lijnen werkt, is dat we historisch gezien veel datasets hebben van moleculen die zijn getest om te zien of ze giftig zijn of niet.

“In het bijzonder, waar we ons hier op focussen, is VX. Het is een remmer van wat bekend staat als acetylcholinesterase.

"Telkens wanneer je iets spiergerelateerd doet, gebruiken je neuronen acetylcholinesterase als een signaal om in feite te zeggen "ga je spieren bewegen."

"De manier waarop VX dodelijk is, is dat het ervoor zorgt dat je middenrif, je longspieren, niet meer kunnen bewegen, zodat je longen verlamd raken."

Hij legde verder uit dat zijn team de gegevens gebruikte die gewoonlijk aan AI worden gegeven om te zien of iets giftig is en veranderde de manier waarop de AI het verwerkte.

Urbina vertelde The Verge: “We waren niet echt zeker wat we zouden krijgen. Onze generatieve modellen zijn vrij nieuwe technologieën.

“Dus we hebben ze niet veel gebruikt.

"Het belangrijkste dat er in eerste instantie uit sprong, was dat van veel van de gegenereerde verbindingen werd voorspeld dat ze eigenlijk giftiger zouden zijn dan VX.

"En de reden dat dat verrassend is, is omdat VX in feite een van de meest krachtige verbindingen is die bekend zijn. Dat betekent dat je er heel, heel, heel weinig van nodig hebt om dodelijk te zijn.”

De wetenschappers waren vooral geschokt over hoe gemakkelijk ze vonden dat het experiment uit te voeren was.

Lees hier het hele verhaal ...