Joe Allen: Countdown to Gigadeath – Van AI Arms Race tot Artilect War

Voor echte gelovigen zal kunstmatige intelligentie onvermijdelijk bovenmenselijk worden. Volgens hun mythos zijn we op drift in een goddeloze kosmos. Het is dus aan ons om digitale goden te creëren. Of beter gezegd, het is aan een paar techneuten om ze te maken. De rest van ons kan voor hun altaar knielen of in de afgrond worden geduwd.

Terwijl bots ons leven binnenstromen, groeit de spanning tussen ons en hen. Op sommige dagen voelt het alsof we afstevenen op een gecomputeriseerde rassenoorlog tussen ontluikende cyborgs en oude mensen. Na te veel schermtijd - terwijl mijn synapsen zichzelf herschikken om te passen in de binnenstromende gegevens - is het niet duidelijk tot welke ondersoort ik behoor.

Voor de goede orde, ik ben meer agnostisch dan een ware gelovige. Techneuten doen allerlei loze beloftes. Ze gedijen op het projecteren van mystieke krachten. Toch negeren we hun techno-culturele revolutie op eigen risico.

Technologiebedrijven beschikken over de echte macht van informatiecontrole. Ze vervormen letterlijk het publieke bewustzijn op grote schaal. Aan de militaire kant hebben handhavers de mogelijkheid om je op te blazen vanaf de andere kant van de wereld. Je zou kunnen grinniken dat de Amerikaanse strijdkrachten meer transofficieren hebben gecreëerd dan cyborgsoldaten. Maar als je je AR-15 niet sneller kunt richten dan hun drone kan aanscherpen, giechel je onder een laars vandaan. Kunstmatige intelligentie versterkt dat houvast alleen maar.

In 2018, het Amerikaanse Defense Advanced Research Projects Agency aangekondigd het "richt zijn investeringen op een derde golf van AI die machines voortbrengt die in context kunnen begrijpen en redeneren." De directeur van DARPA's Information Innovation Office, Brian Pierce, is razend enthousiast over een "echte symbiose tussen Homo sapiens en de opkomende Machina sapiens."

Een 2021 wit papier van het Britse Ministerie van Defensie bevestigt: “De kern van toekomstig militair voordeel zal de effectieve integratie zijn van mensen, kunstmatige intelligentie en robotica in oorlogsbestrijdingssystemen – mens-machine teams – die de capaciteiten van mensen en technologieën benutten om onze tegenstanders te overtreffen. ”

China heeft vergelijkbare cyborg ambities. Doe dat ook Rusland en NATO. "Kunstmatige intelligentie is de toekomst", zei Vladimir Poetin beroemd. "Wie de leider op dit gebied wordt, zal de heerser van de wereld worden."

Misschien verspillen de generaals geld aan geekoorlogvoering. Misschien spelen ze gewoon met nieuw speelgoed.

Ik zou er niet op rekenen.

We zien nu al dat smalle AI's menselijke patroonherkenning overtreffen in de specifieke taken waarvoor ze zijn ontworpen: eiwitmodellering, radiologische analyse, slagveldbewaking en doelacquisitie, om er maar een paar te noemen. In dit geval levert de Amerikaanse defensie-aannemer Palantir vrijelijk hun AI aan Oekraïne. Het is een belangrijke reden waarom ze het zo lang hebben volgehouden tegen de grotere Russische strijdkrachten.

"De kracht van geavanceerde algoritmische oorlogssystemen is nu zo groot dat het gelijk staat aan het hebben van tactische kernwapens tegen een tegenstander met alleen conventionele wapens", aldus Alex Karp, CEO van Palantir. vertelde het Washington Post. “Het grote publiek heeft de neiging dit te onderschatten. Onze tegenstanders niet meer.”

In de handen van elite toproofdieren zijn deze digitale tools bloedserieus. Wanneer leiders geen technologie inzetten tegen rivalen, richten ze het op hun eigen burgers. Onthoud dat Clearview AI gezichtsherkenning ingeschakeld de politie om demonstranten van 6 januari op te sporen.

Technologie is macht. Altijd geweest.

Niet iedereen is echter gealarmeerd. Twijfelaars spotten met het begrip 'intelligente' machines. "AI bestaat niet", zeggen ze. "Het is maar een algoritme." “Vuilnis erin, afval eruit.” Meestal zijn het voormalige programmeurs die nog in de jaren 90 leven. Ze herhalen 'garbage in, garbage out' zo vaak dat het lijkt alsof ze geprogrammeerd zijn om het te zeggen.

Deze jongens hebben wel een punt. Een AI is slechts zo goed als het ontwerp van zijn neurale netwerk en de gegevens waarop hij is getraind. In dat opzicht is het niet anders dan bij mensen. Maar als het goed is, is het eng goed. Als een degelijke AI is getraind om bijvoorbeeld bankafschriften te herkennen, kan hij door bergen afval graven en er binnen enkele seconden een vinden, zoals een vuilnisman die in een vuilnisbak duikt om je identiteit te stelen.

De AI die me wakker schudde was AlphaZero, ontwikkeld door Google's DeepMind in 2017. Geprogrammeerd met alleen basisspelregels en het "verlangen" om te winnen, dit neurale netwerk heeft zichzelf geleerd om Go, schaken en een aantal videogames in slechts enkele uren te spelen. De beheersing van Go is bijzonder belangrijk. Decennia lang beweerden sceptici dat geen enkele computer dit oude Chinese spel zou begrijpen. De complexiteit van Go, beweerden ze, vereist een diepe intuïtie die alleen mensen bezitten. Dat bleek wishful thinking te zijn.

AlphaZero bedenkt, net als zijn voorganger AlphaGo, effectieve strategieën waar nog nooit een mens aan heeft gedacht. En het meest alarmerend, deze digitale geesten verpletteren menselijke meesters in hun eigen spel. Als mensen enig verstand hadden gehad, hadden ze meteen de stekker eruit getrokken. Op alles. Maar je weet wat ze zeggen: "Je kunt de vooruitgang niet stoppen."

De volgende stap is combineren deze beperkte cognitieve vermogens tot een enkel 'kunstmatig brein'. Dit kunstmatige algemene intelligentie (AGI) zou flexibel genoeg zijn om van het ene domein naar het andere te gaan, of verschillende modules tegelijk uit te voeren, om echte problemen op te lossen.

In theorie zou je elke combinatie van vermogens aan elkaar kunnen lijmen - gezichtsherkenning, natuurlijke taalverwerking, sociale modellering, robotbesturingssystemen, esthetische algoritmen - alles wat je maar wilt in een robotbrein. De machine zou de mens waarschijnlijk op al deze gebieden overtreffen. Maar welke combinatie je ook bedacht, het zou niet volledig menselijk zijn. Noch zou het onze waarden of ervaring van de wereld delen. Het zou een blind, misvormd kind zijn, geëtst in silicium, maar met een voortreffelijke cognitieve kracht, net als de gnostische demiurg.

Voor transhumanisten zal de komst van een zelfverbeterende AGI een "uniek moment in de geschiedenis" markeren - de Eigenaardigheid. Vanaf daar zijn legacy-mensen gewoon mee voor de rit. Als we geluk hebben.

Dat is in ieder geval de droom. En grote bedrijven als DeepMind en OpenAI, evenals hun Chinese tegenhangers Baidu en Tencent, zijn dat ook Racing om een ​​of andere versie werkelijkheid te maken. Hun CEO's houden de belofte in van een digitale utopie, of een benadering. Ze hebben liever dat je je gewoon ontspant en geen vragen stelt.

Er zijn echter een paar alarmisten die zeggen dat op hol geslagen AI de vernietiging van het menselijk ras zou kunnen betekenen. Omdat we verloskundigen zijn van AGI, adviseren ze, is het onze centrale taak om deze jonge computergod te leren welwillend te zijn - om zijn waarden op één lijn te brengen met die van ons. Anders worden we tot slaaf gemaakt of sterven we. Ze noemen dit het 'AI-uitlijningsprobleem'. Terwijl verschillende facties vechten over hoe "ontwaakt" of "gebaseerd" ChatGPT mag zijn, ziet het er behoorlijk grimmig uit.

Vreemd genoeg komen enkele van de luidste alarmoproepen van degenen die aan AGI werken. Ze omvatten Sam Altman en Elon Musk (OpenAI), Demis Hassabis (DeepMind), en opererend vanuit China, Ben Goertzel (SingularityNET) en de gekke profeet van de technocalyps, Hugo de Garis (Xiamen University).

De Oxford-transhumanist Nick Bostrom, auteur van het boek uit 2014, legde de betekenis uit voor het rijden met een Tesla TED-publiek:

Het potentieel voor superintelligentie ligt sluimerend in de materie, net zoals de kracht van het atoom in de hele geschiedenis van de mensheid sluimerend heeft gewacht, tot 1945. In deze eeuw kunnen wetenschappers leren de kracht van kunstmatige intelligentie te doen ontwaken. En ik denk dat we dan een intelligentie-explosie kunnen zien.

Ongeacht de existentiële risico's, beweren deze mannen, zal elk land dat AI niet omarmt, achterblijven bij degenen die dat wel doen. Dezelfde dynamiek geldt voor individuen en organisaties die binnen naties met elkaar concurreren. In een digitaal ecosysteem is het de overleving van de sterkste cyborgs, met AI als een mythische Ring of Power.

Van alle toekomsten die door transhumanisten worden geprojecteerd, degene die door Hugo de Garis is opgeroepen, is de meest gruwelijke. Het is ook de meest eerlijke. Velen in Silicon Valley geloven dat bovenmenselijke machine-intelligentie zal leiden tot "radicale overvloed" en grenzeloze kennis over het universum. Als natuurkundige en robotbouwer gelooft De Garis dat al deze dingen zullen gebeuren.

Hij profeteert echter ook dat het creëren van "artilects" - een afkorting van "artificial intellects"; in feite zal AGI waarschijnlijk leiden tot de vernietiging van de mensheid. Misschien hebben deze digitale goden niets aan ons en verpletteren ze ons als beestjes. Of net zo waarschijnlijk, betoogt De Garis, zal er een "gigadeath" -gebeurtenis plaatsvinden als mensen vechten over het al dan niet creëren ervan. Dat betekent dat miljarden in een oogwenk sterven.

“De vraag die 21 zal domineren^st wereldpolitiek van de eeuw zal zijn: 'Wie of wat zou de dominante soort op de planeet moeten zijn, artilecten of menselijke wezens?'” Dit brengt hem ertoe een verontrustende, zij het verwarrend geformuleerde slogan te formuleren: “Do we build gods, or do we build our potentiële verdelgers?”

De Garis bedenkt gekke nieuwe woorden als een weerbarstige Scrabble-speler en onderzoekt dit conflict in zijn boek uit 2005. Hij verwacht dat het binnen een paar generaties losbarst. “Deze oorlog zal de meest destructieve wapens gebruiken die ooit zijn bedacht, gebaseerd op eind 21^st eeuw wetenschap en technologie.”

We hebben het over superkernwapens en door AI ontworpen biowapens: een donkere horizon vol robotachtige hellehonden en zwermen nanobots.

De Artilect-oorlog zal worden uitgevochten tussen de 'Terrans', die zouden doden om de organische mensheid te behouden, en de 'Cosmists', wiens religieuze toewijding om voorwerpen te bouwen zo intens is, dat ze bereid zijn te sterven voor deze vergoddelijking. Sterker nog, ze zullen bereid zijn om te zien iedereen sterf ervoor:

In de 20^th eeuw hebben de nazi's 20 miljoen Russen uitgeroeid, de Japanners 20 miljoen Chinezen vermoord, Stalin 30 miljoen gedood tijdens zijn zuiveringen en Mao heeft 50 miljoen Chinese boeren uitgehongerd. Dit behoren tot de grootste misdaden in de geschiedenis, maar ze verbleken in vergelijking met de omvang van de tragedie als ooit de artilecten besluiten de mensheid uit te roeien. De tragedie zou totaal zijn in die zin dat er geen mensen meer zouden zijn die rouwen om het verdwijnen van de soort.

Zoals De Garis opmerkt, is het verbazingwekkend dat een mens zo'n doel zou nastreven, wetende dat er miljarden zouden kunnen worden afgeslacht. Maar voor kosmisten is het creëren van bovenmenselijke machines een religieuze zoektocht die verder gaat dan goed en kwaad. In de traditie van gekke wetenschappers die gekweld worden door schuldgevoelens, plaatst de Garis zichzelf in het laatste kamp, ​​verdomd verdoemd:

Mijn uiteindelijke doel is om de mensheid, of in ieder geval een deel van de mensheid, kosmisch te zien worden en dit met succes te doen door echt goddelijke artilecten te bouwen die boven onze nietige menselijke intellectuele en andere vermogens uittorenen.

Een sleutelbegrip in De Artilectenoorlog is "soortdominantie." Na kunstmatig leven te hebben gecreëerd, confronteert de mensheid een nieuwe evolutionaire concurrent. Terwijl sommige mensen samensmelten met het digitale leven als lintwormen in een mecha-darm, zal de mensheid zich splitsen in ondersoorten: botzuigende cyborgs en 'nietige' mensen.

Samen met soortvorming komt concurrentie. Op basis van politieke en evolutietheorie zegt De Garis dat er maar zoveel ruimte is bovenop de stronthoop. Omdat gelijkheid in de natuur niet bestaat, is dominantie van soorten onvermijdelijk. Met de menselijke geschiedenis als leidraad betekent dat geweld.

Zal de toppositie worden ingenomen door computers met een hoog IQ die in een baan om de planeet draaien en "sneller en beter zijn dan mensen met factoren van biljoen biljoenen"?

Of wordt het bezet door de kosmisten die deze machines bouwen en inzetten?

Of zullen Terrans deze transmenselijke sekte doden en teruggaan naar beukende trommels in het bos?

Het lijkt waarschijnlijk dat we in een nucleaire oorlog met Rusland of China terechtkomen, waardoor we deze artilectoorlog helemaal kunnen besparen. Er is genoeg gigadeath om rond te gaan zonder een Super Computer God.

Maar als we erin slagen om elkaar niet in ruimtestof te storten, zou het kunnen zijn dat rivaliteit tussen supermachten de technologische evolutie - vooral militaire technologie - zal aandrijven in de richting van iets dat lijkt op de visie van De Garis. Zie het als een singulariteit met een knal.

In werkelijkheid, het belang van de nachtmerrie van Hugo de Garis kan zijn invloed zijn op de Chinese technologiecultuur. Van 2006 tot 2010 voltooide hij zijn professionele carrière in China, eerst aan de universiteit van Wuhan en vervolgens aan het hoofd van het Artificial Brain Lab aan de universiteit van Xiamen. Tot de pandemie liep zijn naaste collega Ben Goertzel SingularityNET uit Hongkong. Dit AGI-project functioneerde in samenwerking met Hanson Robotica- nog steeds gevestigd in Hong Kong - wiens robot Sophia wordt verheven als een transhumane godin op het wereldtoneel.

De omvang van de overdracht van technologie aan de Chinese Communistische Partij is onbekend. Maar het is redelijk om aan te nemen dat de Garis en Goertzel, ongeacht hun bedoelingen, hebben bijgedragen aan het streven van China om de VS te overtreffen op het gebied van kunstmatige intelligentie. Deze ambitie omvat het koppelen van menselijke hersenen aan AI en het creëren van kunstmatige algemene intelligentie – met het oog op militaire toepassingen.

Het PRISM-volume van november 2021, gepubliceerd door de National Defense University in DC, bevat een opzienbarend onderzoeksdocument, “China's 'Nieuwe Generatie' AI-Brain Project.” Het lijdt geen twijfel dat de transmenselijke impuls door de Chinese ziel loopt. De auteurs citeren een vooraanstaande CCP-onderzoeker, Xu Bo, die spreekt tot de officiële krant van het Ministerie van Wetenschap en Technologie:

Zoals secretaris-generaal Xi Jinping opmerkte in de gezamenlijke studie van het Politburo, moet onderzoek naar kunstmatige intelligentie "onbemande gebieden" verkennen. Op het gebied van zwermintelligentie, mens-machine hybride intelligentie en autonome intelligentie zijn er grote onbemande gebieden die verkend moeten worden. … Wij geloven dat autonome evolutie een brug is van zwakke kunstmatige intelligentie naar algemene kunstmatige intelligentie.

Of, zoals de decaan van de Beijing Academy of Artificial Intelligence, Huang Tiejun, vertelde op een Future of Life-conferentie:

Ons menselijk ras bevindt zich nog maar in één fase. Waarom stoppen? De mens evolueert te langzaam. Het is voor mensen onmogelijk te vergelijken met op machines gebaseerde superintelligentie. Het zal vroeg of laat gebeuren, dus waarom wachten? Zelfs vanuit het perspectief van menselijk centrisme of menselijk exceptionisme is superintelligentie nodig om de grote uitdagingen aan te gaan die we niet kunnen doorgronden. Daarom steun ik het idee.

De auteurs van de PRISM-paper vertalen verklaringen van het hele Chinese tech-establishment en merken droogjes op: "Andere dergelijke voorspellingen zijn gemeengoed."

De toekomst ziet er somber uit, maar de mogelijkheden zijn nog wijd open. Nogmaals, ik zit ergens tussen de twijfelaars en de ware gelovigen - en ik geef toe, het is een lauwe heg.

Net als smartphones of internet, zal AI nooit uitkomen zoals geadverteerd. Technologische evolutie is een verhaal van onverwachte bugs en onbedoelde gevolgen. Het staat bol van opgepompte aandelen, overdreven gehypte overheidscontracten en overgefinancierde academische projecten.

Er zijn (nog) geen vliegende auto's. Van koude kernfusie is (nog) geen sprake. Er zijn geen mind control nanobots (toch?).

Toch weigert alleen een dwaas te zien dat smartphones en internet de biologische cultuur hebben vernietigd. Hetzelfde geldt voor massasurveillance en oorlogsvoering met drones. Welke vorm AI uiteindelijk ook aanneemt, ik ben ervan overtuigd dat het vergelijkbare gevolgen zal hebben, zo niet erger.

Het kan zijn dat AI-chatbots en virtuele seksslaven sommige mensen uit de werkelijkheid halen, waardoor ze nog krankzinniger worden dan ze al zijn. Of het kan zijn dat een leger van AI-verbeterde, genetisch gemodificeerde, gechipte cyborgs neerdaalt op wolken van nanobots om een ​​rassenoorlog te voeren tegen wat er nog over is van legacy-mensen.

De tijd zal het leren. Houd je aluminiumfolie strak en je kruit droog. En zet in godsnaam je smartphone uit. Zo pakken ze je.

Lees hier het hele verhaal ...