Toekomstige schok: AI-vooruitgang neigt naar verticale versnelling

Dark Forest

"Het spijt me u te moeten vertellen, maar er zijn geen buitenaardse wezens", zei de inlichtingenanalist.

"De Tic Tac-video's, ballonnen, UFO's - het zijn geen buitenaardse wezens," zei hij. "We zijn hier helemaal alleen, wij zijn het alleen."

Voor degenen onder ons die Cixin Liu lezen, China's briljante scifi-auteur, is het idee dat we alleen zijn buitengewoon geruststellend. Cixin bracht me op de Dark Forest-hypothese, die veronderstelt dat hoewel er misschien veel buitenaardse beschavingen zijn, we geen teken van hen zien omdat ze stil en paranoïde zijn, anders waarschuwen ze anderen voor hun bestaan ​​en uitnodigen tot invasie, vernietiging. 

"Wat we zien is onze volgende generatie militaire technologie," vervolgde de inlichtingenanalist.

"We zien allemaal wat de Oekraïners met het Russische leger hebben gedaan door technologie op het slagveld te gebruiken die we over het algemeen als achterhaald beschouwen in verhouding tot onze stand van de techniek", zei hij. "Maar Amerika's actuele stand van zaken is één of twee generaties vooruit op wat het publiek vandaag ziet", zei hij, die zowel geruststellend als angstaanjagend was.

"Het is niet in ons belang om onze tegenstanders te laten zien hoe ver onze capaciteiten zijn gegroeid."

"Kijk goed naar deze grafiek", zei de technologie-investeerder.

Het was het soort curve dat ik vaak heb gezien, een opwaartse trend die in de loop van de tijd versnelt. Op de verticale as stond de rekenkracht die werd gebruikt om kunstmatige-intelligentiesystemen te trainen. De horizontale as was tijd, die teruggaat tot het begin van de jaren vijftig. 'Ik weet dat je denkt dat je dit soort kaarten eerder hebt gezien, het is een klassieke hockeystick. Maar hier is het punt, het is een logaritmische grafiek, het mag niet naar boven buigen. Dit soort groei is voor het menselijk brein bijna onmogelijk te bevatten.”

ChatGPT heeft de sterkste acceptatie van welke technologie dan ook in de geschiedenis gehad. Het bereikte 1 mm gebruikers in vijf dagen. Binnen 2 maanden waren er 100 mm gebruikers. Naar schatting zullen er tegen het einde van het jaar 1 miljard gebruikers zijn. Het is een opmerkelijke technologie, en hoewel we geen zekerheid kunnen hebben over hoe het de wereld zal veranderen, lijdt het geen twijfel dat de boog van zijn invloed nog maar net begint. Overheden zullen ver achterblijven bij het reguleren ervan. We weten nog niet wat er zal gebeuren als het wordt verbonden met internet. En ChatGPT loopt 2-3 generaties achter op de modernste AI.

“Tijd is het enige dat niet kan worden gestopt. Als een scherp mes snijdt het geruisloos door hard en zacht, voortdurend vooruit. Niets kan het ook maar een klein beetje schokken, maar het verandert alles”, schreef Cixin Liu in The Dark Forest. “In leven blijven is niet genoeg om te overleven. Ontwikkeling is de beste manier om te overleven”, zegt Cixin. 'Weet je wat de grootste uiting van respect voor een ras of beschaving is? Vernietiging. Dat is het hoogste respect dat een beschaving kan krijgen. Ze zouden zich alleen bedreigd voelen door een beschaving die ze echt respecteren.”

Lees hier het hele verhaal ...