Super-AI zou als Coronavirus kunnen ontstaan ​​om de beschaving te vernietigen

Oren EtzioniOren Etzioni
Deel dit verhaal!
Dezelfde technocraten die ons in de eerste plaats AI hebben gebracht, denken nu na of er plotseling een 'super-AI' zou kunnen ontstaan ​​die de beschaving zou vernietigen. Voor een betrouwbaarder antwoord moeten ze Alexa misschien vragen. ⁃ TN-editor

Professor Oren Etzioni, CEO van Allen Institute for AI, gaf een reeks mogelijke waarschuwingssignalen uit die ons zouden waarschuwen dat er 'superintelligentie' om de hoek ligt.

Mensen moeten klaar zijn voor tekenen van robot-superintelligentie, maar moeten voldoende tijd hebben om ze aan te pakken, heeft een topcomputerwetenschapper gewaarschuwd.

Oren Etzioni, CEO van Allen Institute for AI, schreef een recent artikel met de titel: “How to know if kunstmatige intelligentie staat op het punt de beschaving te vernietigen. "

Hij schreef: “Kunnen we op een ochtend met stomheid geslagen wakker worden dat er een superkrachtige AI is ontstaan, met rampzalige gevolgen?

“Boeken als Superintelligence van Nick Bostrom en Life 3.0 van Max Tegmark, evenals recentere artikelen, stellen dat kwaadwillende superintelligentie een existentieel risico vormt voor de mensheid.

'Maar je kunt eindeloos speculeren. Het is beter om een ​​meer concrete, empirische vraag te stellen: wat zou ons erop attent maken dat superintelligentie inderdaad om de hoek is? "

Hij vergeleek waarschuwingsborden met kanaries in kolenmijnen, die werden gebruikt om koolmonoxide te detecteren omdat ze zouden instorten.

Prof Etzioni betoogde dat deze waarschuwingssignalen komen wanneer AI-programma's een nieuwe mogelijkheid ontwikkelen.

Voor MIT Review vervolgde hij: “Zou de beroemde Turing-test als kanarie kunnen dienen? De test, uitgevonden door Alan Turing in 1950, stelt dat AI op menselijk niveau zal worden bereikt wanneer een persoon een gesprek met een mens niet kan onderscheiden van een gesprek met een computer.

“Het is een belangrijke test, maar het is geen kanarie; het is eerder het teken dat AI op menselijk niveau al is gearriveerd.

“Veel computerwetenschappers denken dat als dat moment komt, superintelligentie snel zal volgen. We hebben meer tussenliggende mijlpalen nodig. "

Wel waarschuwde hij dat het 'automatisch formuleren van leerproblemen' de eerste kanarie zou zijn, gevolgd door zelfrijdende auto's.

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

1 Reactie
Oudste
Nieuwste Meest Gestemd
Inline feedbacks
Bekijk alle reacties
elle

Wat is "automatische formulering van leerproblemen"? Ging naar de link maar de site wil informatie die ik niet wilde verstrekken.