Wat mensen onderscheidt van machines, is de snelheid waarmee we van onze omgeving kunnen leren.
Maar wetenschappers hebben met succes computers getraind om kunstmatige intelligentie te gebruiken om van ervaring te leren - en op een dag zouden ze slimmer kunnen zijn dan hun makers.
Nu hebben wetenschappers toegegeven dat ze al verbijsterd zijn door de mechanische hersenen die ze hebben gebouwd, waardoor het vooruitzicht wordt gewekt dat we de controle over hen helemaal zouden kunnen verliezen.
Computers voeren al ongelooflijke prestaties uit - zoals autorijden en het voorspellen van ziekten - maar hun makers zeggen dat ze hun creaties niet helemaal onder controle hebben.
Dit kan catastrofale gevolgen hebben voor de beschaving, hebben technische experts gewaarschuwd.
Neem de vreemde auto zonder bestuurder die vorig jaar in de straten van New Jersey, VS verscheen.
Het verschilde van de autonome voertuigen van Google, Tesla of Uber, die de regels volgen die door technische ontwikkelaars zijn ingesteld om onderweg op scenario's te reageren.
Deze auto kon zijn eigen beslissingen nemen nadat hij had gezien hoe mensen leerden autorijden.
En de makers, onderzoekers van chipfabrikant Nvidia (die enkele van de grootste autofabrikanten voorziet van supercomputerchips), zeiden dat ze niet 100 procent zeker wisten hoe het dat deed, MIT Technology Review gemeld.
Zijn mysterieuze geest kan een teken zijn van donkere tijden, vrezen sceptici.
De onderliggende technologie van de auto, "deep learning" genoemd, is een krachtig hulpmiddel voor het oplossen van problemen.
Het helpt ons onze vrienden op Facebook te taggen, biedt hulp op onze smartphones met Siri, Cortana of Google.
Door diepgaand leren zijn computers beter geworden in het herkennen van objecten dan een persoon.
Het leger giet miljoenen in de technologie, zodat het kan worden gebruikt om schepen te sturen, drones te besturen en doelen te vernietigen.
En er is hoop dat het in staat zal zijn om dodelijke ziekten te diagnosticeren, handelaren miljardairs te maken door de aandelenmarkt te lezen en de wereld waarin we leven volledig te transformeren.
Maar als we er niet voor zorgen dat makers een volledig begrip hebben van hoe het werkt, zitten we diep in de problemen, beweren wetenschappers.
Als ze niet kunnen achterhalen hoe de algoritmen (de formules die ervoor zorgen dat computers de taken uitvoeren die we van hen vragen) werken, kunnen ze niet voorspellen wanneer ze falen.
Tommi Jaakkola, een professor aan het MIT die werkt aan toepassingen van machine learning waarschuwt: "Als je een heel klein neuraal netwerk [deep learning algoritme] had, zou je het misschien kunnen begrijpen."
"Maar zodra het erg groot wordt, en het heeft duizenden eenheden per laag en misschien honderden lagen, dan wordt het vrij onbegrijpelijk."
Dat betekent dat een auto zonder bestuurder, zoals Nvidia, de kop in een boom zou kunnen vliegen en we zouden geen idee hebben waarom hij besloten had om dat te doen.
wpDiscuz