Wetenschappers: geen manier om superintelligente AI te besturen

Van zelfrijdende auto's tot computers die spelshows kunnen winnen, mensen hebben een natuurlijke nieuwsgierigheid en interesse in kunstmatige intelligentie (AI). Terwijl wetenschappers doorgaan met het slimmer en slimmer maken van machines, vragen sommigen zich af "wat gebeurt er als computers te slim worden voor hun eigen bestwil?" Van 'The Matrix' tot 'The Terminator', de entertainmentindustrie is al begonnen na te denken of toekomstige robots ooit het menselijk ras zullen bedreigen. Nu concludeert een nieuwe studie dat er misschien geen manier is om de opkomst van machines te stoppen. Een internationaal team zegt dat mensen niet kunnen voorkomen dat super kunstmatige intelligentie doet wat ze willen.

Wetenschappers van het Center for Humans and Machines van het Max Planck Institute zijn begonnen zich voor te stellen hoe zo'n machine eruit zou zien. Stel je een AI-programma voor met een intelligentie die veel superieur is aan die van mensen. Zozeer zelfs dat het uit zichzelf zou kunnen leren zonder nieuwe programmering. Als het verbonden was met internet, zeggen onderzoekers dat de AI toegang zou hebben tot alle gegevens van de mensheid en zelfs de controle over andere machines over de hele wereld zou kunnen overnemen.

Auteurs van de studie vragen wat zou zo'n intelligentie doen met al die kracht? Zou het werken om ons hele leven beter te maken? Zou het zijn rekenkracht besteden aan het oplossen van problemen als klimaatverandering? Of, zou de machine kijken de levens overnemen van zijn menselijke buren?

Het oncontroleerbare beheersen? De gevaren van super kunstmatige intelligentie

Zowel computerprogrammeurs als filosofen hebben onderzocht of er een manier is om te voorkomen dat een superintelligente AI zijn menselijke makers inschakelt; ervoor te zorgen dat toekomstige computers hun eigenaren geen schade kunnen berokkenen. De nieuwe studie onthult helaas dat het vrijwel onmogelijk lijkt om een ​​superintelligente AI in het gareel te houden.

“Een superintelligente machine die de wereld bestuurt, klinkt als sciencefiction. Maar er zijn al machines die bepaalde belangrijke taken zelfstandig uitvoeren zonder dat programmeurs volledig begrijpen hoe ze het hebben geleerd. De vraag rijst dus of dit ooit zou kunnen worden oncontroleerbaar en gevaarlijk voor de mensheid ”, zegt co-auteur Manuel Cebrian, leider van de Digital Mobilization Group van het Center for Humans and Machines, in een universitaire vrijlating.

Het internationale team keek naar twee verschillende manieren om te controleren kunstmatige intelligentie. Het eerste beteugelde de kracht van de superintelligentie door het in de muur te stoppen en te voorkomen dat het verbinding maakte met internet. Het kon ook geen verbinding maken met andere technische apparaten in de buitenwereld. Het probleem met dit plan is vrij duidelijk; zo'n computer zou niet veel kunnen doen om mensen daadwerkelijk te helpen.

Aardig zijn voor mensen is geen berekening

De tweede optie was gericht op het creëren van een algoritme dat de supercomputer ethische principes zou geven. Dit zou de AI hopelijk dwingen om de belangen van de mensheid in overweging te nemen.

De studie creëerde een theoretisch insluitingsalgoritme dat zou voorkomen dat AI mensen onder alle omstandigheden schade berokkent. In simulaties zou AI stoppen met functioneren als onderzoekers de acties ervan schadelijk zouden vinden. Ondanks dat de AI van het bereiken van wereldheerschappij, zeggen de auteurs van het onderzoek dat dit gewoon niet zou werken in de echte wereld.

Lees hier het hele verhaal ...