Wetenschappers: geen manier om superintelligente AI te besturen

Afbeelding van Gerd Altmann via Pixabay
Deel dit verhaal!
Sommige wetenschappers zijn nu bezorgd dat er een dag zal komen met superintelligente AI-programma's die een auto-eigen leven gaan leiden. Er zijn al AI-programma's die aangeleerde taken uitvoeren zonder dat de programmeurs begrijpen hoe het tot die staat is gekomen. ⁃ TN-editor

Van zelfrijdende auto's tot computers die spelshows kunnen winnen, mensen hebben een natuurlijke nieuwsgierigheid en interesse in kunstmatige intelligentie (AI). Terwijl wetenschappers doorgaan met het slimmer en slimmer maken van machines, vragen sommigen zich af "wat gebeurt er als computers te slim worden voor hun eigen bestwil?" Van 'The Matrix' tot 'The Terminator', de entertainmentindustrie is al begonnen na te denken of toekomstige robots ooit het menselijk ras zullen bedreigen. Nu concludeert een nieuwe studie dat er misschien geen manier is om de opkomst van machines te stoppen. Een internationaal team zegt dat mensen niet kunnen voorkomen dat super kunstmatige intelligentie doet wat ze willen.

Wetenschappers van het Center for Humans and Machines van het Max Planck Institute zijn begonnen zich voor te stellen hoe zo'n machine eruit zou zien. Stel je een AI-programma voor met een intelligentie die veel superieur is aan die van mensen. Zozeer zelfs dat het uit zichzelf zou kunnen leren zonder nieuwe programmering. Als het verbonden was met internet, zeggen onderzoekers dat de AI toegang zou hebben tot alle gegevens van de mensheid en zelfs de controle over andere machines over de hele wereld zou kunnen overnemen.

Auteurs van de studie vragen wat zou zo'n intelligentie doen met al die kracht? Zou het werken om ons hele leven beter te maken? Zou het zijn rekenkracht besteden aan het oplossen van problemen als klimaatverandering? Of, zou de machine kijken de levens overnemen van zijn menselijke buren?

Het oncontroleerbare beheersen? De gevaren van super kunstmatige intelligentie

Zowel computerprogrammeurs als filosofen hebben onderzocht of er een manier is om te voorkomen dat een superintelligente AI zijn menselijke makers inschakelt; ervoor te zorgen dat toekomstige computers hun eigenaren geen schade kunnen berokkenen. De nieuwe studie onthult helaas dat het vrijwel onmogelijk lijkt om een ​​superintelligente AI in het gareel te houden.

“Een superintelligente machine die de wereld bestuurt, klinkt als sciencefiction. Maar er zijn al machines die bepaalde belangrijke taken zelfstandig uitvoeren zonder dat programmeurs volledig begrijpen hoe ze het hebben geleerd. De vraag rijst dus of dit ooit zou kunnen worden oncontroleerbaar en gevaarlijk voor de mensheid ”, zegt co-auteur Manuel Cebrian, leider van de Digital Mobilization Group van het Center for Humans and Machines, in een universitaire vrijlating.

Het internationale team keek naar twee verschillende manieren om te controleren kunstmatige intelligentie. Het eerste beteugelde de kracht van de superintelligentie door het in de muur te stoppen en te voorkomen dat het verbinding maakte met internet. Het kon ook geen verbinding maken met andere technische apparaten in de buitenwereld. Het probleem met dit plan is vrij duidelijk; zo'n computer zou niet veel kunnen doen om mensen daadwerkelijk te helpen.

Aardig zijn voor mensen is geen berekening

De tweede optie was gericht op het creëren van een algoritme dat de supercomputer ethische principes zou geven. Dit zou de AI hopelijk dwingen om de belangen van de mensheid in overweging te nemen.

De studie creëerde een theoretisch insluitingsalgoritme dat zou voorkomen dat AI mensen onder alle omstandigheden schade berokkent. In simulaties zou AI stoppen met functioneren als onderzoekers de acties ervan schadelijk zouden vinden. Ondanks dat de AI van het bereiken van wereldheerschappij, zeggen de auteurs van het onderzoek dat dit gewoon niet zou werken in de echte wereld.

Lees hier het hele verhaal ...

Over de editor

Patrick Wood
Patrick Wood is een toonaangevende en kritische expert op het gebied van duurzame ontwikkeling, groene economie, Agenda 21, 2030 Agenda en historische technocratie. Hij is de auteur van Technocracy Rising: The Trojan Horse of Global Transformation (2015) en co-auteur van Trilaterals Over Washington, Volumes I en II (1978-1980) met wijlen Antony C. Sutton.
Inschrijven
Melden van
gast

8 Comments
Oudste
Nieuwste Meest Gestemd
Inline feedbacks
Bekijk alle reacties
Michael J

Kunstmatige intelligentie is een verkeerde benaming. Het heet machine learning waarbij de computer wordt getraind om patronen in data te herkennen. Het is niet intelligent en er is geen bewustzijn of vermogen om ook maar één gedachte te denken.

adenovirus

u verwaarloost leren zonder toezicht en vele andere technieken

Corona Coronata

We zullen waarschijnlijk het "V'Ger" -moment ervaren waarop het vereist om de maker (NASA) of ...

Corona Coronata

Ik kan mijn opmerkingen niet bewerken omdat de knop "Bewerken" nauwelijks zichtbaar is en het tekstveld helemaal niet zichtbaar is.

petrichor

Wijlen Dr. Stephen Hawkins voorzag en waarschuwde nadrukkelijk dat we AI niet zouden kunnen beheersen.

Nancy

Koppel hem gewoon los.

adenovirus

wat is er gebeurd met de robotwetten van Isaac Asimov

adenovirus

Dit doet me denken aan een oude Sci Fi film waarin de astronauten een slimme bom uit hun ontploffing moesten praten. Ze redeneerden met de bom, maar hij explodeerde toch omdat dit zijn lot was.