Uitvinder van het internet: een ramp dreigt wanneer AI de economie runt

De architect van het world wide web, Sir Tim Berners-Lee, sprak vandaag over enkele van zijn zorgen over het internet in de komende jaren, waaronder een nachtmerrieachtig scenario waarin kunstmatige intelligentie (AI) de nieuwe 'meesters van het universum' zou kunnen worden door te creëren en het runnen van hun eigen bedrijven.

Masters of the universe is een verwijzing naar de roman The Bonfire of the Vanities uit 1987 van Tom Wolfe, over de mannen (en dat waren mannen) die salarissen van meerdere miljoenen dollars begonnen te verdienen en veel invloed van hun financiële rollen op Wall Street en in Londen tijdens de geautomatiseerde handelsboom vóór Black Monday.

Spreken op de Innovate Finance Global Summit vandaag heeft Berners-Lee een wereld voor ogen waarin AI-systemen besluitvormingsmogelijkheden gaan ontwikkelen en de impact hiervan op de billijkheid van onze economische systemen.

Hij legde het scenario uit waarin AI kon beslissen welke bedrijven ze wilden overnemen en bracht dit tot de logische conclusie: “Dus als AI beslissingen begint te nemen, zoals wie een hypotheek krijgt, is dat een grote. Of welke bedrijven moeten worden overgenomen en wanneer AI zijn eigen bedrijven begint te creëren, houdstermaatschappijen creëert, nieuwe versies van zichzelf genereert om deze bedrijven te runnen.

"Dus je hebt survival of the fittest aan de gang tussen deze AI-bedrijven totdat je het punt bereikt waarop je je afvraagt ​​of het mogelijk wordt om te begrijpen hoe je ervoor kunt zorgen dat ze eerlijk zijn, en hoe beschrijf je dit aan een computer wat betekent dat eigenlijk? "

Hoewel het moeilijk voor te stellen is dat er te veel tranen worden gestort over het verlies van de besluitvormers verantwoordelijk voor de 2007-crash, dreigt het scenario een hele industrie teniet te doen en roept het serieuze vragen op over hoe eerlijk een financieel systeem zonder menselijke betrokkenheid kan zijn.

Dit is vergelijkbaar met de angst die onlangs door AI-scepticus Elon Musk is aangelegd Vanity Fair: “Stel dat je een zelfverbeterende AI creëert om aardbeien te plukken en dat het steeds beter wordt in het plukken van aardbeien en steeds meer plukt en het zichzelf verbetert, dus alles wat het echt wil is aardbeien plukken. Dus dan zou de hele wereld aardbeienvelden zijn. Aardbeienvelden voor altijd. " Geen ruimte voor mensen.

Berners-Lee was vorige week de ontvanger van de AM Turing-prijs van de Association for Computing Machinery en hij heeft de media in de schijnwerpers gezet om kritiek te leveren op het terugdraaien van netneutraliteitsbescherming door de Trump-regering in een interview met The Guardian.

Berners-Lee ook recent een brief gepubliceerd op de 28e verjaardag van het world wide web, met details over wat hij beschouwt als de drie belangrijkste uitdagingen voor het web: verlies van controle over persoonlijke gegevens, de verspreiding van verkeerde informatie op het web en de behoefte aan transparantie met online politieke reclame

Lees hier het hele verhaal ...