Newspeak AI: totaal nepnieuws kan internet vernietigen

newspeak
Deel dit verhaal!
image_pdfimage_print
OpenAI is opgericht in 2015 om AI te promoten en te ontwikkelen die de mensheid als geheel ten goede zou komen. In plaats daarvan bouwden ze de meest gevaarlijke denkbare AI die het internet zou kunnen vernietigen en de geest van elke persoon op aarde kon manipuleren.

OpenAI werd oorspronkelijk gedeeltelijk gefinancierd door Elon Musk, een volleerde Technocraat wiens grootvader hoofd was van Technocracy, Inc., in Canada tijdens de 1930's en 40's. ⁃ TN Editor

Een kunstmatig intelligentiesysteem dat realistische verhalen, gedichten en artikelen genereert, is bijgewerkt, waarvan sommigen beweren dat het nu bijna net zo goed is als een menselijke schrijver.

De tekstgenerator, gebouwd door onderzoeksbureau OpenAI, werd oorspronkelijk als "te gevaarlijk" beschouwd om openbaar te maken vanwege het potentieel voor misbruik.

Maar nu is er een nieuwe, krachtigere versie van het systeem uitgekomen - die zou kunnen worden gebruikt om nepnieuws of beledigende spam op sociale media te creëren -.

De BBC besloot, samen met enkele AI-experts, het uit te proberen.

Het model, GPT-2 genaamd, is getraind op een dataset van acht miljoen webpagina's en kan zich aanpassen aan de stijl en inhoud van de oorspronkelijke tekst die eraan wordt gegeven.

Het kan een Shakespeare-gedicht afwerken en artikelen en epithetten schrijven.

Destijds zei het bedrijf: “Vanwege onze zorgen over kwaadaardige toepassingen van de technologie, geven we het getrainde model niet vrij. Als experiment in verantwoorde openbaarmaking brengen we in plaats daarvan een veel kleiner model uit waar onderzoekers mee kunnen experimenteren. "

Als gevolg hiervan had de vrijgegeven versie veel minder parameters - zinnen en zinnen - dan tijdens de training werd gebruikt.

Deze maand besloot OpenAI de parameters uit te breiden en een veel bredere database met trainingsgegevens aan te bieden.

Tech-nieuwssite The Next Web zei over de update: "Deze werkt bijna goed genoeg om te gebruiken als algemene kunstmatige intelligentie voor het genereren van tekst - bijna."

Auteur Tristan Greene voegde toe: Ik ben doodsbang voor GPT-2 omdat het het soort technologie vertegenwoordigt dat kwaadaardige mensen gaan gebruiken om de bevolking te manipuleren - en naar mijn mening maakt dat het gevaarlijker dan welk wapen dan ook. "

De BBC besloot het systeem te testen door de eerste paar zinnen van een recent verhaal in te voeren, passend één over AI.

We zijn begonnen met de eerste zin van het echte verhaal:

De Chinese zoekmachine Sogou maakt lookalikes op basis van kunstmatige intelligentie om populaire romans in de stemmen van auteurs te lezen.

Dit is wat de tekstgenerator heeft bedacht om het te voltooien:

Volgens de onderzoekers is deze manier van lezen niet alleen het geesteskind van Amazon Kindle-gebruikers. Gebruikers van Android-apparaten zijn ook een opmerkelijke markt voor neplezen. Er zijn verschillende theorieën om dit te verklaren.

Ten eerste is het apparaat in de hand van een gebruiker anders dan de tablet of computer waarop ze lezen. Ten tweede kan er op de een of andere manier met het apparaat worden geknoeid dat wordt gebruikt om toegang te krijgen tot internet. Een derde reden is dat de gebruiker inhoud gewoon rechtstreeks in zijn virtuele karakters kan kopiëren en plakken.

Een andere verklaring is echter dat het apparaat helemaal geen spraakherkenningsmogelijkheden heeft. Als dit het geval is, is spraakherkenning geavanceerder dan de vertaalmachine van Google. Als zodanig worden deze gebruikers misleid door te denken dat ze lezen van een echte auteur - het boek klinkt authentiek zodra ze het proberen te lezen.

Nu klik hier om het echte verhaal te lezen ter vergelijking.

Noel Sharkey, professor computerwetenschappen aan de Universiteit van Sheffield, voerde zijn eigen tests op de generator uit en was niet zo onder de indruk.

Man loopt een bar in

“Als de software zou werken zoals bedoeld door Open AI, zou het een erg handig hulpmiddel zijn om gemakkelijk nepnieuws en clickbait-spam te genereren. Gelukkig genereert het in zijn huidige vorm onsamenhangende en belachelijke tekst die weinig verband houdt met de 'headlines' van de input, ”zei hij.

Hij voegde eraan toe: “Ik heb de software getest met talloze koppen en kreeg belachelijke resultaten. Voor 'Kalkoenen haten Kerstmis' bijvoorbeeld, kreeg ik dat 'Turkije het enige land ter wereld is dat geen kerst viert' en een aantal niet-gerelateerde zinnen.

“Voor 'Boris Johnson houdt van de backstop' leverde het onsamenhangende gebrabbel op en wat dingen over AI en sport. Toen ik de verklaring invoerde dat 'Boris Johnson een hekel heeft aan de backstop', kreeg ik een coherenter verhaal dat lijkt te zijn gehaald uit een Google-zoekopdracht. "

Dave Coplin, oprichter van AI consultancy the Envisioners, speelde ook met het systeem en voerde de eerste regel van een klassieke grap in: Een man loopt een bar binnen ...

De suggestie van de AI was niet wat hij verwachtte: “… En bestelde twee pinten bier en twee scotches. Toen hij probeerde de rekening te betalen, werd hij geconfronteerd met twee mannen - van wie er één riep: "Dit is voor Syrië". De man bleef bloeden en werd in de keel gestoken ”.

Deze "overweldigend dystopische weerspiegeling van onze samenleving" was een les in hoe elk AI-systeem de vooringenomenheid in trainingsgegevens zal weerspiegelen, zei hij.

"Uit mijn korte experimenten met het model is vrij duidelijk dat een groot deel van de gegevens is getraind door nieuwsverhalen op internet", zei hij.

Lees hier het hele verhaal ...

INSCHRIJVEN
Melden van
gast
2 Comments
Oudste
Nieuwste Meest Gestemd
Inline feedbacks
Bekijk alle reacties
Jim Reinhart

Als de onderliggende aannames van intelligentie van heuristiek / AI verkeerd zijn, dan zullen alle beslissingen de weg inslaan van de geprogrammeerde domheid om altijd een resultaat te produceren dat nooit zal worden opgelost, omdat mensen niet in staat zijn te werken, denken, handelen buiten hun slavenkooien geprogrammeerd door een stel idioten die niets te maken hadden met het implementeren van zo'n rigide systeem dat geen geweten heeft, ongeacht hoe krachtig de computer of computervariaties van door de mens gemaakte software zijn. Degenen die in dit kamp zijn, geloven in slechts één beste oplossing en kunnen het continuüm van niet identificeren... Lees verder "

elle

Verbazingwekkend. De vervelende krachten op het werk zijn echt hard aan het werk om hun AI Fake New bots in vorm te krijgen voordat de verkiezingsstrijd echt begint.

Krankzinnige asiel Jim? Waar dat is, broer.

De onderliggende waarheid van de AI-dreiging ontsnapt volledig aan de zeer, zeer domme makers / codeerders wiens enige doel is om hun AI-bots op internet en elders te ontketenen. Ze lijken meer op 6-jarige kinderen met een doosje lucifers in een droog bos dan professionals of volwassenen. Er wordt geen aandacht besteed aan de resultaten die van AI zouden kunnen komen, behalve één - die van PROFIT.