Wanneer taal-AI de propaganda ontmoet, is niemand veilig

via InsiderPaper
Deel dit verhaal!
Wanneer AI intelligente en boeiende artikelen en verhalen kan genereren, zal er geen limiet zijn aan de hoeveelheid propaganda die kan worden uitgespuwd. Bovendien, wanneer deze AI is gekoppeld aan uw profielgegevens. dat propaganda specifiek voor u kan worden gemaakt. Een belangrijke leerbron? Wikipedia. ⁃ TN-editor

Je zit in een comfortabele stoel bij het vuur, op een koude winternacht. Misschien heb je een mok thee in de hand, misschien iets sterkers. Je slaat een tijdschrift open bij een artikel dat je wilde lezen. De titel suggereerde een verhaal over een veelbelovende - maar ook potentieel gevaarlijke - nieuwe technologie die op het punt staat mainstream te worden, en na het lezen van slechts een paar zinnen, merk je dat je in het verhaal wordt getrokken. Er komt een revolutie op het gebied van machine-intelligentie, stelt de auteur, en we moeten als samenleving beter worden in het anticiperen op de gevolgen ervan. Maar dan gebeurt het vreemdste: je merkt dat de schrijver schijnbaar opzettelijk het allerlaatste woord van het eerste heeft weggelaten.

Het ontbrekende woord springt bijna ongevraagd in je bewustzijn: ''het allerlaatste woord van het eerste'' paragraaf.'' Je hebt geen idee van een interne zoekopdracht; het woord ''paragraaf'' springt er gewoon uit. Het lijkt misschien een tweede natuur, deze oefening om de lege plekken in te vullen, maar als je het doet, denk je aan de ingebedde kennislagen achter de gedachte. Je moet de spelling en syntactische patronen van het Engels beheersen; je moet niet alleen de woordenboekdefinities van woorden begrijpen, maar ook de manier waarop ze zich tot elkaar verhouden; je moet voldoende bekend zijn met de hoge normen van het publiceren van tijdschriften om aan te nemen dat het ontbrekende woord niet zomaar een typfout is, en dat redacteuren over het algemeen niet geneigd zijn sleutelwoorden weg te laten in gepubliceerde stukken, tenzij de auteur probeert slim te zijn - misschien in een poging om gebruik het ontbrekende woord om een ​​punt te maken over jouw slimheid, hoe snel kan een menselijke spreker van het Engels precies het juiste woord toveren.

Voordat je dat idee verder kunt nastreven, ben je terug in het artikel, waar je merkt dat de auteur je naar een gebouwencomplex in een buitenwijk van Iowa heeft gebracht. In een van de gebouwen bevindt zich een wonder van moderne technologie: 285,000 CPU-kernen samengevoegd tot één gigantische supercomputer, aangedreven door zonnepanelen en gekoeld door industriële ventilatoren. De machines slapen nooit: elke seconde van elke dag doorlopen ze ontelbare berekeningen, gebruikmakend van de modernste technieken in machine-intelligentie, met namen als 'stochastische gradiëntafdaling' en 'convolutionele neurale netwerken'. Het hele systeem wordt beschouwd als een van de krachtigste supercomputers ter wereld.

En wat, vraag je je misschien af, doet deze computationele dynamo met al deze wonderbaarlijke bronnen? Meestal speelt het een soort spel, steeds weer, miljarden keren per seconde. En het spel heet: Raad eens wat het ontbrekende woord is.

Het supercomputercomplex in Iowa voert een programma uit dat is gemaakt door OpenAI, een organisatie die eind 2015 is opgericht door een handvol beroemdheden uit Silicon Valley, waaronder Elon Musk; Greg Brockman, die tot voor kort chief technology officer was van de e-payment-gigant Stripe; en Sam Altman, destijds voorzitter van de start-up incubator Y Combinator. In de eerste paar jaar, toen het zijn programmeerbreinvertrouwen opbouwde, werden de technische prestaties van OpenAI grotendeels overschaduwd door de sterrenkracht van zijn oprichters. Maar dat veranderde in de zomer van 2020, toen OpenAI beperkte toegang begon te bieden tot een nieuw programma genaamd Generative Pre-Trained Transformer 3, in de volksmond GPT-3 genoemd. Hoewel het platform aanvankelijk alleen beschikbaar was voor een klein handjevol ontwikkelaars, begonnen er voorbeelden van GPT-3's griezelige vaardigheid met taal - en in ieder geval de illusie van cognitie - te circuleren over het web en via sociale media. Siri en Alexa hadden de ervaring van het praten met machines gepopulariseerd, maar dit was op het volgende niveau, en benaderde een vloeiendheid die leek op creaties uit sciencefiction zoals HAL 9000 uit "2001": een computerprogramma dat complexe open vragen perfect kan beantwoorden in perfect samengestelde zinnen.

Als vakgebied is AI momenteel gefragmenteerd over een aantal verschillende benaderingen, gericht op verschillende soorten problemen. Sommige systemen zijn geoptimaliseerd voor problemen die te maken hebben met het verplaatsen door de fysieke ruimte, zoals in zelfrijdende auto's of robotica; anderen categoriseren foto's voor u, identificeren bekende gezichten of huisdieren of vakantie-activiteiten. Sommige vormen van AI - zoals AlphaFold, een project van de Alphabet (voorheen Google) dochteronderneming DeepMind - beginnen complexe wetenschappelijke problemen aan te pakken, zoals het voorspellen van de structuur van eiwitten, wat centraal staat bij het ontwerpen en ontdekken van geneesmiddelen. Veel van deze experimenten delen een onderliggende benadering die bekend staat als ''deep learning'', waarbij een neuraal net, vaag gemodelleerd naar de structuur van het menselijk brein, leert patronen te identificeren of problemen op te lossen door middel van eindeloos herhaalde cycli van vallen en opstaan, waardoor neurale verbindingen worden versterkt. en anderen verzwakken door middel van een proces dat bekend staat als training. De ''diepte'' van deep learning verwijst naar meerdere lagen kunstmatige neuronen in het neurale net, lagen die overeenkomen met steeds hogere abstractieniveaus: in een op visie gebaseerd model kan een laag neuronen bijvoorbeeld verticale lijnen detecteren , die vervolgens zou worden ingevoerd in een laag die randen van fysieke structuren detecteert, die vervolgens zouden rapporteren aan een laag die huizen identificeerde in tegenstelling tot appartementsgebouwen.

GPT-3 behoort tot een categorie van diep leren die bekend staat als een groot taalmodel, een complex neuraal netwerk dat is getraind op een gigantische dataset tekst: in het geval van GPT-3, ongeveer 700 gigabyte aan gegevens afkomstig van internet, waaronder Wikipedia, aangevuld met een grote verzameling tekst uit gedigitaliseerde boeken. GPT-3 is het meest gevierde van de grote taalmodellen en het meest openbaar beschikbare, maar Google, Meta (voorheen bekend als Facebook) en DeepMind hebben de afgelopen jaren allemaal hun eigen LLM's ontwikkeld. Vooruitgang in rekenkracht - en nieuwe wiskundige technieken - hebben LLM's van GPT-3's vintage in staat gesteld om veel grotere datasets op te nemen dan hun voorgangers, en veel diepere lagen kunstmatige neuronen te gebruiken voor hun training.

De kans is groot dat je al met een groot taalmodel hebt gewerkt als je ooit een toepassing hebt gebruikt, zoals Gmail, die een functie voor automatisch aanvullen bevat, waarbij je voorzichtig het woord ''bijwonen'' wordt gevraagd nadat je de zin hebt getypt ''Helaas heb ik gewonnen' kan niet...' Maar automatisch aanvullen is slechts de meest rudimentaire uitdrukking van waartoe software als GPT-3 in staat is. Het blijkt dat met voldoende trainingsgegevens en voldoende diepe neurale netwerken grote taalmodellen opmerkelijke vaardigheden kunnen vertonen als je ze niet alleen vraagt ​​om het ontbrekende woord in te vullen, maar ook om door te gaan met het schrijven van hele alinea's in de stijl van de eerste prompt. Toen ik bijvoorbeeld GPT-3 de prompt gaf:

In 1958 introduceerde Frank Rosenblatt de Perceptron, een vroege versie van een neuraal net dat alleen de locatie van een vierkant op een gedrukte kaart kon detecteren. Vijftig jaar later zijn neurale netten in staat om . . .

De software voltooide plichtsgetrouw de gedachte en ging toen verder, waarbij hij de historische framing van de oorspronkelijke tekst oppikte:

. . . het detecteren en classificeren van gezichten, het vinden van patronen in gegevens en het nabootsen van het menselijk brein. Terwijl het neurale net volwassen werd in de academische wereld, vond het ook zijn weg naar de technische industrie. Eind jaren tachtig en begin jaren negentig werden neurale netwerken gebruikt in toepassingen voor spraakherkenning en tekenherkenning. Door de groei in rekenkracht en de mogelijkheid om grotere datasets te verzamelen, konden andere neurale netwerktoepassingen ontstaan.

Sinds de release van GPT-3 is het internet overspoeld met voorbeelden van de griezelige vaardigheid van de software met taal - samen met zijn blinde vlekken en zwakheden en andere meer sinistere neigingen. GPT-3 is getraind om Hollywood-scripts te schrijven en non-fictie te componeren in de stijl van Gay Talese's New Journalism-klassieker ''Frank Sinatra Has a Cold''. Je kunt GPT-3 gebruiken als een gesimuleerde kerkermeester, die uitgebreide op tekst gebaseerde avonturen uitvoert door werelden die on-the-fly worden uitgevonden door het neurale net. Anderen hebben de software-prompts gevoed die duidelijk aanstootgevende of waanvoorstellingen genereren, waarbij ze de beperkingen van het model en zijn potentieel voor schade demonstreren als het in de huidige staat op grote schaal wordt toegepast.

Tot dusverre waren de experimenten met grote taalmodellen meestal dat: experimenten waarbij het model werd onderzocht op tekenen van ware intelligentie, het creatieve gebruik ervan werd onderzocht en de vooroordelen werden blootgelegd. Maar het uiteindelijke commerciële potentieel is enorm. Als het bestaande traject doorgaat, kan software zoals GPT-3 de komende jaren een revolutie teweegbrengen in de manier waarop we naar informatie zoeken. Als u vandaag een ingewikkelde vraag heeft over iets - hoe u uw thuisbioscoopsysteem bijvoorbeeld instelt, of wat de opties zijn om een ​​529-onderwijsfonds voor uw kinderen te creëren - typt u hoogstwaarschijnlijk een paar trefwoorden in Google en bladert u door een lijst met links of voorgestelde video's op YouTube, waarbij je alles doorloopt om de exacte informatie te krijgen die je zoekt. (Onnodig te zeggen dat je er niet eens aan zou denken om Siri of Alexa te vragen om je door zoiets ingewikkelds heen te leiden.) Maar als de echte GPT-3-gelovigen gelijk hebben, stel je in de nabije toekomst gewoon een LLM de vraag en krijg je het antwoord teruggekoppeld, overtuigend en nauwkeurig. Klantenservice kan volledig worden getransformeerd: elk bedrijf met een product waarvoor momenteel een menselijk technisch ondersteuningsteam nodig is, kan een LLM opleiden om ze te vervangen.

Lees hier het hele verhaal ...

Over de editor

Patrick Wood
Patrick Wood is een toonaangevende en kritische expert op het gebied van duurzame ontwikkeling, groene economie, Agenda 21, 2030 Agenda en historische technocratie. Hij is de auteur van Technocracy Rising: The Trojan Horse of Global Transformation (2015) en co-auteur van Trilaterals Over Washington, Volumes I en II (1978-1980) met wijlen Antony C. Sutton.
Inschrijven
Melden van
gast

4 Comments
Oudste
Nieuwste Meest Gestemd
Inline feedbacks
Bekijk alle reacties

[…] Lees origineel artikel […]

Freeland_Dave

Wanneer? Taal heeft propaganda al ontmoet. Vroeger noemden we ze journalisten, maar tegenwoordig plagen ze propagandisten. Het is verbazingwekkend dat je tegenwoordig naar 50 nieuwszenders kunt luisteren, ze zeggen allemaal precies hetzelfde en je komt in wezen hetzelfde uit de ervaring, soms erger, dan toen je naar binnen ging.' 'Wat is waarheid?' zei Pilatus schertsend, en wilde niet blijven voor een antwoord.” - Francis Bacon. We doen alsof we de waarheid willen horen, maar vaker wel dan niet verwerpen we het en geloven in plaats daarvan leugens.

DawnieR

Er bestaat niet zoiets als 'AI'!!! Zogenaamde 'Kunstmatige Intelligentie' is een OXYMORON! DENK DAAR ECHT OVER!
Wat men 'AI' noemt, is slechts een PROGRAMMEERBARE COMPUTER…….die werd GEPROGRAMMEERD door een 'MENS'!

Alan

Kalmeer je tieten. Moderne AI is zo geavanceerd dat de mensen niet weten hoe het werkt. Dat is waarom het artikel vermeldt dat ze het letterlijk onderzoeken om te zien of het intelligent is enz.

Aan de positieve kant, ondanks de grote sprongen, is het in sommige opzichten nog steeds behoorlijk dom. Aan de donkere kant, net als de meeste mensen nu, met slecht lezen en nog erger schrijven, dus in het land van de bijna blinden is de eenogige AI koning