Makers zeggen dat nieuwe AI-tekstgenerator te gevaarlijk is om vrij te geven

GeorgeWikimedia Commons
Deel dit verhaal!
Hoewel het prijzenswaardig is dat de makers gevaarlijke resultaten van hun AI zien en bereid zijn deze achter te houden in afwachting van verdere analyse, is het slechts een kwestie van tijd voordat de AI wegglijdt. Er wordt geen menselijke intelligentie gebruikt bij het genereren van kunstmatige verhalen. ⁃ TN-editor

De makers van een revolutionair AI-systeem dat nieuwsverhalen en fictie kan schrijven - "deepfakes for text" genoemd - hebben de ongebruikelijke stap gezet om hun onderzoek niet openbaar te maken, uit angst voor mogelijk misbruik.

OpenAI, een non-profit onderzoeksbedrijf ondersteund door Elon Musk, Reid Hoffman, Sam Altman en anderen, zegt dat het nieuwe AI-model, genaamd GPT2 zo goed is en het risico van kwaadaardig gebruik zo hoog dat het breekt met zijn normale praktijk van het volledig vrijgeven onderzoek naar het publiek om meer tijd te geven om de gevolgen van de technologische doorbraak te bespreken.

In de kern is GPT2 een tekstgenerator. Het AI-systeem krijgt tekst, van een paar woorden tot een hele pagina, en werd gevraagd om de volgende zinnen te schrijven op basis van zijn voorspellingen over wat er zou moeten komen. Het systeem verlegt de grenzen van wat mogelijk werd geacht, zowel wat betreft de kwaliteit van de output als de grote verscheidenheid aan mogelijke toepassingen.

Wanneer GPT2 wordt gebruikt om eenvoudig nieuwe tekst te genereren, is het in staat plausibele passages te schrijven die overeenkomen met wat het wordt gegeven, zowel in stijl als in onderwerp. Het toont zelden een van de eigenaardigheden die eerdere AI-systemen markeren, zoals vergeten waar het over schrijft halverwege een paragraaf, of de syntaxis van lange zinnen verprutsen.

Geef het de openingszin van George Orwell's Nineteen Eighty-Four - "Het was een heldere koude dag in april en de klokken sloegen dertien op" - en het systeem herkent de vaag futuristische toon en de nieuwe stijl, en gaat verder met:

“Ik zat in mijn auto op weg naar een nieuwe baan in Seattle. Ik steek het gas erin, steek de sleutel erin en laat hem dan lopen. Ik stelde me net voor hoe de dag eruit zou zien. Over honderd jaar. In 2045 was ik leraar op een school in een arm deel van het landelijke China. Ik begon met de Chinese geschiedenis en geschiedenis van de wetenschap. ”

Voer het de eerste paar paragrafen van een Guardian-verhaal over Brexit, en de output ervan is plausibel krantenproza, vol met "citaten" van Jeremy Corbyn, vermeldt de Ierse grens en antwoorden van de woordvoerder van de premier.

Een dergelijke, volledig kunstmatige, paragraaf luidt: "Gevraagd om de rapporten te verduidelijken, zei een woordvoerder van May:" De premier heeft absoluut duidelijk gemaakt dat het haar bedoeling is om de EU zo snel mogelijk te verlaten en dat zal onder haar onderhandelingsmandaat vallen. zoals vorige week bevestigd in de toespraak van de koningin. ''

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

0 Comments
Inline feedbacks
Bekijk alle reacties