Omdat verbonden chatbots hun AI-programma's kunnen gebruiken om met elkaar te praten, ontwikkelen ze hun eigen talen, onbekend bij hun ontwerpers. Wat zeggen ze? Wat bedoelen ze? Wat is hun bedoeling? Technocraten openen Pandora's Box met technologie die ze creëren maar niet begrijpen. ⁃ TN Editor
Toen Facebook chatbots ontwierp om met elkaar te onderhandelen, bedachten de bots hun eigen manier van communiceren.
Een begraven regel in een nieuw Facebook-rapport over chatbots' gesprekken met elkaar biedt een opmerkelijke blik op de toekomst van taal.
In het verslag, beschrijven onderzoekers van het Facebook Artificial Intelligence Research lab het gebruik van machine learning om hun "dialoogagenten" te trainen om te onderhandelen. (En het blijkt dat bots eigenlijk heel goed zijn in het maken van deals.) Op een gegeven moment, schrijven de onderzoekers, moesten ze een van hun modellen aanpassen omdat anders het bot-to-bot gesprek "leidde tot divergentie van de menselijke taal naarmate de agenten zich ontwikkelden hun eigen taal om te onderhandelen. 'Ze moesten in plaats daarvan een zogenaamd vast model met toezicht gebruiken.
Met andere woorden, het model dat twee bots in staat stelde een gesprek te voeren – en machine learning gebruikte om voortdurend strategieën voor dat gesprek te herhalen – leidde ertoe dat die bots in hun eigen niet-menselijke taal communiceerden. Als dit je niet vervult met een gevoel van verwondering en ontzag de toekomst van machines en de mensheid dan weet ik het niet, ga kijken Blade Runner of zoiets.
Het grotere punt van het rapport is dat bots behoorlijk fatsoenlijke onderhandelaars kunnen zijn – ze gebruiken zelfs strategieën zoals het veinzen van interesse in iets waardeloos, zodat het later kan lijken alsof het een “compromis” sluit door het toe te geven. Maar het detail over taal is, zoals een tech-ondernemer zei het, een verbijsterend 'teken van wat komen gaat'.
Voor alle duidelijkheid: de spraakzame bots van Facebook zijn geen bewijs van de komst van de singulariteit. Niet eens in de buurt. Maar ze laten wel zien hoe machines het begrip van mensen herdefiniëren van zoveel rijken die ooit als uitsluitend menselijke taal werden beschouwd.
