Psychopaten hebben ons veel te leren over AI

Deel dit verhaal!
AI is vaak geprogrammeerd om te leren hoe onze emoties te manipuleren, en om succes te meten wanneer we ons conformeren. Deze psychopathische eigenschap is het toppunt van social engineering en mensen zijn zich er maar heel weinig van bewust dat het zelfs maar gebeurt. ⁃ TN-editor

Wat gebeurt er als machines ons leren manipuleren door onze emoties te vervalsen? Afgaande op de snelheid waarmee onderzoekers mensachtige AI-agenten ontwikkelen, komen we erachter.

Onderzoekers over de hele wereld proberen meer mensachtige AI te creëren. Per definitie ontwikkelen ze kunstmatige psychopaten. Dit is niet noodzakelijk een slechte zaak - er is niets inherent mis met het zijn van een psychopaat, en alle AI-agenten zijn kunstmatige psychopaten, simpelweg omdat ze niet alle neurotypische menselijke emoties missen.

Maar de overlap tussen psychopathisch gedrag en gedrag van AI-agenten valt niet te ontkennen. We moeten ernaar kijken voordat het te laat is.

Prisoner's Dilemma

Een trio van onderzoekers van de Universiteit van Waterloo onlangs een experiment uitgevoerd om te bepalen hoe uitingen van emotie AI kunnen helpen om mensen tot samenwerking te manipuleren. De studie maakte gebruik van een klassiek speltheorie-experiment genaamd "The Prisoner's Dilemma", dat laat zien waarom mensen die baat zouden hebben bij samenwerking dat vaak niet doen.

Er zijn veel variaties op het spel, maar het is eigenlijk dit: er zijn twee gevangenen die van elkaar worden geïsoleerd door de politie voor een misdaad die ze samen hebben begaan. Als een van hen snikt en de ander niet, krijgt de niet-verrader drie jaar en loopt de snitch. Dit werkt beide kanten op. Als beide snikken, krijgen ze allebei twee jaar. Als geen van beiden snauwt, krijgen ze elk maar één jaar minder.

Waterloo's studie verving een van de menselijke 'gevangenen' door een AI-avatar en liet hen toe elkaars emoties te interpreteren. En in plaats van gevangenisstraffen gebruikten ze goud, dus het ging erom de hoogst mogelijke score te behalen, in tegenstelling tot de laagste. Zoals we al zeiden, zijn er variaties op het spel. Maar nog belangrijker, ze ontdekten dat mensen gemakkelijker konden worden gemanipuleerd tot coöperatieve resultaten door het niveau van menselijk gedrag van de AI te verbeteren. Volgens het onderzoek van het Waterloo-team papier:

Hoewel onderzoekers met succes de perceptie van eigenschappen van menselijke uniekheid kunnen verbeteren door agenten slimmer te maken, zijn emoties cruciaal voor de perceptie van eigenschappen van de menselijke natuur. Deze verbetering had ook een positieve invloed op de samenwerking van gebruikers met de agent en hun plezier.

Ondertussen heeft een ander team van onderzoekers onlangs gepubliceerd een ander experiment waarbij het Prisoner's Dilemma-probleem betrokken is. Wetenschappers van de Victoria University of Wellington en de University of Southampton hebben 190-studentenvrijwilligers gesorteerd in vier groepen bestaande uit verschillende verhoudingen van neurotypische studenten en groepen met psychopathische eigenschappen. De onderzoekers ontdekten dat het hebben van psychopaten in een groepsdynamiek consistent was met minder samenwerking.

Voor alle duidelijkheid, de Victory / Southhampton-studie gebruikte geen mensen die als complete psychopaten werden beschouwd, maar studenten die een groter aantal psychopathische eigenschappen vertoonden dan de anderen. Het doel van deze studie was om te bepalen of het introduceren van mensen die zelfs enige psychopathie vertoonden, de groepsdynamiek zou veranderen. Ze vonden dat het deed:

Onze resultaten laten zien dat mensen met hogere niveaus van psychopathische eigenschappen de groepsdynamiek beïnvloeden. We vonden een aanzienlijk verschil in samenwerking in die groepen met een hoge dichtheid van hoge psychopathische deelnemers in vergelijking met de groepen met nuldichtheid.

De vriendelijke afperser

Het introduceren van halfbakken emotionele middelen in de samenleving kan nachtmerrieachtig zijn. Nog een andere recente studie van het Prisoner's Dilemma-experiment, deze van de Max Planck Society, geeft aan dat de beste strategie voor het spel is om de 'Friendly Extortioner' te worden. In wezen staat dat wanneer bonussen en incentives op het spel staan, het beste spel is om de illusie van samenwerking te creëren terwijl je de andere speler manipuleert om samen te werken, hoe vaak je dat ook niet doet.

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

1 Reactie
Oudste
Nieuwste Meest Gestemd
Inline feedbacks
Bekijk alle reacties
whisperingsage

Welnu, er was een omweg, maar uiteindelijk besefte ik dat de auteur zegt dat AI sociopathisch is en onze samenleving flink kan verpesten.