Wanneer AI je baas wordt, word je de robot

Critici hebben bedrijven beschuldigd van het gebruik van algoritmen voor managementtaken en zeggen dat geautomatiseerde systemen werknemers ontmenselijken en oneerlijk straffen.

Wanneer Conor Sprouls, een medewerker van de klantenservice in het callcenter van verzekeringsreus MetLife, telefonisch met een klant praat, houdt hij de rechteronderhoek van zijn scherm in de gaten. Daar, in een kleine blauwe doos, vertelt AI hem hoe het met hem gaat.

Praten te snel? Het programma knippert een pictogram van een snelheidsmeter, wat aangeeft dat hij moet vertragen.

Klink slaperig? De software geeft een "energiesignaal" weer met een afbeelding van een koffiekopje.

Niet empathisch genoeg? Een hartpictogram verschijnt.

Al decennia lang hebben mensen zich angstig ingebeelde legers hyperefficiënte robots binnengedrongen in kantoren en fabrieken, die klusjes klonken die ooit door mensen waren gedaan. Maar in alle zorgen over het potentieel van kunstmatige intelligentie om rank-and-file werknemers te vervangen, hebben we misschien de mogelijkheid over het hoofd gezien dat het ook de bazen zal vervangen.

Sprouls en de andere callcentermedewerkers op zijn kantoor in Warwick, Rhode Island, hebben nog steeds veel menselijke supervisors. Maar de software op hun schermen - gemaakt door Cogito, een AI-bedrijf in Boston - is een soort adjunct-manager geworden die ze altijd in de gaten houdt. Aan het einde van elk gesprek worden de Cogito-meldingen van Sprouls bijgehouden en toegevoegd aan een statistiekendashboard dat zijn supervisor kan bekijken. Als hij het Cogito-venster verbergt door het te minimaliseren, waarschuwt het programma zijn supervisor.

Cogito is een van de verschillende AI-programma's die worden gebruikt in callcenters en andere werkplekken. Het doel is volgens Joshua Feast, de CEO van Cogito, om werknemers effectiever te maken door ze in realtime feedback te geven.

"Er is variabiliteit in menselijke prestaties," zei Feast. "We kunnen afleiden uit de manier waarop mensen met elkaar praten of het goed gaat of niet."

Het doel van automatisering is altijd efficiëntie geweest, maar in dit nieuwe soort werkplek ziet AI de mensheid zelf als iets dat moet worden geoptimaliseerd. Amazon maakt gebruik van complexe algoritmen om de productiviteit van werknemers in haar uitvoeringscentra te volgen en kan automatisch het papierwerk genereren om werknemers te ontslaan die hun doelen niet halen, zoals The Verge dit jaar heeft ontdekt. (Amazon heeft betwist dat het werknemers ontslaat zonder menselijke inbreng, en zegt dat managers kunnen ingrijpen in het proces.) IBM heeft Watson, zijn AI-platform, tijdens beoordelingen van werknemers gebruikt om toekomstige prestaties te voorspellen en beweert dat het een 96% nauwkeurigheid heeft.

Dan zijn er de startups. Cogito, dat samenwerkt met grote verzekeringsmaatschappijen zoals MetLife en Humana, evenals financiële en retailbedrijven, zegt dat het 20,000-gebruikers heeft. Percolata, een bedrijf in Silicon Valley dat Uniqlo en 7-Eleven tot zijn klanten rekent, gebruikt in-store sensoren om voor elke werknemer een score "echte productiviteit" te berekenen en rangschikt werknemers van meest naar minst productief.

Beheer door algoritme is geen nieuw concept. In de vroege 20e eeuw bracht Frederick Winslow Taylor een revolutie teweeg in de productiewereld met zijn 'wetenschappelijke management'-theorie, die probeerde inefficiëntie uit fabrieken te wringen door elk aspect van een taak te timen en te meten. Meer recent hebben Uber, Lyft en andere on-demand platforms miljarden dollars verdiend door conventionele taken van human resources - planning, salarisadministratie, prestatiebeoordelingen - uit te besteden aan computers.

Maar het gebruik van AI om werknemers in conventionele 9-naar-5-banen te beheren, is controversiëler. Critici hebben bedrijven beschuldigd van het gebruik van algoritmen voor managementtaken en zeggen dat geautomatiseerde systemen werknemers ontmenselijken en oneerlijk straffen. En hoewel het duidelijk is waarom leidinggevenden AI willen die alles kan volgen wat hun werknemers doen, is het minder duidelijk waarom werknemers dat zouden doen. "

Het is surrealistisch om te denken dat elk bedrijf zijn eigen werknemers kan ontslaan zonder menselijke betrokkenheid, ”zei Marc Perrone, de president van United Food and Commercial Workers International Union, die voedsel- en detailhandelarbeiders vertegenwoordigt, in een verklaring over Amazon in april.

Lees hier het hele verhaal ...