Technocratie en het verborgen gevaar van big data

In de speltheorie beschrijft de "prijs van anarchie" hoe individuen die handelen in hun eigenbelang binnen een groter systeem de neiging hebben om de efficiëntie van dat grotere systeem te verminderen. Het is een alomtegenwoordig fenomeen, waarmee we bijna allemaal regelmatig worden geconfronteerd.

Als u bijvoorbeeld een stadsplanner bent en verantwoordelijk bent voor verkeersbeheer, zijn er twee manieren waarop u verkeersstromen kunt aanpakken. Over het algemeen zal een gecentraliseerde benadering van bovenaf - een benadering die het hele systeem omvat, knelpunten identificeert en wijzigingen aanbrengt om ze te elimineren - efficiënter zijn dan individuele bestuurders eenvoudigweg hun eigen keuzes te laten maken op de weg, in de veronderstelling dat deze keuzes leidt tot een acceptabel resultaat. De eerste benadering verlaagt de kosten van anarchie en maakt beter gebruik van alle beschikbare informatie.

De wereld is overspoeld met data. Vorig jaar hebben we net zoveel gegevens geproduceerd als in alle voorgaande jaren van menselijke beschaving. We naderen snel wat de Italiaanse schrijver Italo Calvino vooruitziend de 'herinnering aan de wereld' noemde: een volledig digitale kopie van ons fysieke universum.

Naarmate het internet zich uitbreidt naar nieuwe gebieden van fysieke ruimte via het internet der dingen, zal de prijs van anarchie een cruciale maatstaf worden en de verleiding om deze te elimineren met de kracht van big data-analyse zal sterker worden.

Voorbeelden hiervan zijn er in overvloed. Overweeg Amazon. Het heeft een berg aan informatie over alle gebruikers, die het gebruikt om te voorspellen wat ze vervolgens zouden willen kopen. Zoals bij alle vormen van gecentraliseerde kunstmatige intelligentie, worden patronen uit het verleden gebruikt om toekomstige patronen te voorspellen. Amazon kan de laatste 10-boeken die je hebt gekocht bekijken en, met toenemende nauwkeurigheid, suggereren wat je misschien wilt lezen.

Maar hier moeten we overwegen wat er verloren gaat als we het niveau van anarchie verlagen. Het meest betekenisvolle boek dat je na die vorige 10 moet lezen, is niet een boek dat netjes in een vastgesteld patroon past, maar eerder een boek dat je verrast of uitdaagt om de wereld op een andere manier te bekijken.

In tegenstelling tot het verkeersstroomscenario, zijn geoptimaliseerde suggesties misschien niet het beste paradigma voor het online bladeren door boeken. Big data kan onze opties vermenigvuldigen terwijl we dingen filteren die we niet willen zien, maar er is iets te zeggen om dat 11e boek te ontdekken door pure serendipiteit.

Wat geldt voor het kopen van boeken, geldt ook voor veel andere systemen die worden gedigitaliseerd, zoals onze steden. Gecentraliseerde gemeentelijke systemen gebruiken nu algoritmen om stedelijke infrastructuur te bewaken, van verkeerslichten en metrogebruik tot afvalverwerking en energielevering. Veel burgemeesters over de hele wereld zijn gefascineerd door het idee van een centrale controlekamer, zoals het door IBM ontworpen operatiecentrum van Rio de Janeiro, waar stadsmanagers in realtime kunnen reageren op nieuwe informatie.

Maar met gecentraliseerde algoritmen die elk facet van de samenleving beheren, dreigt datagedreven technocratie innovatie en democratie te overweldigen. Deze uitkomst moet worden vermeden. Gedecentraliseerde besluitvorming is cruciaal voor de verrijking van de samenleving. Datagestuurde optimalisatie leidt daarentegen oplossingen af ​​van een vooraf bepaald paradigma, dat in zijn huidige vorm vaak de transformationele of contra-intuïtieve ideeën uitsluit die de mensheid vooruit stuwen.

Een zekere mate van willekeur in ons leven zorgt voor nieuwe ideeën of denkwijzen die anders zouden worden gemist. En op macroschaal is het noodzakelijk voor het leven zelf. Als de natuur voorspellende algoritmen had gebruikt die willekeurige mutatie in de replicatie van DNA zouden voorkomen, zou onze planeet zich waarschijnlijk nog in het stadium van een zeer geoptimaliseerd eencellig organisme bevinden.

Gedecentraliseerde besluitvorming kan synergieën creëren tussen menselijke en machine-intelligentie door processen van natuurlijke en kunstmatige co-evolutie. Gedistribueerde intelligentie kan soms de efficiëntie op de korte termijn verminderen, maar het zal uiteindelijk leiden tot een creatievere, diversere en veerkrachtiger samenleving. De prijs van anarchie is een prijs die de moeite waard is om te betalen als we innovatie door serendipiteit willen behouden.

Lees hier het hele verhaal ...

• Carlo Ratti leidt het Senseable City Laboratory van het Massachusetts Institute of Technology en leidt de Global Agenda Council on Future Cities van het World Economic Forum. Dirk Helbing is hoogleraar computationele sociale wetenschappen aan het Zwitserse Federale Instituut voor Technologie in Zürich.