In de weken sinds de Amerikaanse presidentsverkiezingen blies Facebook-CEO Mark Zuckerberg brandbestrijding. Niet letterlijk, maar figuurlijk. Veelvuldige beschuldigingen beweren dat zijn social media-bedrijf heeft bijgedragen aan de onverwachte uitkomst van de verkiezingen door nepnieuws en "filterbellen" te verspreiden. Zuckerberg heeft deze aantijgingen hardnekkig weerlegd, maar de zaak stelt een netelige vraag: hoe zorgen we ervoor dat technologie werkt voor de samenleving?
Er ontstaat een vierde industriële revolutie die moeilijke ethische vragen oproept met enkele eenvoudige, zwart-wit antwoorden. Kleinere, krachtigere en goedkopere sensoren; cognitieve computer vooruitgang in kunstmatige intelligentie, robotica, voorspellende analyses en machine learning; nano, neuro en biotechnologie; het internet der dingen; 3D afdrukken; en nog veel meer, vragen nu al heel snel echte antwoorden. En dit wordt alleen maar moeilijker en complexer als we deze insluiten nieuwe technologieën in ons lichaam en onze hersenen om ons fysieke en cognitieve functioneren te verbeteren.
Neem de keuze die de maatschappij binnenkort moet maken over autonome auto's als voorbeeld. Als een ongeval niet kan worden vermeden, moet een auto worden geprogrammeerd om het aantal omstanders te minimaliseren, zelfs als dit de inzittenden van de auto schaadt, of moet de auto zijn inzittenden onder alle omstandigheden beschermen?
Onderzoek toont aan dat het publiek in conflict is. Consumenten geven er de voorkeur aan om het totale aantal slachtoffers bij een auto-ongeluk te minimaliseren, maar zijn niet bereid om een zelfrijdende auto te kopen als deze niet zelfbeschermend is. Natuurlijk is de ideale optie voor bedrijven om algoritmen te ontwikkelen die deze mogelijkheid volledig omzeilen, maar dit hoeft niet altijd een optie te zijn. Wat wel duidelijk is, is dat dergelijke ethische dilemma's met elkaar moeten worden verzoend voordat een consument zijn sleutels aan dark-holed algoritmen overhandigt.
Met zoveel verschillende betrokken stakeholders, hoe zorgen we voor een bestuursmodel dat technologie voor de samenleving laat werken?