Bengio, een belangrijke uitvinder van AI, zegt "Dit is het Big Brother-scenario uit 1984". Bengio en zijn mede-technocraatwetenschappers hadden eerder op deze manier moeten nadenken, maar het weerspiegelt hun Pollyanna-achtige kijk op de mensheid. ⁃ TN-editor
Yoshua Bengio, een Canadese computerwetenschapper die hielp pionieren met de technieken die veel van de huidige opwinding rond kunstmatige intelligentie ondersteunen, maakt zich zorgen over het gebruik van AI door China voor surveillance en politieke controle.
Bengio, die ook mede-oprichter is van het in Montreal gevestigde AI-softwarebedrijf Element AI, zei dat hij zich zorgen maakte over de technologie die hij heeft helpen gebruiken om het gedrag van mensen te beheersen en hun geest te beïnvloeden.
"Dit is het Big Brother-scenario uit 1984", zei hij in een interview. "Ik denk dat het steeds eng wordt."
Bengio, een professor aan de Universiteit van Montreal, wordt samen met Yann LeCun en Geoff Hinton beschouwd als een van de drie "peetvaders" van deep learning. Het is een technologie die neurale netwerken gebruikt - een soort software die losjes gebaseerd is op aspecten van het menselijk brein - om voorspellingen te doen op basis van gegevens. Het is verantwoordelijk voor de recente vooruitgang op het gebied van gezichtsherkenning, natuurlijke taalverwerking, vertaling en aanbevelingsalgoritmen.
Voor diep leren is een grote hoeveelheid gegevens nodig om voorbeelden te geven, maar China, met zijn enorme populatie en systeem van staatsregistratie, heeft daar veel van.
De Chinese regering is begonnen met het gebruik van videocamera's met een gesloten circuit en gezichtsherkenning om te controleren wat haar burgers in het openbaar doen, van jaywalking tot politieke meningsverschillen. Het heeft ook een nationaal platform voor het delen van kredietinformatie gecreëerd, dat wordt gebruikt om trein- en vliegtuigpassagiers op de zwarte lijst te zetten wegens 'asociaal' gedrag en overweegt om het gebruik van dit systeem uit te breiden naar andere situaties.
"Het gebruik van je gezicht om je op te sporen, moet streng worden gereguleerd", zei Bengio.
Bengio staat niet alleen in zijn bezorgdheid over de use-cases van China voor AI. Miljardair George Soros heeft onlangs op januari 24 een toespraak gehouden op het World Economic Forum om de risico's te benadrukken die het gebruik van AI voor het land met zich meebrengt voor burgerlijke vrijheden en rechten van minderheden.
In tegenstelling tot sommige leeftijdsgenoten, heeft Bengio, die het Montreal Institute for Learning Algorithms (Mila) leidt, de verleiding weerstaan om voor een groot, reclamegedreven technologiebedrijf te werken. Hij zei dat voor een verantwoorde ontwikkeling van AI sommige grote technologiebedrijven de manier waarop ze werken moeten veranderen.
De hoeveelheid gegevens die grote technologiebedrijven beheren, is ook een punt van zorg. Hij zei dat het creëren van datatrusts - entiteiten zonder winstoogmerk of wettelijke kaders waaronder mensen eigenaar zijn van hun gegevens en toestaan dat deze alleen voor bepaalde doeleinden worden gebruikt - een oplossing zou kunnen zijn. Als een trust over voldoende gegevens beschikte, zou het betere voorwaarden kunnen bedingen met grote technologiebedrijven die het nodig hebben, zei hij donderdag tijdens een gesprek op het kantoor van Amnesty International UK in Londen.
wpDiscuz