AI Deep Learning 'Godfather' Yoshua Bengio gealarmeerd over gebruik in China om de samenleving te domineren

blanco
Deel dit verhaal!
image_pdfimage_print
Bengio, een belangrijke uitvinder van AI, zegt: "Dit is het 1984 Big Brother-scenario". Bengio en zijn collega Technocraat-wetenschappers hadden hier al eerder over moeten nadenken, maar het weerspiegelt hun Pollyanna-achtige kijk op de mensheid. ⁃ TN Editor

Yoshua Bengio, een Canadese computerwetenschapper die hielp pionieren met de technieken die veel van de huidige opwinding rond kunstmatige intelligentie ondersteunen, maakt zich zorgen over het gebruik van AI door China voor surveillance en politieke controle.

Bengio, die ook mede-oprichter is van het in Montreal gevestigde AI-softwarebedrijf Element AI, zei dat hij zich zorgen maakte over de technologie die hij heeft helpen gebruiken om het gedrag van mensen te beheersen en hun geest te beïnvloeden.

"Dit is het 1984 Big Brother-scenario", zei hij in een interview. "Ik vind het steeds enger worden."

Bengio, een professor aan de Universiteit van Montreal, wordt beschouwd als een van de drie "peetvaders" van diep leren, samen met Yann LeCun en Geoff Hinton. Het is een technologie die neurale netwerken gebruikt - een soort software die losjes is gebaseerd op aspecten van het menselijk brein - om voorspellingen te doen op basis van gegevens. Het is verantwoordelijk voor recente ontwikkelingen in gezichtsherkenning, verwerking van natuurlijke talen, vertaling en algoritmen voor aanbevelingen.

Diep leren vereist een grote hoeveelheid gegevens om voorbeelden te geven om van te leren - maar China, met zijn enorme bevolking en systeem van staatregistratie, heeft daar veel van.

De Chinese regering is begonnen met het gebruik van videocamera's met gesloten circuit en gezichtsherkenning om te controleren wat haar burgers in het openbaar doen, van jaywalking tot politieke dissidenten. Het heeft ook een nationaal platform voor het delen van kredietinformatie gecreëerd, dat wordt gebruikt om trein- en vliegtuigpassagiers op een zwarte lijst te zetten voor 'antisociaal' gedrag en overweegt het gebruik van dit systeem uit te breiden naar andere situaties.

"Het gebruik van je gezicht om je te volgen moet sterk gereguleerd zijn," zei Bengio.

Bengio staat niet alleen in zijn bezorgdheid over de use-cases van China voor AI. Miljardair George Soros heeft onlangs op januari 24 een toespraak gehouden op het World Economic Forum om de risico's te benadrukken die het gebruik van AI voor het land met zich meebrengt voor burgerlijke vrijheden en rechten van minderheden.

In tegenstelling tot sommige leeftijdsgenoten, heeft Bengio, die het Montreal Institute for Learning Algorithms (Mila) leidt, de verleiding weerstaan ​​om voor een groot, reclamegedreven technologiebedrijf te werken. Hij zei dat voor een verantwoorde ontwikkeling van AI sommige grote technologiebedrijven de manier waarop ze werken moeten veranderen.

De hoeveelheid gegevens die grote technologiebedrijven beheren, is ook een punt van zorg. Hij zei dat het creëren van gegevensvertrouwen - non-profit entiteiten of juridische kaders waaronder mensen hun gegevens bezitten en toestaan ​​dat deze alleen voor bepaalde doeleinden worden gebruikt - misschien een oplossing is. Als een vertrouwen voldoende gegevens bevatte, zou het betere voorwaarden kunnen bedingen met grote technologiebedrijven die het nodig hadden, zei hij donderdag tijdens een gesprek op het kantoor van Amnesty International UK in Londen.

Lees hier het hele verhaal ...

Kom bij onze maillijst!


abonneren
Melden van
gast
0 Comments
Inline feedbacks
Bekijk alle reacties