Amerikaanse professor ontwierp een dystopisch bewakingssysteem voor China

Een topprofessor van de University of Maryland (UMD) bouwde een machine-learningsoftware "nuttig voor surveillance" als onderdeel van een zescijferige onderzoeksbeurs van Chinese techgigant Alibaba, waarbij bezorgdheid werd geuit waar een Amerikaanse openbare universiteit rechtstreeks aan heeft bijgedragen China's toezichtstaat.

Alibaba verstrekte $ 125,000 aan financiering aan een onderzoeksteam onder leiding van Dinesh Manocha, een professor in computerwetenschappen aan UMD College Park, om stedelijke bewakingssoftware te ontwikkelen die "de persoonlijkheid van elke voetganger kan classificeren en andere biometrische kenmerken kan identificeren", aldus onderzoeksbeurs documenten verkregen via openbare registers verzoek.

"Deze mogelijkheden zullen worden gebruikt om het gedrag van elke voetganger te voorspellen en zijn nuttig voor bewaking", staat in het document.

De bewakingsproducten van Alibaba verwierven bekendheid in 2020, toen onderzoekers gevonden dat een van zijn producten, Cloud Shield, de gezichten van Oeigoeren kon herkennen en classificeren. Mensenrechtengroep is van mening dat deze hightech surveillancetools een belangrijke rol spelen in de voortdurende Oeigoerse genocide in Xinjiang.

"Waar het op neerkomt, is dat Alibaba Amerikaans academisch onderzoek financierde dat op maat was gemaakt voor de surveillancestaat van China", zei Ryan Fedasiuk, een associate fellow bij het Center for New American Security, in een e-mail aan The Daily Beast.

Manocha is een gelauwerde geleerde op het gebied van AI en robotica die prijzen en onderscheidingen heeft verdiend van Google, IBM en vele anderen. Zijn sterrenstatus brengt beloningen met zich mee: belastingbetalers uit Maryland betaalden in 355,000 $ 2021 aan salarissen aan de professor, volgens aan overheidswaakhond Open the Books. Het Amerikaanse leger verstrekt ook royale financiering voor het onderzoek van de professor, het ondertekenen van een overeenkomst van $ 68 miljoen met het laboratorium van Manocha om militaire toepassingen van AI-technologieën te onderzoeken.

Maar de belastingbetalers uit Maryland en het Amerikaanse leger zijn niet de enigen die Manocha's onderzoek financieren. In januari 2018 ondertekenden de Universiteit van Maryland en Alibaba een onderzoekscontract van 18 maanden om het onderzoeksteam van Manocha te financieren.

In het subsidiedocument verkregen door The Daily Beast, Manocha's team beloofde "nauw samen te werken met Alibaba-onderzoekers" om stedelijke bewakingssoftware te ontwikkelen die voetgangers kan identificeren op basis van hun unieke loopkenmerken. Het algoritme zou vervolgens de loopkenmerken gebruiken om voetgangers te classificeren als 'agressief', 'verlegen', 'impulsief' en andere persoonlijkheden.

Voor de subsidie ​​moesten UMD-onderzoekers het algoritme testen op video's van Alibaba en hun bevindingen persoonlijk presenteren in Alibaba-labs in China. De wetenschappers moesten ook de C++-codebase voor de software en de onbewerkte dataset leveren als deliverables aan Alibaba.

De "duidelijke implicatie van de software is om proactief demonstraties en protesten te voorspellen, zodat ze kunnen worden onderdrukt", vertelde Fedasiuk aan The Daily Beast.. "Gezien wat we nu weten over China's architectuur van repressie in Xinjiang en andere regio's, is het duidelijk dat Dr. Manocha dit project niet had moeten pitchen en dat de beheerders van UMD het niet hadden moeten ondertekenen."

Lees hier het hele verhaal ...