IBM stopt gezichtsherkenningseenheid vanwege vooringenomenheid en ongelijkheid

Wikimedia Commons, Rosemaryetoufee
Deel dit verhaal!
Wat het motief van IBM ook is om zijn activiteiten op het gebied van gezichtsherkenning te dumpen, het legt een gewaagde verklaring af aan de hele branche, inclusief Amazon en Google, dat deze technologie in de eerste plaats geen plaats heeft in de wetshandhaving. ⁃ TN-editor

Arvind Krishna, CEO van IBM, heeft vandaag aangekondigd dat het bedrijf geen gezichtsherkenningsdiensten meer zal verkopen, en roept op tot een "nationale dialoog" over de vraag of het überhaupt moet worden gebruikt. Hij sprak ook zijn steun uit voor een nieuw wetsvoorstel om het politiegeweld te verminderen en de verantwoordingsplicht te vergroten.

In een brief gerapporteerd door CNBC, geschreven ter ondersteuning van de Justitie in politiewet Krishna, die vandaag is geïntroduceerd, legt uit waarom het bedrijf de controversiële activiteit van gezichtsherkenning als service heeft verlaten.

IBM is fel gekant tegen en zal het gebruik van technologie, inclusief gezichtsherkenningstechnologie van andere leveranciers, niet goedkeuren voor massale bewaking, raciale profilering, schendingen van fundamentele mensenrechten en vrijheden, of voor enig doel dat niet in overeenstemming is met onze waarden en vertrouwensprincipes en transparantie. Wij zijn van mening dat dit het moment is om een ​​nationale dialoog te beginnen over de vraag of en hoe gezichtsherkenningstechnologie moet worden gebruikt door nationale wetshandhavingsinstanties.

Deze zorgvuldige aanpak bij het ontwikkelen en inzetten van de technologie is niet nieuw: IBM benadrukte het vorig jaar met een nieuwe database met gezichtsgegevens dat was meer divers dan alles wat op dat moment beschikbaar was. Zoals elk programma zijn deze systemen immers slechts zo goed als de informatie die u erin invoert.

Met gezichtsherkenning lijkt het bedrijf echter niet veel of geen geld te hebben verdiend. Om eerlijk te zijn, de technologie staat nog in de kinderschoenen en er zijn maar weinig toepassingen waar een zakelijke leverancier als IBM zinvol is. De controversiële Rekognition-service van Amazon, hoewel deze is getest door een flink aantal wetshandhavingsinstanties, wordt in het veld niet goed bedacht. IBM zou niet veel baat hebben bij een poging om te concurreren met een product dat net zo goed genoeg is om te gebruiken.

Krishna's brief zegt ook dat "leveranciers en gebruikers van Al-systemen een gedeelde verantwoordelijkheid hebben om ervoor te zorgen dat Al wordt getest op vooringenomenheid, vooral bij gebruik bij wetshandhaving, en dat dergelijke bias-tests worden gecontroleerd en gerapporteerd." Dit is een afscheidsscène voor degenen in het veld, met name Amazon, die zijn opgeroepen om de slechte kwaliteit van gezichtsherkenningssystemen, maar die niet zijn opgehouden deze op de markt te brengen.

Het is onduidelijk of en hoe het bedrijf AI-onderzoek in deze zin zal blijven uitvoeren.

Lees hier het hele verhaal ...

Inschrijven
Melden van
gast

0 Comments
Inline feedbacks
Bekijk alle reacties