EU over AI-ethiek: moet 'positieve sociale verandering verbeteren'

De Europese Unie heeft vandaag een set richtlijnen over hoe bedrijven en overheden ethische toepassingen van kunstmatige intelligentie moeten ontwikkelen.

Deze regels zijn niet zoals Isaac Asimov's "Three Laws of Robotics". Ze bieden geen pittig, moreel kader dat ons zal helpen moorddadige robots te beheersen. In plaats daarvan pakken ze de duistere en diffuse problemen aan die de samenleving zullen treffen als we AI integreren in sectoren zoals gezondheidszorg, onderwijs en consumententechnologie.

Als een AI-systeem u bijvoorbeeld ergens in de toekomst een diagnose van kanker stelt, willen de EU-richtlijnen ervoor zorgen dat een aantal dingen plaatsvindt: dat de software niet bevooroordeeld was door uw ras of geslacht, maar dat de bezwaren van een menselijke arts niet opheffen, en dat het de patiënt de mogelijkheid gaf om hun diagnose te laten uitleggen.

Dus, ja, deze richtlijnen gaan over het stoppen van AI met pech, maar op het niveau van admin en bureaucratie, niet op Asimov-achtige moordmysteries.

Om dit doel te helpen, heeft de EU een groep 52-experts bijeengeroepen die met zeven vereisten kwamen waarvan zij denken dat toekomstige AI-systemen moeten voldoen. Ze zijn als volgt:

• Human agency en overzicht - AI moet de menselijke autonomie niet vertrappen. Mensen mogen niet worden gemanipuleerd of gedwongen door AI-systemen, en mensen moeten in staat zijn om in te grijpen of toezicht te houden op elke beslissing die de software neemt.
• Technische robuustheid en veiligheid - AI moet veilig en nauwkeurig zijn. Het moet niet gemakkelijk worden aangetast door externe aanvallen (zoals voorbeelden van tegenstanders) en het moet redelijk betrouwbaar zijn.
• Privacy en gegevensbeheer - Persoonlijke gegevens verzameld door AI-systemen moeten veilig en privé zijn. Het moet niet voor iedereen toegankelijk zijn en het moet niet gemakkelijk worden gestolen.
• Transparantie - Gegevens en algoritmen die worden gebruikt om een ​​AI-systeem te maken, moeten toegankelijk zijn en de beslissingen die door de software worden genomen, moeten "door mensen worden begrepen en getraceerd". Met andere woorden, exploitanten moeten de beslissingen van hun AI-systemen kunnen verklaren.
• Diversiteit, non-discriminatie en billijkheid - Diensten die door AI worden aangeboden, moeten voor iedereen beschikbaar zijn, ongeacht leeftijd, geslacht, ras of andere kenmerken. Evenzo mogen systemen niet volgens deze lijnen worden bevooroordeeld.
• Milieu- en maatschappelijk welzijn - AI-systemen moeten duurzaam zijn (dat wil zeggen, ze moeten ecologisch verantwoord zijn) en "positieve sociale verandering versterken"
• Verantwoording - AI-systemen moeten controleerbaar zijn en onder bestaande beschermingen voor klokkenluiders van bedrijven vallen. Negatieve effecten van systemen moeten worden erkend en vooraf worden gemeld.

U zult merken dat sommige van deze vereisten vrij abstract zijn en moeilijk objectief te beoordelen zijn. (De definities van 'positieve sociale verandering' variëren bijvoorbeeld enorm van persoon tot persoon en van land tot land.) Maar anderen zijn eenvoudiger en kunnen via overheidstoezicht worden getest. Het delen van de gegevens die worden gebruikt om AI-systemen van de overheid te trainen, kan bijvoorbeeld een goede manier zijn om te bestrijden bevooroordeelde algoritmen.

Deze richtlijnen zijn niet wettelijk bindend, maar ze kunnen wel vorm geven aan toekomstige wetgeving opgesteld door de Europese Unie. De EU heeft herhaaldelijk gezegd dat ze een leider wil zijn in ethische AI, en dat heeft ze ook laten zien GDPR dat het bereid is om vergaande wetten te maken die digitale rechten beschermen.

Maar deze rol is de EU gedeeltelijk opgedrongen door omstandigheden. Het kan niet concurreren met Amerika en China - de wereldleiders op het gebied van AI - als het gaat om investeringen en baanbrekend onderzoek, dus heeft het ethiek gekozen als de beste gok om de toekomst van de technologie vorm te geven.

Lees hier het hele verhaal ...