UK AI Task Force-adviseur: nog 2 jaar te beheersen, of anders

De AI-taskforce-adviseur van de Britse premier zei dat grote AI-modellen de komende twee jaar regulering en controle nodig hebben om grote existentiële risico's te beteugelen.

De kunstmatige intelligentie (AI)-taskforce-adviseur van de premier van het Verenigd Koninkrijk zei dat mensen ongeveer twee jaar de tijd hebben om AI te controleren en te reguleren voordat het te krachtig wordt.

In een interview  Matt Clifford, die ook voorzitter is van het Advanced Research and Invention Agency (ARIA) van de overheid, benadrukte met een lokaal Brits mediakanaal dat de huidige systemen "in een steeds hoger tempo steeds capabeler worden".

Hij vervolgde dat als ambtenaren nu geen rekening houden met veiligheid en regelgeving, de systemen over twee jaar "zeer krachtig" zullen worden.

"We hebben twee jaar de tijd om een ​​raamwerk op te zetten dat zowel controle als regulering van deze zeer grote modellen veel beter mogelijk maakt dan nu het geval is."

Clifford waarschuwde dat er "veel verschillende soorten risico's" zijn als het gaat om AI, zowel op korte als op lange termijn, wat hij "behoorlijk eng" noemde.

Het interview kwam naar aanleiding van een recente open brief gepubliceerde door het Center for AI Safety, ondertekend door 350 AI-experts, waaronder Sam Altman, CEO van OpenAI, dat zei dat AI moet worden behandeld als een existentiële bedreiging die vergelijkbaar is met die van kernwapens en pandemieën.

"Ze hebben het over wat er gebeurt als we effectief een nieuwe soort creëren, een soort intelligentie die groter is dan de mens."

De adviseur van de AI-taskforce zei dat deze bedreigingen van AI "zeer gevaarlijk" kunnen zijn en "veel mensen kunnen doden, niet alle mensen, simpelweg van waar we verwachten dat modellen over twee jaar zullen zijn."

Volgens Clifford moeten toezichthouders en ontwikkelaars zich in de eerste plaats richten op het begrijpen van de manier waarop ze de modellen kunnen controleren en vervolgens op wereldwijde schaal de regelgeving implementeren.

Voor nu zei hij dat zijn grootste angst het gebrek aan begrip is van waarom AI-modellen zich gedragen zoals ze doen.

"De mensen die de meest capabele systemen bouwen, geven vrijelijk toe dat ze niet precies begrijpen hoe [AI-systemen] het gedrag vertonen dat ze doen."

Clifford benadrukte dat veel van de leiders van organisaties die AI bouwen, het er ook over eens zijn dat krachtige AI-modellen een soort audit- en evaluatieproces moeten ondergaan voordat ze worden geïmplementeerd.

Op dit moment worstelen regelgevers over de hele wereld om de technologie en de vertakkingen ervan te begrijpen, terwijl ze proberen regels te creëren die gebruikers beschermen en toch innovatie mogelijk maken.

Op 5 juni gingen functionarissen in de Europese Unie zelfs zo ver dat ze voorstelden om iedereen verplicht te stellen AI-gegenereerde inhoud moet als zodanig worden geëtiketteerd om desinformatie te voorkomen.

In het Verenigd Koninkrijk een vooraanstaand lid van de oppositiepartij Labour echode de gevoelens vermeld in de brief van het Center for AI Safety, waarin staat dat technologie moet worden gereguleerd, net als medicijnen en kernenergie.

Lees hier het hele verhaal ...