OpenAI CEO Altman slaat alarm over AI en ChatGPT

OpenAI CEO Sam Altman en Fang Bingxing - beschouwd als de 'vader van China's Great Firewall', voegen zich bij OpenAI mede-oprichter Elon Musk om hun bezorgdheid te uiten over de gevaren van kunstmatige intelligentie (AI).

"We moeten hier voorzichtig zijn", zei de 37-jarige Altman ABC News vorige week toe te voegen: "Ik denk dat mensen blij moeten zijn dat we hier een beetje bang voor zijn."

"Ik ben vooral bezorgd dat deze modellen kunnen worden gebruikt voor grootschalige desinformatie... Nu ze beter worden in het schrijven van computercode, kunnen [ze] worden gebruikt voor offensieve cyberaanvallen."

Dat gezegd hebbende, denkt Altman ook dat het "de grootste technologie is die de mensheid tot nu toe heeft ontwikkeld".

OpenAI is het bedrijf achter Chat GPT, dat minder dan twee weken geleden "GPT-4" lanceerde. De zeer geavanceerde chatbot kan bijna perfecte scores behalen op SAT-wiskundetests, en behaal 90% op het Amerikaanse balie-examen.

En het heeft concurrenten...

Andere op AI gebaseerde startups maken ook verrassende vorderingen in het veld. RAD-AI heeft onlangs het eerste AI-marketingplatform gelanceerd dat is gebouwd om emotie te begrijpen, en enkele van de grootste bedrijven ter wereld gebruiken het al.

GenesisAI is een startup die een marktplaats bouwt waarmee elk bedrijf AI en automatisering in zijn bedrijf kan integreren. Dit betekent dat AI binnenkort net zo'n integraal onderdeel van een bedrijf kan zijn als de werknemers zelf. –Benzinga

Volgens Altman echter ChatGPT-4 maakt gebruik van deductief redeneren versus onthouden, wat kan leiden tot onnauwkeurige resultaten.

"Wat ik mensen het meest probeer te waarschuwen, is wat we het 'hallucinatieprobleem' noemen", vertelde Altman ABC News. "Het model zal met vertrouwen dingen zeggen alsof het feiten zijn (maar ze zijn volledig verzonnen."

Altman denkt er is behoefte aan regulering van AI in het algemeen.

"Er zullen andere mensen zijn die sommige van de veiligheidslimieten die wij hanteren niet respecteren", zei hij. "De samenleving heeft, denk ik, een beperkte hoeveelheid tijd om uit te zoeken hoe daarop te reageren, hoe dat te reguleren, hoe ermee om te gaan."

Ook bezorgd over GPT-4 en soortgelijke AI is Fang Bingxing, de vader van China's zogenaamde Grote Firewall.

Volgens Fang kunnen dergelijke chatbots leiden tot een “informatiecocon” (in tegenstelling tot de vrije informatiestroom in China?)

"De perspectieven van mensen kunnen worden gemanipuleerd terwijl ze allerlei antwoorden van AI zoeken", vertelde hij aan Red Star News, een media-partner van de door de staat gesteunde Chengdu Economic Daily, zoals gerapporteerd door SCMP.

Fang, een computerwetenschapper en voormalig regeringsfunctionaris, wordt algemeen beschouwd als de hoofdontwerper van China's beruchte internetcensuur- en bewakingssysteem. Hij speelde een sleutelrol bij het creëren en ontwikkelen van de Great Firewall, een geavanceerd systeem van internetfilters en -blokken waarmee de Chinese overheid kan bepalen waar haar burgers online toegang toe hebben.

De Grote Firewall is de afgelopen tien jaar versterkt en blokkeerde de toegang van Chinese netizens tot een groot aantal buitenlandse websites en online diensten, waaronder Facebook, Twitter en Google. -SCMP

Fang waarschuwde ook dat wanneer AI verder evolueert, dit een bedreiging voor de mensheid kan vormen.

“Nu is het gewoon software die wordt gebruikt in een online chat-achtig scenario. Als het wordt ingebouwd in robots en auto's, moeten we waakzaam blijven voor de mogelijke schade die ze kunnen toebrengen aan mensen."

Lees hier het hele verhaal ...