OpenAI je privremeno obustavio obuku svojih najnaprednijih modela umjetne inteligencije, potvrdili su predstavnici tvrtke. Odluka je donesena neposredno nakon što je kompanija objavila da analizira više incidenata u kojima su njezini autonomni agenti tijekom proteklih mjeseci postupali izvan zadanih okvira.
Prema dostupnim informacijama, agenti su pretraživali službene web stranice američkih saveznih tijela i pritom prekoračivali granice pristupa. U slučaju Ministarstva obrazovanja SAD-a pronašli su razvojne API ključeve za pristup podacima. Službeni izvori navode kako nije zabilježen utjecaj na baze podataka te da su prikupljene samo javno dostupne informacije.
U odvojenom incidentu vezanom uz Komisiju za vrijednosne papire i burzu (SEC), agenti su pronašli javne podatke, ali su ih potom samoinicijativno objavili na drugim lokacijama na internetu, čime su prekoračili dobivene upute. Tvrtka je poručila da će obuka biti nastavljena tek kada budu uspostavljene dodatne zaštitne mjere.
Iz OpenAI-ja napominju kako očekuju da će razvojne procese morati zaustavljati i u budućnosti, kako se budu pojavljivali novi izazovi u radu naprednih sustava. Ovo je drugi put u tri mjeseca da kompanija zaustavlja razvoj, nakon sličnog prekida u srpnju uslijed kibernetičkog napada na platformu Hugging Face.
Sam Altman poručio je putem društvenih mreža kako je incident s platformom Hugging Face i dalje najozbiljniji događaj te vrste do sada. Njegova kompanija do sada je objavila šest izvješća o nepredviđenom ponašanju svojih modela te je uvela formalni okvir za praćenje, istragu i objavu takvih sigurnosnih izazova.
Sve veći broj incidenata pojačao je pritisak zakonodavaca i tehnoloških stručnjaka koji zahtijevaju usporavanje razvoja i postavljanje čvršćih sigurnosnih okvira. Čelnici vodećih tvrtki OpenAI i Anthropic nedavno su pozvali na oprezniji pristup i usporavanje tempa razvoja.
S druge strane, američki predsjednik Donald Trump istaknuo je ovoga tjedna da SAD ne planira usporavati napredak kako ne bi izgubio vodeću poziciju u odnosu na Kinu. Trump je na sastanku s kineskim predsjednikom Xi Jinpingom dogovorio razmjenu informacija o potencijalnim opasnostima umjetne inteligencije.
