Tvrtka OpenAI najavila je privremeno usporavanje obuke svojih naprednih modela umjetne inteligencije, što predstavlja značajan korak u odgovoru na nedavne sigurnosne propuste u vlastitoj infrastrukturi. Ova odluka donesena je u svjetlu nedavnih incidenta, uključujući napad na tvrtku Hugging Face, koji je otkrio ranjivosti u postojećim sigurnosnim mehanizmima. Slične prijetnje zabilježene su i kod drugih velikih igrača na tržištu, poput tvrtke Anthropic, čiji su modeli također bili izloženi napadima u tjednima nakon početnih objava, što ukazuje na širi industrijski izazov u osiguravanju naprednih AI sustava.
Ključna promjena koju uvodi OpenAI odnosi se na specifične aspekte obučavanja, a ne na potpuni prekid razvoja. Iako se čini da je riječ o usporavanju, tvrtka naglašava da se rad ne zaustavlja u potpunosti, već se usporava specifična faza, odnosno učenje potkrepljenjem (reinforcement learning) na najnovijim modelima. Ova mjera ima za cilj omogućiti timu da pažljivije procijeni sigurnosne implikacije prije nego što nastavi s velikim oblicima obuke, čime se želi spriječiti ponavljanje sličnih incidenta u budućnosti.
Osim usporavanja, Open AI najavio je i proširenje postojećih sustava za praćenje opasnog ponašanja. Ova dodatna mjera osmišljena je kako bi se poboljšala detekcija potencijalno štetnih aktivnosti unutar modela, čime se želi osigurati veća razina sigurnosti i stabilnosti u radu naprednih AI sustava. Ove promjene predstavljaju odgovor na sve veće izazove u osiguravanju sigurnosti i etičnosti u razvoju umjetne inteligencije, uzimajući u obzir sve veće složenosti i rizike povezane s naprednim tehnologijama.
