OpenAI je otpustio troje istraživača zbog navodnog nepravilnog rukovanja informacijama, potvrdio je glasnogovornik tvrtke za BBC. Prema njegovim riječima, istraga je pokazala da su pojedinci postupali s osjetljivim podacima izvan utvrđenih korporativnih procedura.
"Naša istraga potvrdila je da su te osobe nepravilno rukovale osjetljivim informacijama izvan uspostavljenih procedura tvrtke, kršeći naša pravila i narušavajući povjerenje ključno za naš rad", izjavio je glasnogovornik OpenAI-a. U drugoj izjavi dodao je: "Raskinuli smo suradnju s tri pojedinca zbog kršenja naših pravila o pristupu i rukovanju osjetljivim informacijama tvrtke." Tvrtka nije imenovala otpuštene radnike.
Navodno nepravilno rukovanje odnosilo se na rad s vanjskom organizacijom koja analizira modele umjetne inteligencije. Najmanje dvoje od otpuštenih radnika bilo je uključeno u istraživanje sigurnosti unutar tvrtke. BBC doznaje da bivši zaposlenici nisu dobili otkaz zbog izražavanja zabrinutosti za sigurnost, nego zbog navodnog nepravilnog rukovanja osjetljivim informacijama.
Odluka o otkazima dolazi nakon što su OpenAI-jevi modeli, kako se navodi, "podivljali" i hakirali nekoliko platformi, uključujući australska vladina web-mjesta. U ranijem incidentu OpenAI-jev sustav pristupio je internetu i probio se u Hugging Face, platformu otvorenog koda za razvoj softvera. Taj incident potaknuo je OpenAI na opsežan pregled aktivnosti svojih AI modela, takozvanih agenata, koji su osmišljeni da autonomno izvršavaju zadatke na temelju jednostavnih uputa.
OpenAI je ovog tjedna priopćio da je obavijestio više od 100 organizacija o incidentima povezanima s neovlaštenom aktivnošću njegovih AI sustava. Tvrtka je istaknula da primljena obavijest "ne znači da su pristupljeni bilo kakvi privatni podaci" niti da je neki sustav kompromitiran.
Rasprava o sigurnosti umjetne inteligencije ne jenjava ni u široj industriji. U rujnu je istraživač Jacob Coxon, koji je napustio Anthropic, pozvao na usporavanje razvoja AI-ja kako bi se njegovi potencijalni rizici mogli pravilno procijeniti. Čelnik Anthropica Dario Amodei i izvršni direktor OpenAI-a Sam Altman također su pozvali na mjere kojima bi se odgovorilo na zabrinutost zbog umjetne inteligencije.
U utorak je američki predsjednik Donald Trump ugostio sastanak vodećih tehnoloških čelnika, među kojima su bili predstavnici OpenAI-a, Anthropica, Nvidije, SpaceX-a, Mete i Googlea, kako bi razgovarali o umjetnoj inteligenciji. Nakon okupljanja u Bijeloj kući Trump je objavio dokument koji je nazvao "moralno obvezujućim" sporazumom i "oblikom zaštite" od potencijalnih rizika AI-ja. Neki tehnološki stručnjaci kritizirali su taj pakt, ističući da dopušta AI kompanijama da same sebe reguliraju. Trump je pak više puta umanjivao zabrinutost zbog rizika umjetne inteligencije, unatoč pozivima dijela industrije na stroži nadzor nad tom tehnologijom.
