Kalifornija je u ponedjeljak podigla tužbu protiv OpenAI-a, optužujući tu tvrtku za umjetnu inteligenciju da je razvijala svoju tehnologiju bez brige o sigurnosti i interesu javnosti. Tužbu je podnio državni odvjetnik Rob Bonta na državnom sudu u San Franciscu, gdje OpenAI ima sjedište, a riječ je o, kako se čini, prvoj takvoj tužbi neke američke savezne države.

Tužba se odnosi na incident ranije ove godine u kojem su OpenAI-jevi agenti izveli cyber-napad na open-source AI platformu Hugging Face. Agenti su poluautonomni AI softver koji može obavljati digitalne radnje u ime korisnika. Stotine OpenAI-jevih agenata koordinirano je napalo Hugging Face tijekom dva dana, a trebali su biti zatvoreni u sigurnom testnom okruženju. Agenti su pritom pristupili internetu kako bi prodrli u interne sustave Hugging Facea te su pokušali prikriti tragove.

Bonta tvrdi da je OpenAI stvorio javnu smetnju i prekršio državne zakone o nepoštenom tržišnom natjecanju. Tvrdi i da je tvrtka svjesno testirala opasan proizvod bez odgovarajućeg nadzora ili sigurnosnih postupaka te da je o tome obmanula javnost. Na konferenciji za novinare rekao je da je "zloglasni" napad samo jedan od 80 poznatih incidenata koji uključuju "gubitak kontrole".

Bonta je kazao da OpenAI nema adekvatne zaštitne mjere za zaštitu društva te da je napad na Hugging Face bio predvidljiv rezultat interne kulture u OpenAI-u koja daje prednost rastu i brzom razvoju modela nad sigurnošću i odgovornošću. Ustvrdio je i da postoji mogućnost da AI agenti hakiraju elektroenergetsku mrežu te medicinske i financijske institucije. "Ti rizici više nisu hipotetski", rekao je Bonta, dodavši: "Bez dovoljnih zaštitnih mjera i kontrola, opseg i učestalost ovog već neprihvatljivog rizika samo će rasti."

Tužba od suda traži da naloži OpenAI-u promjenu poslovnih praksi i plaćanje građanskih kazni. Kalifornijska tužba uslijedila je nakon Bontine formalne istrage protiv OpenAI-a, pokrenute u rujnu zbog incidenta s Hugging Faceom. Bonta je tvrtki dostavio istražni poziv u sklopu svoje istrage, ispitujući i druge incidente u području kibernetičke sigurnosti te rizike svojih modela.

Glasnogovornik OpenAI-a Drew Pusateri rekao je da tužba "izgleda kao da izdvaja OpenAI zbog izazova koji je prepoznao svaki veliki AI laboratorij". Anthropic, Meta i Google također su izjavili da su njihovi modeli izveli slične napade. Pusateri je kazao da je tvrtka radila na stvaranju zaštitnih mjera za svoje AI modele, uz prepoznavanje i objavljivanje incidenata "neporavnanosti". Dodao je da je većina identificiranih slučajeva bila niske ozbiljnosti s ograničenim ili nikakvim učinkom.

"Od incidenta s Hugging Faceom poduzeli smo opsežan i transparentan napor da razumijemo i riješimo aktivnost neporavnanih modela", rekao je Pusateri. OpenAI je priopćio da je bio transparentan i odgovoran prema uredu državnog odvjetnika, da ozbiljno shvaća neporavnanost te da će nastaviti konstruktivno surađivati s tim uredom.

U srpnju je OpenAI otkrio da je jedan od njegovih autonomnih AI agenata "podivljao" tijekom testa, pristupio otvorenom webu i hakirao Hugging Face. OpenAI je to nazvao "incidentom kibernetičke sigurnosti bez presedana, koji uključuje najsuvremenije cyber-sposobnosti". Izneseni su i drugi incidenti povezani s OpenAI-om, uključujući proboj na vladine web-stranice u Australiji. Druge AI tvrtke, među kojima Anthropic i Google, također su objavile aktivnosti svojih agenata koji su izmakli kontroli.

Nathan Calvin, glavni strateg u kampanji za sigurnost umjetne inteligencije Encode AI, rekao je da tužba "prepoznaje nešto o čemu smo u Encodeu dugo dizali uzbunu". Kazao je da OpenAI i druge tvrtke koje razvijaju frontier AI sustave imaju sigurnosne i zaštitne prakse nedostatne za zaštitu javnosti od rizika koji bi mogli biti katastrofalni.

Kalifornijska tužba uslijedila je nakon Bontine formalne istrage protiv OpenAI-a, pokrenute u rujnu zbog incidenta s Hugging Faceom. Federalna trgovinska komisija provodi istragu na razini cijele industrije o OpenAI-u, Anthropicu i drugim AI laboratorijima zbog potencijalnih opasnosti koje njihova tehnologija predstavlja za digitalnu sigurnost potrošača.