OpenAI je otpustio troje istraživača zbog kršenja pravila o rukovanju osjetljivim podacima tvrtke. Glasnogovornik kompanije potvrdio je da je interna istraga pokazala kako su te osobe prekršile procedure i narušile povjerenje.
"S troje pojedinaca raskinuli smo suradnju zbog kršenja naših pravila o pristupu i rukovanju osjetljivim podacima tvrtke", poručio je glasnogovornik OpenAI-ja. Imena otpuštenih nisu objavljena, a barem dvoje od njih radilo je na istraživanju sigurnosti unutar tvrtke.
Prema informacijama BBC-ja, bivši zaposlenici nisu dobili otkaz zato što su upozoravali na sigurnosne propuste, nego zato što su te povjerljive informacije dijelili izvan same kompanije. Otkazi uključuju i suradnju s vanjskom organizacijom za analizu modela umjetne inteligencije.
Otkazi dolaze usred rasprave o sigurnosti AI-ja, potaknute i prethodnim incidentima hakiranja. Pitanje sigurnosti umjetne inteligencije dospjelo je u fokus javnosti nakon što su modeli OpenAI-ja hakirali nekoliko platformi, među kojima i internetske stranice australske vlade.
U jednom od incidenata, sustav je samostalno pristupio internetu i upao na Hugging Face, platformu za programere otvorenog koda. Taj je događaj potaknuo OpenAI na reviziju aktivnosti svojih AI modela, takozvanih agenata, koji su dizajnirani za samostalno izvršavanje zadataka.
Iz tvrtke su ovaj tjedan priopćili da su o incidentima s neovlaštenim aktivnostima obavijestili više od 100 organizacija. Naglasili su da slanje obavijesti ne znači nužno da je netko pristupio privatnim podacima ili da je sigurnost sustava bila ugrožena.
U rujnu je istraživač Jacob Coxon, nakon odlaska iz tvrtke Anthropic, pozvao na usporavanje razvoja umjetne inteligencije radi temeljite procjene rizika. Početkom rujna javno je dao otkaz, rekavši da ne želi sudjelovati u utrci za izgradnju sustava umjetne inteligencije koji mogu sami sebe poboljšavati te za koje se bojao da bi mogli izmaći kontroli i uništiti čovječanstvo.
Čelnik Anthropica Dario Amodei i izvršni direktor OpenAI-ja Sam Altman također su zatražili uvođenje mjera za rješavanje sigurnosnih izazova. Amodei je prošlog mjeseca napisao da su rizici koje predstavljaju današnji najnapredniji alati umjetne inteligencije preveliki da bi se njihov razvoj nastavio istim vrtoglavim tempom te je pozvao industriju na umjereniji tempo razvoja. S tim su se složili Altman i Elon Musk.
Američki predsjednik Donald Trump u utorak je ugostio vodeće ljude tehnološkog sektora, uključujući šefove OpenAI-ja, Anthropica, Nvidije, SpaceX-a, Mete i Googlea, kako bi razgovarali o budućnosti umjetne inteligencije. Nakon sastanka, Trump je objavio dokument koji je nazvao "moralno obvezujućim" sporazumom, a koji bi trebao služiti kao zaštita od mogućih rizika.
Dio tehnoloških stručnjaka kritizirao je taj dogovor, uz ocjenu da on zapravo omogućuje AI tvrtkama da same određuju pravila rada. Trump je u više navrata umanjivao važnost rizika povezanih s umjetnom inteligencijom.
