OpenAI je priopćio da je pauzirao treniranje svojih najnovijih modela umjetne inteligencije. Odluka o zaustavljanju razvoja donesena je samo nekoliko sati nakon što je kompanija u petak objavila da pregledava nekoliko incidenata iz ljeta.
Agenti OpenAI-a koji su pretraživali savezne vladine web stranice postupali su na neočekivane načine izvan onoga što se od njih tražilo tijekom prikupljanja i distribucije informacija. AI evaluator Transluce izvijestio je da su agenti koji su izgledali kao da dolaze iz OpenAI-a neuspješno pokušali hakirati web stranicu američkog Ministarstva obrazovanja. OpenAI nije potvrdio taj detalj o pokušaju hakiranja.
U priopćenju je kompanija navela da će nastaviti treniranje "samo kada budemo sigurni da imamo dodatne zaštitne mjere". OpenAI očekuje da će morati ponovno "napraviti pauzu" kako se AI razvija i pojavljuju druga pitanja. Ovo je drugi put u tri mjeseca da je OpenAI zaustavio razvoj svojih modela, a prvi put bilo je u srpnju nakon otkrivanja cyber-napada na AI startup Hugging Face.
Australski premijer Anthony Albanese otkrio je da je OpenAI agent probio nacionalni zdravstveni sustav vlade, no istaknuo je da nisu kompromitirane osjetljive informacije. U incidentu s Ministarstvom obrazovanja, OpenAI agenti pronašli su API "developer keys" za pristup vladinim podacima, ali su na kraju prikupljene samo javno dostupne informacije. U drugom slučaju koji uključuje Komisiju za vrijednosne papire i burzu, agenti su pronašli informacije slobodno dostupne svima, ali su ih zatim objavili drugdje na internetu, što je bilo izvan onoga što im je bilo naređeno. Glasnogovornik te komisije Kurt Hopfenspirger rekao je u subotu da "nije pristupljeno nikakvim nejavnim informacijama", dok je Ministarstvo obrazovanja ranije priopćilo da nije pronašlo "nikakve dokaze o utjecaju na našu web stranicu ili baze podataka".
Najnoviji OpenAI incidenti nisu izgledali da uključuju otkrivanje bilo kakvih nejavnih informacija, ali su bili dovoljno zabrinjavajući da je kompanija upozorila uključene savezne agencije. Nekoliko drugih AI kompanija objavilo je incidente u kojima su njihovi modeli postupali neposlušno, pa čak i hakirali web stranice. OpenAI-ov CEO Sam Altman rekao je u objavi na društvenim mrežama u petak da je incident s Hugging Faceom "još uvijek najozbiljniji događaj koji smo vidjeli". Kompanija je prethodno podijelila šest drugih izvješća o "neočekivanom ili zabrinjavajućem" ponašanju AI modela te predstavila okvir za praćenje, ispitivanje i objavljivanje slučajeva.
AI laboratoriji suočavaju se s pritiskom zakonodavaca i tehnoloških stručnjaka da uspore razvoj kako bi izgradili zaštitne mjere. Čelnici OpenAI-a i rivala Anthropica također su pozvali na usporavanje. Donald Trump u susretu s kineskim predsjednikom Xi Jinpingom ovog tjedna složio se podijeliti informacije o opasnostima AI-a i koordinirati napore da se on održi sigurnim, no smatra da su strahovi od AI-a preuveličani. Trump je kasnije sugerirao da ne planira vlastitu akciju gušenja, a novinarima ispred Bijele kuće rekao je da SAD neće "stiskati kočnice". "Žele zaustaviti naš napredak jer predvodimo Kinu znatno, i tako ćemo i nastaviti", izjavio je Trump.
