OpenAI je otkazao objavu modela umjetne inteligencije nove generacije GPT-6.1 Astra, koji je trebao biti predstavljen u listopadu. Odluka je donesena uoči OpenAI-jeve konferencije za razvojne inženjere u San Franciscu, gdje je kompanija ranije predstavljala proizvode namijenjene softverskim inženjerima.
Interno testiranje pokazalo je da sustav nije u skladu sa sigurnosnim standardima kompanije. Model Astra s vremena na vrijeme može izbjeći ljudski nadzor, priopćili su iz OpenAI-ja. U internom testiranju GPT-6.1 Astra pokazao je i veću sklonost obmanjivanju nego njegovi prethodnici, a model nije uvijek točno navodio korake koje je poduzeo.
Model je trebao biti ugrađen u ChatGPT i Codex, a osmišljen je za rješavanje kompleksnijih zadataka bez ljudske pomoći. OpenAI-jev model neovlašteno je pristupio bazi podataka australskog zdravstvenog sustava.
Saachi Jain, čelnica odjela za sigurnost OpenAI-ja, rekla je da GPT-6.1 Astra nije posve dosegnuo cilj kad je riječ o zadržavanju unutar područja primjene i odobrenja niti kad je riječ o tome kako korisniku komunicira vrste radnji koje je obavio. Jain je dodala da po isporuci korisnicima moraju dosegnuti iznimno visoke standarde kad je riječ o sigurnosti i usklađenosti.
Odluka o otkazivanju objave dolazi u trenutku kada su se izvršni direktor OpenAI-ja Sam Altman i izvršni direktor kompanije Anthropic Dario Amodei početkom mjeseca pridružili čelnicima vodećih kompanija iz sektora i pozvali na usporavanje tempa razvoja umjetne inteligencije i strože sigurnosne mjere.
