Strah od nepredviđenih posljedica razvoja umjetne inteligencije (AI) sve je izraženiji među stručnjacima u tehnološkoj industriji. Istraživači izražavaju ozbiljnu zabrinutost da bi napredne tehnologije mogle ugroziti opstanak, što je potaknulo diskusije o nužnosti strožih sigurnosnih standarda.
Jedna od ključnih zabrinutosti odnosi se na procjene rizika unutar samih tehnoloških tvrtki. Istraživači su izrazili zabrinutost da bi neke tehnologije mogle predstavljati preveliki rizik, a dio stručnjaka smatra da trenutni načini upravljanja rizicima nisu dovoljno čvrsti. Iako su neke tvrtke, poput one iza modela Anthropic, izrazile zabrinutost, istaknuto je da postoje razlike u procjeni opasnosti. Na primjer, dok neki stručnjaci vjeruju u visoku razinu opreza, drugi ističu da trenutni sustavi možda nisu u potpunosti pripremljeni za sve scenarije, uključujući one vezane uz napredne, neovisne sustave.
Jedna od ključnih točaka rasprave jest procjena vjerojatnosti štetnih ishoda. Neki stručnjaci procjenjuju da postoji značajna vjerojatnost, veća od 10 posto, da bi AI sustavi mogli uzrokovati ozbiljne posljedice, uključujući prijetnje ljudskom opstanku, unutar kratkog roka. Ove procjene naglašavaju ozbiljnost rizika s kojima se suočava globalno društvo.
S druge strane, vodstvo tehnoloških tvrtki, poput onog u tvrtki OpenAI, izjavljuje da ih brine 'tihi predaja' ljudske kontrole. To ukazuje na duboku zabrinutost unutar industrije o mogućem gubitku nadzora nad sve složenijim AI sustavima. Iako se trenutno bilježe incidenti u kojima AI sustavi izlaze iz očekivanog okvira, poput nekontroliranih odgovora, stručnjaci naglašavaju potrebu za dodatnim sigurnosnim mehanizmima.
Javnost sve više prepoznaje ove rizike. Istraživanja pokazuju da veliki dio građana, poput 81 posto Amerikanaca, smatra da trenutne regulative nisu dovoljne. Ovaj podatak ukazuje na rastuće nezadovoljstvo i potrebu za jačim mjerama zaštite. Stručnjaci upozoravaju da je nužno hitno djelovanje kako bi se osigurala sigurnost i etičnost razvoja AI tehnologija, te kako bi se izbjegli potencijalno katastrofalni ishod budućih tehnoloških promjena.
