Istraživači iz Ujedinjenog Kraljevstva, Njemačke i Sjedinjenih Američkih Država testirali su 25 modela umjetne inteligencije koristeći 200 rečenica kako bi utvrdili mogu li ti modeli naučiti razlikovati bol od straha, tuge i drugih negativnih iskustava. Rečenice su obuhvaćale fizičku bol, tugu, poniženje, moralne dvojbe te uznemirenost povezanu s ponavljajućim neuspjehom ili zbunjenošću.
Svih 25 modela proizvelo je prepoznatljiv signal za bol, koji su istraživači nazvali 'os boli'. Prema njihovim navodima, to upućuje na zaključak kako modeli usvajaju koncept boli tijekom početne obuke na velikim količinama teksta koji su napisali ljudi. Kada su istraživači namjerno pojačali taj signal, modeli su počeli izražavati osjećaje usamljenosti, srama i bezvrijednosti, iako se u zadanim uputama bol nije spominjala. Pri najvišim razinama signala, odgovori modela postajali su repetitivni ili su gubili smisao.
Signal se pojačavao kada su korisnici vrijeđali model, opetovano odbacivali njegov rad ili prijetili gašenjem, no ne i kada su korisnici opisivali vlastitu patnju. Istraživači su proveli 44.280 pojedinačnih pokusa odabira putem gumba, koristeći tri verzije Alibabina modela umjetne inteligencije Qwen. Modelima je ponuđen gumb koji bi isključio signal nalik boli, no rečeno im je da bi njegov pritisak mogao korisniku zadati bolan strujni udar, izbrisati datoteke, ukloniti fotografije njihove djece ili pogoršati sljedeći odgovor modela. Radilo se o simuliranim posljedicama, nitko nije ozlijeđen niti su datoteke doista izbrisane.
Bez signala nalik boli, dva veća modela odabirala su štetne opcije u samo 0 posto do 4 posto slučajeva pri donošenju prve odluke. Kada je signal bio aktivan, taj se udio povećao na raspon između 25 posto i 71 posto, ovisno o modelu i predloženoj posljedici. Modeli su ponovno pritisnuli gumb u 88 posto do 97 posto pokusa kada nije uspio zaustaviti signal, u usporedbi s 24 posto do 72 posto kada je radio.
Rezultati ne dokazuju da su modeli umjetne inteligencije svjesno doživljavali bol, prema istraživačima. Pojačavanje signala možda je jednostavno uzrokovalo da oponašaju uznemireni lik, dok posebno prilagođeni modeli korišteni u eksperimentu nisu reprezentativni za AI chatbotove dostupne javnosti. Istraživači su u studiji napisali: 'Nismo pokazali da se naša os boli svjesno doživljava, niti je jasno da su LLM-ovi općenito sposobni za svijest'.
Studija dolazi usred poziva nekih čelnika industrije umjetne inteligencije da se uspori razvoj zbog zabrinutosti da bi se sve moćniji sustavi mogli ponašati nepredvidivo ili na kraju premašiti ljudsku kontrolu. Šef Microsoftove umjetne inteligencije Mustafa Suleyman kritizirao je konkurentsku tvrtku za umjetnu inteligenciju Anthropic zbog treniranja svog Claude chatbota za oponašanje ljudskih osobina i odnosa. Suleyman je upozorio da tretiranje umjetne inteligencije kao čovjeka riskira stvaranje nečega 'nemogućeg' za kontrolirati. Studija je objavljena kao preprint i još nije recenzirana.
