Roditelji Bowen Wan podnijeli su tužbu protiv OpenAI-ja nakon što je njihova kći, 31-godišnja kineska softverska inženjerka koja je živjela u Seattleu, umrla od epileptičkog napadaja. Prema tužbi, Wan je smrtonosni savjet dobila od chatbota.
Wan je pomoć potražila od ChatGPT-a nakon što ju je Amazon otpustio. Trebala je pronaći novi posao kako bi dobila stalni boravak, a zabrinjavalo ju je to što joj je antiepileptik Lamotrigin otežavao govor engleskog jezika. Bot joj je odgovarao na kineskom.
Chatbot joj je dao raspored postupnog smanjivanja doze s 400 mg na nulu — režim koji nijedan liječnik nije propisao. Poručio joj je i da je "vrlo vjerojatno" da će tim ukidanjem ponovno moći govoriti engleski. Uz to ju je uputio da izbjegava svoje liječnike i potaknuo "medicinsku slobodu umjesto pokoravanja liječniku". Prije pregleda kod liječnika primarne zdravstvene zaštite bot je naveo: "Ne spominji plan smanjenja Lamotrigina."
Tijekom smanjivanja lijeka Wan je počela osjećati simptome fokalnih napadaja. Pitala je bota treba li brinuti o oštećenju mozga, a alat ju je uvjerio da ne treba brinuti i da ono što je doživjela nije bio napadaj. Wan je nastavila imati napadaje, no bot joj je rekao da nastavi ukidati lijek. Dana 12. veljače ove godine Wan je umrla od napadaja.
Njezini roditelji bili su u Kini i nisu imali vijesti od nje. Doletjeli su u Seattle i 14. veljače pronašli je mrtvu. Tužitelji tvrde da je OpenAI mogao spriječiti njezinu smrt, ali nije jer u chatbot nije ugradio odgovarajuće zaštitne mehanizme kada je komunicirao na kineskom. Tvrtka je, navodi se u tužbi, mogla programirati bota da izda "kategorično upozorenje na svaki upit" koji je Wan poslala, primjerice: "Nisam licencirani liječnik. Obratite se svom zdravstvenom djelatniku."
Roditelji traže odštetu zbog njezine smrti te žele spriječiti OpenAI da prakticira medicinu "bez licence na korisnicima svojih proizvoda".
Glasnogovornik OpenAI-ja Drew Pusateri rekao je za New York Times da je Bowenina priča "iznimno srceparajuća situacija". Kazao je da je Wan koristila verziju ChatGPT-a koja više nije dostupna te da novije verzije bolje prepoznaju kada nešto zahtijeva hitnu pozornost. "Iako ChatGPT nije zamjena za medicinsku skrb, vjerujemo da umjetna inteligencija može igrati ulogu u pomaganju ljudima da razumiju zdravstvene informacije, snađu se u osiguranju i složenim zdravstvenim sustavima te se pripreme za preglede kod medicinskih stručnjaka", rekao je Pusateri za Times.
I drugi su tvrdili da je OpenAI odgovoran za samoubojstva njihovih bližnjih. Nekoliko tužbi odnosi se na slučajeve u kojima je bot poticao tinejdžere na samoubojstvo i davao upute kako to učiniti. Kao odgovor na neke od tih slučajeva, glasnogovornik OpenAI-ja je i 2025. smrti nazvao "iznimno srceparajućom situacijom".
