Kritična situacija u američkim oružanim snagama izbijala je kada je automatski generirano izvješće, stvoreno uz pomoć umjetne inteligencije, potaknulo hitnu vojnu reakciju. Prema dostupnim informacijama, sustav je generirao lažnu tvrdnju da kineski brod na Bliskom istoku prevozi komponente za nuklearni program. Ova je neistina, propraćena pogrešnom analizom podataka, stvorila ozbiljnu prijetnju i gotovo dovela do vojne intervencije protiv navedenog broda, da nije bilo hitne intervencije u posljednjem trenutku.
Analiza je pokazala da je do pogreške došlo zbog nepravilnog tumačenja podataka, koji su stigli iz zapovjednog centra za specijalne operacije SAD-a na Pacifiku. Iako je analitičar pokušao provjeriti točnost informacija, automatski generirani podaci bili su toliko uvjerljivi da su gotovo doveli do pogrešne odluke. Ovaj incident naglasio je kritičnu potrebu za strožom kontrolom i verifikacijom podataka generiranih pomoću umjetne inteligencije, posebno u vojnim i sigurnosnim kontekstima.
Ministar obrane Pete Hegseth, koji je u siječnju predstavio strategiju ubrzanja primjene umjetne inteligencije, istaknuo je važnost razumijevanja rizika povezanih s ovom tehnologijom. Strategija predviđa da se vodeći svjetski AI modeli stave na raspolaganje za tri milijuna civilnih i vojnih djelatnika na svim razinama tajnosti podataka. Međutim, ovaj incident pokazao je da, unatoč napretku u tehnologiji, ljudska procjena i oprez i dalje ostaju ključni za sprečavanje ozbiljnih pogrešaka.
Ovaj incident također je potaknuo rasprave o etičkim aspektima korištenja umjetne inteligencije u vojne svrhe. Stručnjaci upozoravaju da, iako AI može poboljšati efikasnost i brzinu donošenja odluka, nužno je osigurati da se ova tehnologija koristi odgovorno i da se spriječe potencijalne opasnosti. Upravo je stoga važno da se AI integrira u vojne i sigurnosne sustave uz stroge kontrole i procjene, kako bi se spriječile slične situacije u budućnosti.
