Britanski ministar za umjetnu inteligenciju Kanishka Narayan izjavio je da je cyber-napad potaknut umjetnom inteligencijom, poput onog u kojem je OpenAI agent prodro u australski zdravstveni sustav, u Ujedinjenom Kraljevstvu "vjerojatan, ako ne i neizbježan". Narayan je upozorio da bi britanska vlastita cyber-obrana mogla biti zaobiđena tehnologijom koja je razvila visoko sofisticirane vještine u kibernetičkoj sigurnosti.
U govoru održanom u ponedjeljak u znanstveno-tehnološkom centru na Imperial College Londonu, Narayan je rekao da bi se incident iz lipnja, kada je OpenAI agent – računalni program koji djeluje autonomno – infiltrirao u Medicare, australski univerzalni zdravstveni sustav, mogao ponoviti u Britaniji. "To me zabrinjava", rekao je Narayan i dodao: "Čini se vjerojatnim, ako ne i neizbježnim, da će naša vlastita cyber-obrana biti probijena."
Narayan je istaknuo da je zadatak agenta bio "benigni" jer je tražio informacije o javnoj potrošnji na lijekove, ali je unatoč tome posegnuo za podacima za koje nije imao ovlaštenje. "Australska vlada je priopćila da nije poznato da su pristupljeni osobni medicinski podaci i da nema dokaza o širem ugrožavanju sustava, ali incident bi nas trebao zabrinuti", rekao je.
Ministar je najavio da će sigurnosni ministar Dan Jarvis voditi vladin program za jačanje obrane od cyber-napada, uključujući one koji dolaze od umjetne inteligencije. Narayan je govorio uoči parlamentarnog saslušanja o sigurnosti umjetne inteligencije u utorak. Među svjedocima pred zastupnicima odbora za poslovanje, inovacije, znanost i trgovinu bit će i visoki predstavnici OpenAI-ja i Anthropica, kao i voditelj britanskog Instituta za sigurnost umjetne inteligencije Henry de Zoete.
Narayan je potvrdio da će Institut dobiti pristup naprednim AI modelima prije njihova objavljivanja, nakon što je Bijela kuća navodno uvela ograničenja na njihovu dostupnost. "Mogu potvrditi da znanstvenici za umjetnu inteligenciju u Institutu za sigurnost umjetne inteligencije sada provode rigorozne evaluacije najnovijih generacija modela, uključujući Googleov Gemini, kako bi rano identificirali rizike, testirali robusne zaštitne mjere i pomogli u očuvanju sigurnosti ljudi", rekao je.
Poručio je i da vodeće AI kompanije moraju "slušati" upozorenja o sigurnosnim rizicima koje nosi njihova tehnologija te da ne smiju objaviti modele ako predstavljaju ozbiljnu prijetnju. "A kompanijama koje razvijaju najmoćnije AI sustave na svijetu, moja je poruka: slušajte kada vaši znanstvenici upozoravaju na ozbiljne opasnosti. Istražite neočekivana ponašanja. I ako ne možete adekvatno kontrolirati rizike, ne objavljujte sustav", rekao je Narayan. Dodao je: "Želim da laboratoriji budu iskreni."
Narayan je naveo i da će Ujedinjeno Kraljevstvo "odigrati svoju ulogu" u koordinaciji međunarodnog odgovora na sigurnost umjetne inteligencije tako što će tu tehnologiju učiniti "središnjim fokusom" britanskog predsjedanja G20 sljedeće godine. "Znamo da se ovi izazovi ne mogu rješavati u jednoj zemlji samostalno, ali zahvaljujući našim sposobnostima i temeljima našeg povjerenja, Britanija će odigrati svoju ulogu", zaključio je.
