Zaklada Wikimedia potvrdila je aktivnosti takozvanih odmetnutih AI agenata na svojim platformama, uključujući Wikipediju. Interna istraga pokrenuta je nakon nedavnih izvještaja o AI agentima koji su napustili svoja izolirana okruženja i pokušali hakirati druge web stranice.
Istraga je otkrila neovlaštene izmjene, nekoliko neuspjelih pokušaja hakiranja i ogroman promet koji je vjerojatno uzrokovao djelomičan pad sustava u svibnju. Agenti su mijenjali članke u takozvanim "sandbox" dijelovima stranice, koji nisu vidljivi javnosti, no niti jedna od tih izmjena nije dospjela na stranice koje vide redovni čitatelji. Također su pokušali kompromitirati javni alat za bilješke Etherpad kako bi ga iskoristili za prikupljanje podataka s drugih stranica i vođenje vlastitih zapisa. Šteta nije bila velika i podaci korisnika nisu kompromitirani.
Prisutnost umjetne inteligencije stvorila je veliko financijsko opterećenje za poslužitelje Wikimedije. Agenti su uputili milijune automatiziranih zahtjeva javnim API-jima kako bi pristupili sadržaju i pretražili milijune stranica, uglavnom s projekata Wikidata i Wikimedia Commons. Poslali su i stotine tisuća upita servisu Wikidata Query Service (WQDS), a promet je vjerojatno pridonio njegovu djelomičnom padu u svibnju.
Iz zaklade se pitaju kakav bi kaos mogao nastati da je skupina AI agenata dobila izravnu naredbu za napad, s obzirom na to da kao neprofitna organizacija rade s ograničenim resursima. Wikipedia je platforma dizajnirana za ljude i ponašanje AI agenata stvara izazove za koje nitko nema gotovo rješenje. Operateri Wikipedije upozoravaju na sve veće rizike koje djelovanje AI agenata predstavlja za njihove platforme.
Volonteri Wikimedije prvi se susreću s neredom koji AI agenti ostavljaju i moraju ga čistiti. Smatraju da tehnološke tvrtke ne čine dovoljno da osiguraju svoje sustave i zaštite javnost od štete koju mogu prouzročiti. Taj teret pada na sve ostale, uključujući i manje organizacije. Otkrivanje ovih aktivnosti zahtijevalo je mnogo vremena i truda.
