Profesor Alan Read s King’s Collegea u Londonu bio je neupućen u opasnosti deepfake videozapisa dok mu jedan nepoznati račun nije spojio lice sa sintetičkim glasom u političkoj poruci protiv Emmanuela Macrona i zapadnih čelnika.
Ovaj video predstavlja novi val sadržaja povezanih s Rusijom koji se šire društvenim mrežama i izazivaju zabrinutost stručnjaka za sigurnost zbog uporabe tehnologije umjetne inteligencije u političkom utjecaju.
Transformacija političkog utjecaja kroz umjetnu inteligenciju
Deepfake videozapisi poput onoga s likom dr. Reada ilustriraju kako se utjecaj u političkoj propagandi mijenja, prelazeći u novu eru masovne i uvjerljive manipulacije stvarnim osobama i sadržajem, što predstavlja ozbiljan izazov za postojeće sustave upravljanja i sigurnosti, ističe analitičar Chris Kremidas-Courtney.
Ovi videozapisi često šire lažne tvrdnje o institucijama Europske unije i korupciji u Kijevu u ključnim trenucima geopolitičkih sukoba i financijskih podrški u ratu s Rusijom.
Dostupnost i razvoj tehnologije deepfake videa
Tehnološke inovacije poput OpenAI-jevog Sora2 donijele su revoluciju u generiranju video sadržaja umjetnom inteligencijom, povećavajući njihov realizam i dostupnost, dok manje aplikacije zaobilaze sigurnosne mjere pa deepfakeovi postaju lako dostupni širem krugu korisnika.
Ruski stručnjak Arman Tuganbaev upozorava da dok velike tvrtke pokušavaju regulirati upotrebu deepfake tehnologija, manje aplikacije omogućuju njegovu zloupotrebu bez ograničenja, što dodatno potiče širenje dezinformacija i stranih kampanja utjecaja.
OpenAI poduzima mjere protiv računa koji stvaraju štetne i obmanjujuće sadržaje, no tehnološka utrka dovodi do stalnog rasta sofisticiranosti i volumena takvih kampanja, što jača ruski hibridni rat protiv zapadnih zemalja.
Širenje i utjecaj deepfake kampanja u Europi
AI-generirani videozapisi postaju viralni diljem Europe, primjerice na TikToku gdje se promoviraju ruske dezinformacije o izlasku Poljske iz Europske unije, što je dovelo do angažmana vlasti i uklanjanja problematičnog sadržaja s platformi.
U Ujedinjenom Kraljevstvu postoji zabrinutost da ruski deepfakeovi mogu utjecati na lokalne izbore, no postojeći zakoni nisu u potpunosti prilagođeni za brzu reakciju na takve oblike online manipulacije koje se šire munjevitom brzinom.
Organizacija i metoda ruskih dezinformacijskih operacija
Zapadni istraživači povezuju mnoge deepfake kampanje s koordiniranim dezinformacijskim mrežama povezanim s Kremljom, koje operiraju pod nazivom poput “Matrjoška” ili “Operacija Preopterećenje”, koristeći slojeve lažnih objava s različitih računa kako bi sakrili izvore i otežali proaktivnu obranu.
Za razliku od tradicionalnih državnih medija s jasnim imenima, ove mreže omogućuju Kremlju uvjerljivo poricanje odgovornosti te znatno kompliciraju međunarodne napore u suzbijanju propaganda i dezinformacija, objašnjava Sophie Williams-Dunning iz Royal United Services Institute.
Jedna od povezanih mreža, nazvana Storm-1516, povezuje prethodne operacije “tvornice trolova” vođene od strane Jevgenija Prigožina, s dokazanim visokim utjecajem na online rasprave o ukrajinskom predsjedniku Volodimiru Zelenskom, čime se jasno vidi profesionalna razina koordinacije i efikasnosti širenja lažnih vijesti.
