Kako džihadisti koriste umjetnu inteligenciju
29. srpnja 2024
On vozi i širi strah i užas: video, koji je teroristička grupa "Islamska država" (IS) objavila na internetu, prikazuje Petera Griffina - glavnog lika iz jedne od najpoznatijih animiranih serija na svijetu "Family Guy". S pištoljem u ruci, animirani lik vozi kamion, natovaren bombom, preko mosta.
Sekvenca iz animiranog filma je autentična i odgovara originalu, ali je zvuk promijenjen. "Naše oružje je teško, naši redovi su brojni, Božji ratnici su više nego spremni", pjeva Griffin u melodiji, koja očito cilja na to da privuče nove pristalice u ekstremističku organizaciju "Islamska država" (IS).
Upotreba napredne tehnologije
Animacija je samo jedan primjer kako ekstremističke grupe vješto koriste naprednu kompjutersku tehnologiju ili umjetnu inteligenciju (AI) za kreiranje sadržaja prilagođenih njihovim pristalicama. AI obuhvaća širok spektar digitalnih tehnologija, uključujući brzo procesiranje velikih količina podataka, kao i takozvanu "generativnu AI", koja na osnovu velikih količina podataka stvara nove tekstove ili slike. Na ovaj način je nastala i pjesma koju su stratezi IS-a stavili u usta Petera Griffina.
"Brza demokratizacija generativne AI-tehnologije u proteklih nekoliko godina duboko se odrazila na način, na koji ekstremističke organizacije koriste online medije za širenje svog utjecaja", piše američki istraživač Daniel Siegel u članku za „Global Network on Extremism and Technology". Video s likom Petera Griffina je primjer ovog pristupa.
Umjetna inteligencija sve više u uporabi
Protekle godine, različite monitoring organizacije su izvijestile kako IS i druge ekstremističke grupe potiču svoje pristalice da koriste nove digitalne alate. Prema pisanju Washington Posta, jedna grupa povezana s Al-Kaidom je u večljači najavila online radionice o umjetnoj inteligenciji. Kasnije je ista grupa objavila vodič za korištenje AI-chatbota.
Nakon što je u ožujku ogranak IS-a u terorističkom napadu na Crocus City Hall u Moskvi ubio preko 135 ljudi, jedan njihov pristalica je kreirao lažnu vijest o događaju i objavio je četiri dana nakon napada.
Još jedan primjer
Početkom srpnja, španjolski službenici su uhitili devet osoba zbog širenja propagande u korist Islamske države. Među njima je bio i čovjek koji se specijalizirao za proizvodnju ekstremističkih multimedijalnih sadržaja baziranih na tehnikama umjetne inteligencije.
"Umjetna inteligencija nadopunjuje službenu propagandu Al-Kaide i IS-a", kaže Moustafa Ayad iz Instituta za strateški dijalog (ISD). "Omogućuje pristalicama i neslužbenim podržavateljima da stvaraju emotivne sadržaje koji služe za pridobijanje novih pristalica za njihovu izvornu ideju."
Na društvenim mrežama je to vrlo djelotvorno. „Pristalice IS-a imaju niske kriterije", kaže Ayad. „Oni dijele čak i najsmješnije i najnerealnije sadržaje IS-a."
Visok tehnički kvalitet
Dugogodišnjim promatračima IS-a ovo nije iznenađenje. Kada je grupa prvi put privukla pažnju 2014. godine, činila je to uz pomoć propagandnih videozapisa visoke tehničke kvalitete. Cilj je bio zastrašivanje neprijatelja i regrutacija pristalica. "Terorističke grupe i njihove pristalice nastavljaju koristiti najsuvremeniju tehnologiju kako bi ostvarili svoje interese", kaže Ayad.
Osim propagande, ekstremističke grupe koriste chatbote s velikim jezičkim modelima kao što je ChatGPT za komunikaciju s novim, potencijalnim regrutima. Kada chatbot privuče interes, ljudski lik, specijaliziran za regrutaciju novih članova, može preuzeti razgovor.
Falsifikati i prave bombe
U radu, objavljenom 2019. godine u časopisu "Perspectives on Terrorism" („Perspektive terorizma"), istraživači su proučavali povezanost između propagande IS-a i stvarnih napada. Oni su zaključili da između propagande i zločina nema "jake i predvidljive korelacije".
"To se može usporediti sa diskusijom o cyber oružju i cyber bombama, koju smo vodili prije deset godina", kaže Lilly Pijnenburg Muller, stručnjakinja za cyber sigurnost na Odjelu za studije o ratu na King's Collegeu u Londonu. „Čak i glasine i stari videozapisi mogu imati destabilizirajući učinak i dovesti do plime dezinformacija na društvenim mrežama", kaže Pijnenburg Muller za DW.
"Ne znam je li upotreba umjetne inteligencije od strane terorističkih organizacija i njihovih pristalica u ovom trenutku opasnija od njihove vrlo realne i zorno prikazane propagande, kao što je snimanje unaprijed planiranih ubojstava civila i napada na snage sigurnosti", kaže istraživač ekstremizma Ayad.
"U ovom trenutku, veća prijetnja dolazi od grupa, koje stvarno izvode napade, inspiriraju pojedinačne napadače ili uspješno regrutiraju nove članove. To postižu i reagiranjem na geopolitičke događaje, posebno na rat između Izraela i militantnog Hamasa - kao odgovor na 7. listopad", navodi Ayad. "Koriste civilne žrtve i akcije Izraela kao retoričko sredstvo za regrutaciju pristalica i pravljenje kampanja."