Deepfake prevare dostigle su industrijske razmjere, a alati za njihovu izradu postali su jeftini i lako dostupni za masovnu upotrebu, pokazuje analiza koju su objavili stručnjaci za vještačku inteligenciju.
Lažni video-sadržaji, poput onih u kojima se pojavljuju švedski novinari ili kiparski predsjednik, više nisu rijetkost, a prevaranti ih koriste za stvaranje prilagođenih i personalizovanih obmana, piše The Guardian.
Baza podataka o incidentima sa vještačkom inteligencijom (AI Incident Database) zabilježila je više od deset nedavnih primjera „lažnog predstavljanja radi zarade“.
Među njima su deepfake video premijera Zapadne Australije, Roberta Cooka, koji nudi investicionu šemu, te lažni ljekari koji promovišu kreme za kožu.
Sve lako dostupno
Ovi slučajevi dio su šireg trenda u kojem prevaranti koriste lako dostupne AI alate za sprovođenje sve sofisticiranijih prevara. Prošle godine finansijski službenik jedne singapurske multinacionalne kompanije isplatio je gotovo 500.000 dolara prevarantima nakon što je učestvovao u, kako je vjerovao, video-pozivu sa upravom kompanije.
Procjenjuje se da su britanski potrošači u devet mjeseci do novembra 2025. zbog prevara izgubili 9,4 milijarde funti.
– Mogućnosti su odjednom dostigle nivo na kojem lažni sadržaj može da stvori praktično bilo ko – rekao je Simon Milius, istraživač sa MIT-a koji radi na projektu povezanom sa bazom podataka.
On navodi da su „prevare, obmane i ciljana manipulacija“ činile najveći udio incidenata prijavljenih bazi u 11 od posliednjih 12 mieseci.
– Sve je postalo toliko dostupno da zapravo više nema nikakvih prepreka za ulazak – dodao je.
S tim se slaže i Fred Heiding, istraživač sa Harvarda koji proučava prevare potpomognute vještačkom inteligencijom.
– Mijenjaju se razmjere. Postaje toliko jeftino da time može da se služi gotovo svako. Modeli postaju zaista dobri, napreduju mnogo brže nego što većina stručnjaka misli – istakao je.
Neobičan intervju za posao
Početkom januara, Jason Rebholz, izvršni direktor kompanije za AI bezbjednost Evoke, objavio je oglas za posao na LinkedInu.
Ubrzo ga je kontaktirala nepoznata osoba iz njegove mreže i preporučila kandidata. U roku od nekoliko dana, Rebholz je razmjenjivao mailove sa osobom koja je na papiru djelovala kao talentovani inženjer.
– Pogledao sam CV i pomislio kako je zaista dobar. Iako je bilo nekih sumnjivih znakova, odlučio sam da ga pozovem na razgovor – ispričao je.
Tada su stvari postale čudne.
Mailovi kandidata završavali su u neželjenoj pošti, a CV je imao neobičnosti. Ipak, Rebholz je odlučio da nastavi sa intervjuom.
Kada je započeo video-poziv, slika kandidata pojavila se tek nakon gotovo minute.
– Pozadina je bila očigledno lažna. Izgledala je veoma, veoma vještački. Program se mučio sa ivicama oko osobe. Dešavalo se da mu dio tijela nestane pa se opet pojavi. A lice mu je bilo nekako zamućeno po ivicama – opisao je Rebholz.
Lažno predstavljanje
Nastavio je sa razgovorom, ne želeći da se dovede u neugodnu situaciju direktnim propitivanjem da li je kandidat zapravo složena prevara.
Nakon poziva, snimak je poslao kontaktu u kompaniji za otkrivanje deepfake sadržaja, koji je potvrdio da je video-slika kandidata generisana vještačkom inteligencijom.
Rebholz je odbio kandidata, ali i dalje ne zna šta je bio cilj prevaranta, inženjerska plata ili poslovne tajne. Iako je bilo izvještaja o sjevernokorejskim hakerima koji su pokušavali da se zaposle u Amazonu, Evoke je startup, a ne veliki igrač.
– Ako smo mi meta ovoga, onda su meta svi – zaključio je.
Istraživač Fred Heiding upozorava da najgore tek slijedi. Trenutno je tehnologija deepfake kloniranja glasa izvanredna, što prevarantima olakšava da se telefonom predstave kao, na primjer, unuk u nevolji.
Deepfake video-snimci, s druge strane, još uvijek imaju prostora za napredak.
To bi moglo imati ekstremne posljedice na zapošljavanje, izbore i društvo u cjelini.
– To će postati ogroman problem, potpuni gubitak povjerenja u digitalne institucije i materijale opšte – dodao je Heiding.
Besplatnu Android aplikaciju portala SrpskaCafe preuzmite ovdje.