Mene moje oči lažu

Za manipulaciju se može reći da je neuhvatljiva i nevidljiva pojava zastupljena u gotovo svakoj dimenziji društvenog života te se pojavljuje u nevjerojatno mnogo različitih varijacija i oblika. U današnjem smo svijetu putem interneta svakodnevno i neprekidno preplavljeni vijestima i svakojakim informacijama koje su nam dostupne u dva klika. Bivamo informirani ne napuštajući svoju zonu komfora, najvećim dijelom nesvjesni moći koju mediji danas imaju, često nesvjesni tehnika i alata manipuliranja informacijama, a to se posebice odnosi na mlade i djecu, kod kojih kritička svijest nije dokraja razvijena. Neovisno o kronološkoj dobi, već smo odavno izloženi mnoštvu manipulacija i laži prenesenih putem interneta, ponekad ih se može raskrinkati, ponekad ostanu skrivene u vješto upakiran sadržaj.

U krivotvorenim snimkama pojavljuju
se slikom i glasom stvarne osobe
koje je teško razlikovati od originala

„Dok laž obiđe svijet,
istina ne obuje cipele“

Raspon je mogućnosti golem: od senzacionalističkih naslova (engl. clickbait), preko zlonamjerno uređenih fotografija, sve do lažnih vijesti (engl. fake news). Uvođenjem umjetne inteligencije u to područje mogućnost manipulacije podiže se na dosad neviđenu razinu. Laž postaje nevjerojatno stvarna: s imenom i prezimenom, s licem i glasom stvarne osobe. Naravno, govorim o tzv. deepfake-alatima („duboki lažnjaci“). Sama riječ složenica je engleskih pojmova deep learning i fake. Riječ je o digitalnim lažnim, krivotvorenim sadržajima, videima u kojima se pojavljuju slikom i glasom stvarne osobe koje je teško razlikovati od originala. Ponekad se zapravo i ne zna da je to deepfake dok sama stvarna osoba ne istupi i kaže da ona nije sudjelovala u tome videosadržaju, a s obzirom na brzinu širenja sadržaja internetom, ta je laž već obišla svijet. Poznata je izreka „dok laž obiđe svijet, istina ne obuje cipele“.

Bez zakonske regulacije

 Ono što su Photoshop i slični programi za fotografije, to je deepfake za videosadržaje. Tehnologija koju je izumio Ian Goodfellow 2014, u to vrijeme student a danas zaposlenik Applea, dovodi nas kao korisnike interneta u nevjerojatne situacije. Kolokvijalno rečeno, zapravo ne znamo što vidimo svojim očima – laž ili istinu – jer nam tu vlastite oči ne pomažu nego su, upravo suprotno, iskorištene u svrhu manipulacije. Našim je vidom i sluhom praktički nemoguće razlučiti je li neka snimka koja kruži internetom istinit događaj. Mogućnosti manipulacija enormne su. Nakon što neki svjetski lider izjavi nešto kroz deepfake tehnologiju, to je obišlo svijet, a da ne govorim o montažama sastanaka, videa, cijelih događaja, montiranju kompromitirajućih „snimaka iz mladosti“ i sličnih stvari. Svemu je zajedničko jedno – ono što vidimo i čujemo djeluje istinito i autentično. Čemu se čuditi kad dobro znamo da primjena alata koji rabe umjetnu inteligenciju za neku vrstu „lažiranja“ fotografija ili videa postoji već niz godina u širokoj upotrebi.

Nije novost da danas i djeca mlađe školske dobi, osnovnoškolci, rutinski koriste aplikacije temeljene na toj tehnologiji za zabavno uređivanje fotografija, a nemalen broj ljudi na svojim računalima ili mobitelima ima instalirane aplikacije koje im omogućuju transformiranje postojećih ili kreiranje novih fotografija ili videosnimaka, bilo da se njima koriste za zabavu ili posao. Jasno, ovdje ne govorimo o klasičnom deepfakeu, nego o svojevrsnoj montaži fotografija ili videosnimaka. Među najšire rasprostranjenim aplikacijama su FaceApp iz 2017, koja omogućava da na svojim ili tuđim fotografijama promijenimo izgled, dob ili spol, ili pak Combo AI, koja omogućuje umetanje svoga ili lica drugih osoba u ponuđene filmske scene ili videospotove. Bilo bi divno kada bi se upotreba tih alata umjetne inteligencije svodila samo na stvaranje zabavnih sadržaja koji nikomu ne nanose štetu.

Svjetski mediji prenijeli su nedavno slučaj američke pjevačice koja je postala žrtva tog moćnog alata. Unatrag nekoliko godina mediji izvješćuju o mnogo slučajeva zlouporabe te tehnologije. Primjerice, mnoge poznate glumice i pjevačice bile su žrtve tako da je njihovo lice montirano kroz deepfake na tijela pornografskih glumica te su takvi lažni i neprimjereni sadržaji distribuirani kroz specifične internetske platforme. Štoviše, bilježi se snažan trend te vrste zlouporabe tehnologije.

Moram istaknuti da mnoge države, a među njima je i Hrvatska, nisu pravosudno ni zakonima regulirale taj problem. Jasno je da se ne bi smjelo manipulirati tuđim fotografijama bez dozvole osoba koje su na njima, a isto vrijedi i za videosadržaje, očito je da šteta koju deepfake izaziva nadilazi kazneno djelo povrede privatnosti.

Politika i manipulacije

Prema aktualnim podacima oko 95 posto lažnih videosadržaja na internetu čine pornografski sadržaji, napravljeni bez pristanka osoba kojima su se lica rabila u deepfake-montaži. Ne smijemo zaboraviti ni politiku u kontekstu manipulacije koju ta tehnologija omogućava. Niz je slučajeva u kojima je korišteno lice i glas stvarne osobe, konkretno političkog lidera, za prenošenje određenih političkih poruka (od Baracka Obame do Volodimira Zelenskog). Svaki takav lažni sadržaj može imati specifičan utjecaj na javnost ili na one kojima su kreatori takva sadržaja ciljana publika.

Činjenica je da je na većini društvenih mreža deepfake zabranjen, ali je i dalje aktualan. Da se vratim na spominjanu manipulaciju s početka teksta i njezine implikacije. Psiholozi tvrde da ljudima u sjećanju ostaje prvi dojam, pa nakon što vidimo lažnu snimku ne znajući da je lažna, taj je dojam već kreiran u našoj svijesti. Čak i kad se dokaže da se radilo lažnoj snimci dio ljudi će, unatoč tomu, i dalje ostati pod utjecajem prvog dojma i kreirati mišljenje na temelju toga. Dobra je vijest da se paralelno uz porast zlouporaba brzo razvijaju i alati kojima će se moći prepoznati radi li se o manipuliranom, lažnom ili generiranom sadržaju stvorenu posredovanje umjetne inteligencije, no ostaje činjenica da ljudskom oku to i dalje neće biti vidljivo.