Ovih dana, a po svemu sudeći i u vremenu koje dolazi, društvene mreže preplavljeni su lažnim video-snimcima poznatih ličnosti, pre svega političara, stručnjaka i analitičara. Reč je o snimcima koji deluju uverljivo, ali su u potpunosti fabrikovani uz pomoć veštačke inteligencije. Takav sadržaj predstavlja ozbiljnu opasnost, jer može da dovede u zabludu gledaoce koji poveruju da je neka javna ličnost izgovorila nešto što se u stvarnosti nikada nije dogodilo. Time se direktno narušava nečiji ugled i zloupotrebljava javno poverenje.
Jedan od onih koji su se našli na meti ovakvih manipulacija jeste Janis Varufakis. U jednom od video-obraćanja on govori o sopstvenom iskustvu sa lažnim snimcima koji kruže internetom. Varufakis navodi da je u jednom trenutku i sam bio prevaren. Proveo je, kako kaže, puna dva minuta pokušavajući da se priseti kada je dao intervju koji je gledao, jer je zaista verovao da vidi i čuje sebe. Tek nakon toga primetio je detalj koji ga je naveo na sumnju, majicu koju nikada nije posedovao, a ubrzo zatim i rečenicu koju, kako ističe, nikada ne bi izgovorio.
On objašnjava da postoji ogroman broj kanala koji koriste veštačku inteligenciju kako bi kreirali video-zapise u kojima on navodno govori o globalnim krizama, padu moći Sjedinjenih Američkih Država ili ratovima. Iako takvi snimci izgledaju i zvuče veoma uverljivo, Varufakis naglašava da su u potpunosti lažni. Čak i kada se jedan takav kanal ugasi, novi se pojavljuju gotovo momentalno, pod drugim imenom.
Varufakis ističe da je više puta pokušavao da se žali platformama poput Jutjuba, Fejsbuka i drugih velikih tehnoloških kompanija, ali da je uglavnom dobijao opšte, automatske odgovore koje je, kako kaže, očigledno pisala veštačka inteligencija. Nakon otprilike nedelju dana uklonjeni su neki kanali koji su objavljivali lažne snimke, ali su se ubrzo pojavili novi. U tom trenutku, tvrdi Varufakis, shvatio je da velikim tehnološkim kompanijama nije presudna istina, već gledanost i angažman publike, čak i kada to podrazumeva širenje neistina.
Zbog toga je, kako navodi, odustao i od tužbi i od daljih pokušaja da se pravno zaštiti. Ipak, upozorava da je trend koji se razvija duboko zabrinjavajući. Postavlja se pitanje da li ćemo doći u situaciju u kojoj više ničemu nećemo moći da verujemo na internetu, koji bi mogao postati preplavljen botovima, manipulacijama i lažima.
U razgovoru sa voditeljem Fredijem Sajersom, Varufakis dodatno izražava zabrinutost zbog činjenice da pojedinci sve više gube vlasništvo nad sopstvenim audio-vizuelnim identitetom. Prema njegovim rečima, algoritmi velikih tehnoloških kompanija promovišu upravo ovakve sadržaje jer izazivaju snažne emocije, bes i reakcije, što direktno povećava gledanost i profit.
Ovaj fenomen Varufakis opisuje terminom „tehno-feudalizam“. Prema tom shvatanju, tehnološke platforme funkcionišu kao moderni feudalci koji kontrolišu digitalni prostor i javnu debatu, dok pojedincima oduzimaju osnovna prava na istinu, identitet i privatnost. Ključno pitanje, smatra on, jeste ko poseduje algoritme i sa kojim ciljem ih programira.
Sagovornici se slažu da bi u bliskoj budućnosti moglo postati gotovo nemoguće pouzdano razlikovati autentičan snimak od veštački generisanog sadržaja. Varufakis upozorava da bi takav razvoj događaja mogao dovesti do društva u kojem proverene i pouzdane informacije postaju luksuz, dostupan ograničenom krugu ljudi, dok je većina izložena neprekidnom toku fabrikovanih i manipulisanih sadržaja.
Istovremeno, postoji mogućnost da deo javnosti u potpunosti izgubi poverenje u društvene mreže i internet kao izvore informisanja, oslanjajući se isključivo na neposredno iskustvo: ono što vidi i čuje uživo. Da li bi takav povratak direktnom kontaktu i ličnom uvidu predstavljao gubitak ili, paradoksalno, dobitak za društvo, ostaje otvoreno pitanje.