Bivšeg predsjednika Donalda Trampa hapse njujorški policajci obučeni u opremu za nerede. Ruski predsednik Vladimir Putin u zatvoru sedi iza rešetaka slabo osvetljene betonske ćelije.
Veoma detaljne, senzacionalne slike preplavile su Tviter i druge platforme poslednjih dana, usred vesti da se Tramp suočava sa mogućim krivičnim prijavama i da je Međunarodni krivični sud izdao nalog za hapšenje Putina.
Ali ni vizuelno nije ni izdaleka realno. Slike – i mnoštvo varijacija kojima su zatrpane društvenim medijima – proizvedene su korišćenjem sve sofisticiranijih i široko dostupnih generatora slika koje pokreće veštačka inteligencija.
Stručnjaci za dezinformacije upozoravaju da su slike preteče nove stvarnosti: talasi lažnih fotografija i video snimaka koji preplavljuju društvene mreže nakon velikih vesti i dodatno zamagljuju činjenice i fikciju u ključnim vremenima za društvo.
„To stvara buku tokom kriznih događaja. Takođe povećava nivo cinizma“, rekao je Dževin Vest, profesor na Univerzitetu Vašington u Sijetlu koji se fokusira na širenje dezinformacija. „Počinjete da gubite poverenje u sistem i informacije koje dobijate.“
Iako mogućnost manipulisanja fotografijama i kreiranja lažnih slika nije nova, alati za AI generator slike Midjournei, DALL-E i drugih su lakši za korišćenje. Oni mogu brzo da generišu realistične slike – zajedno sa detaljnim pozadinama – u masovnim razmerama sa malo više od jednostavnog tekstualnog upita korisnika.
Neke od nedavnih slika su podstaknute ovomesečnim izdavanjem nove verzije Midjournei-jevog modela sinteze teksta u sliku, koji, između ostalog, sada može da proizvede ubedljive slike koje oponašaju stil fotografija novinskih agencija.
U jednoj široko rasprostranjenoj Tviter temi, Eliot Higins, osnivač Bellingcat-a, holandskog istraživačkog novinarskog kolektiva, koristio je najnoviju verziju alata da dočara mnoštvo dramatičnih slika Trampovog izmišljenog hapšenja.
Na snimcima, koji su deljeni i lajkovani desetine hiljada puta, prikazana je gomila uniformisanih policajaca kako grabe republikanskog milijardera i nasilno ga povlače na trotoar.
Higins, koji je takođe stajao iza niza slika Putinovog hapšenja, suđenja i zatvaranja, kaže da je slike postavio bez zle namere. Čak je jasno izjavio u svojoj niti na Tviteru da su slike generisane veštačkom inteligencijom.
Ipak, slike su bile dovoljne da ga zaključaju sa servera Midjournei, kaže Higins. Nezavisna istraživačka laboratorija sa sedištem u San Francisku nije odgovorila na mejlove u kojima je tražen komentar.
„Slika Trampovog hapšenja je zapravo samo usputno pokazivala koliko je Midjournei dobar i loš u prikazivanju stvarnih scena“, napisao je Higins u mejlu. „Slike su počele da formiraju neku vrstu naracije dok sam uključivao pozive na Midjournei, pa sam ih spojio u narativ i odlučio da završim priču.“
Istakao je da su slike daleko od savršenih: na nekima se vidi Tramp, čudno, kako nosi policijski pojas. Kod drugih lica i ruke su jasno izobličeni.
Ali nije dovoljno da korisnici poput Higinsa jasno navode u svojim objavama da su slike generisane veštačkom inteligencijom i isključivo za zabavu, kaže Širin Anlen, medijski tehnolog u Vitnessu, organizaciji za ljudska prava sa sedištem u Njujorku koja se fokusira na vizuelne dokaze.
Prečesto drugi brzo ponovo dele vizuelne elemente bez tog ključnog konteksta, rekla je ona. Zaista, post na Instagramu koji deli neke od Higinsovih Trampovih slika kao da su istinske prikupio je više od 79.000 lajkova.
„Vi samo vidite sliku, a kada nešto vidite, ne možete to da ne vidite“, rekao je Anlen.
U drugom nedavnom primeru, korisnici društvenih medija podelili su sintetičku sliku na kojoj se navodno vidi Putin kako kleči i ljubi ruku kineskog lidera Si Đinpinga. Slika, koja je kružila dok je ruski predsednik ove nedelje poželeo dobrodošlicu Siju u Kremlj, brzo je postala grub mem.
Nije jasno ko je napravio sliku ili koji alat su koristili, ali neki tragovi su odali falsifikat. Na primer, glave i cipele dvojice vođa su bile malo izobličene, a unutrašnjost sobe nije odgovarala prostoriji u kojoj se održao stvarni sastanak.
Kako sintetičke slike postaje sve teže razlikovati od stvarnih, najbolji način za borbu protiv vizuelnih dezinformacija je bolja svest i obrazovanje javnosti, kažu stručnjaci.
„Postaje tako lako i toliko je jeftino praviti ove slike da bi trebalo da učinimo sve što možemo da učinimo da javnost bude svesna koliko je ova tehnologija postala dobra“, rekao je Vest.
Higins sugeriše da bi kompanije društvenih medija mogle da se fokusiraju na razvoj tehnologije za otkrivanje slika generisanih veštačkom inteligencijom i da ih integrišu u svoje platforme.
Tviter ima politiku koja zabranjuje „sintetičke, manipulisane ili van konteksta medije“ sa potencijalom da obmane ili naškodi. Napomene iz Communiti Notes-a, Tvitter-ovog projekta za proveru činjenica prikupljenih od strane publike, priložene su nekim tvitovima da bi se uključio kontekst da su Trampove slike generisane veštačkom inteligencijom.
Kada su dobili komentar u četvrtak, kompanija je e-poštom poslala samo automatizovan odgovor.
Meta, matična kompanija Fejsbuka i Instagrama, odbila je da komentariše. Neke od izmišljenih Trampovih slika su označene ili kao „netačne” ili kao „nedostajući kontekst” kroz program treće strane za proveru činjenica, čiji je AP učesnik.
Artur Holand Mišel, saradnik Karnegijevog saveta za etiku u međunarodnim odnosima u Njujorku koji je fokusiran na nove tehnologije, rekao je da brine da svet nije spreman za predstojeći potop.
Pita se kako će se regulisati deepfakes koji uključuju obične ljude – štetne lažne slike bivšeg partnera ili kolege, na primer.
„Iz perspektive politike, nisam siguran da smo spremni da se nosimo sa ovom skalom dezinformacija na svakom nivou društva“, napisao je Mišel u mejlu. „Moj osećaj je da će biti potreban još nezamisliv tehnički proboj da bi se ovo definitivno zaustavilo.
