“Zabrinjava me što je to postalo toliko normalizovano. On to, očigledno, nije skrivao. Nije osjećao da radi nešto što ne bi smio. Sve se odvijalo javno i ljudi su to vidjeli. Upravo je to bilo toliko šokantno.”
Tako direktorica jedne škole opisuje trenutak kada je tinejdžer, dok je sjedio u autobusu na putu kući, sasvim ležerno izvadio telefon, pronašao fotografiju djevojke iz susjedne škole na društvenim mrežama i pomoću aplikacije za “svlačenje” digitalno obradio njen lik.
Prije deset godina, školama su probleme zadavali “seksualno eksplicitne poruke (tkz. seksting)” i razmjena eksplicitnih fotografija. Danas, zahvaljujući napretku vještačke inteligencije, postalo je krajnje lako proizvesti lažne (deepfake) obnažene slike ili video-snimke koji izgledaju kao da prikazuju vaše prijatelje, školske drugove, pa čak i nastavnike. To može značiti digitalno uklanjanje odjeće sa fotografije, animiranje lika da se sugestivno kreće ili lijepljenje nečije glave na pornografski sadržaj.
Direktorica ne zna zašto je baš ta djevojka, učenica njene škole, bila izabrana, da li ju je dječak poznavao ili je izbor bio potpuno nasumičan. Za incident je saznala tek kada je jedan drugi učenik vidio šta se dešava i prijavio to školi.
Roditelji su obaviješteni, dječak je identifikovan, a slučaj je prijavljen policiji. Međutim, zbog stigme i srama koji prate seksualno nasilje zasnovano na slikama i dijeljenje “deepfake” sadržaja, odlučeno je da se djevojci, koja je bila meta, ništa ne kaže.
“Djevojka zapravo ni ne zna”, rekla je direktorica. “Razgovarala sam sa roditeljima, i oni nijesu željeli da ona to sazna.”
Dječak iz autobusa samo je jedan primjer kako se “deepfake” tehnologije i lako dostupne aplikacije za digitalno “svlačenje” koriste među školskom djecom, često s razornim posljedicama.
U Španiji je prošle godine 15 dječaka iz jugozapadne regije Ekstremadura osuđeno na godinu dana uslovne kazne nakon što su proglašeni krivima za korišćenje vještačke inteligencije radi izrade lažnih golišavih slika svojih školskih drugarica i dijeljenja tih slika u WhatsApp grupama. Oko 20 djevojčica bilo je pogođeno, većina starih 14 godina, dok je najmlađa imala 11.
U Australiji je oko 50 srednjoškolaca iz škole Bahus Marš u Viktoriji prijavilo da su njihove fotografije falsifikovane i distribuirane. Majka jedne učenice rekla je da je djevojka bila toliko užasnuta seksualno eksplicitnim slikama da je povraćala. U Sjedinjenim Državama je više od 30 učenica srednje škole Vestfild u Nju Džersiju otkrilo da su “deepfake” pornografske slike njih dijeljene među muškim vršnjacima na Snapchat-u.
Svi bi trebalo da pokušamo da zamislimo kako bismo se osjećali prije 20 godina da je neko predložio izum ručnog uređaja pomoću kojeg se može praviti realističan pornografski materijal sa stvarnim ljudima koje poznajemo u životu. A onda predložio da se ti uređaji daju našoj djeci. Jer to je, u suštini, situacija u kojoj se sada nalazimo. Dozvoljavamo da te stvari postanu ‘normalne’ pred našim očima, kazao je Set Džejms
To se dešava i u Velikoj Britaniji. Nova anketa među 4.300 nastavnika u srednjim školama u Engleskoj, koju je za “Guardian” sprovela platforma Teacher Tapp, pokazala je da je oko jedan od desetoro nastavnika svjestan da su učenici u njihovoj školi tokom prošle školske godine pravili “deepfake, seksualno eksplicitne snimke”.
Tri četvrtine prijavljenih incidenata uključivalo je djecu od 14 godina ili mlađu, dok je u svakom desetom slučaju riječ bila o jedanaestogodišnjacima, a 3% žrtava bilo je još mlađe – što jasno pokazuje koliko je ova tehnologija lako dostupna i jednostavna za korišćenje. Među nastavnicima koji su učestvovali u anketi, 7% je reklo da su čuli za jedan takav incident, 1% za dva, a sličan procenat da se to dogodilo tri puta ili više tokom prethodne školske godine.
Ranije ove godine, istraživanje organizacije “Girlguiding” pokazalo je da je jedna od četiri ispitanice uzrasta od 13 do 18 godina vidjela seksualno eksplicitnu deepfake sliku neke slavne ličnosti, prijatelja, nastavnika ili svoju.
“Prije godinu koristila sam primjere iz SAD i Španije da govorim o ovakvim slučajevima”, kaže Margaret Malholand, stručnjakinja za specijalne potrebe i inkluziju pri Udruženju direktora škola i koledža. “Sada se to dešava na našem kućnom pragu i to je zaista zabrinjavajuće.”
Prošle godine “Tajms” je objavio da su dvije privatne škole u Velikoj Britaniji u središtu policijske istrage zbog navodnog kreiranja i dijeljenja lažnih pornografskih slika. List je naveo da policija istražuje tvrdnje da su slike nastale u jednoj muškoj školi, digitalnom obradom fotografija preuzetih sa društvenih mreža učenica iz obližnje ženske škole.
Komesarka za djecu Engleske, Rejčel de Souza, pozvala je na zabranu aplikacija za svlačenje, poput ClothOff-a. “Djeca su mi rekla da ih plaši sama pomisao da ova tehnologija postoji, a kamoli da se koristi”, navodi ona.
Nije lako pronaći nastavnike spremne da govore o incidentima s lažnim slikama. Oni koji su pristali da razgovaraju za “Gardijan” insistirali su na strogoj anonimnosti. Druge informacije došle su od akademika koji istražuju upotrebu lažnih snimaka i fotografija u školama i edukatora koji rade na seksualnom obrazovanju.
Tanja Horek, profesorka filma i feminističkih medijskih studija na Univerzitetu Anglia Ruskin, razgovara s direktorima škola u okviru istraživanja kojem je cilj da utvrdi razmjere problema. “Svi su imali incidente s lažnom pronografijom i vidjeli su to kao problem koji tek izrasta”, kaže ona. U jednom slučaju, djevojčica od 15 godina, nova učenica u školi, bila je na meti učenika koji su napravili lažni pornografski snimak s njenim likom. Bila je toliko uznemirena da je u početku odbijala da ide u školu. “Gotovo svi primjeri o kojima su mi govorili odnosili su se na dječake koji su pravili lažne slike djevojčica”, kaže Horek.
“Druga stvar koju sam primijetila jeste snažna dilema oko toga kako ovakvi slučajevi treba da rješavaju. Neki nastavnici su govorili: ‘Da, odmah zovemo policiju i učenici se izbacuju iz škole’ – dakle takav pristup”, kaže Horek. “A drugi su govorili: ‘To nije način. Moramo imati pristup zasnovan na restorativnoj pravdi, razgovarati s tim mladim ljudima i shvatiti zašto rade takve stvari.’
“Izgleda da postoji određena nedosljednost i nesigurnost u tome kako postupati u ovakvim slučajevima, ali mislim da je nastavnicima zaista teško jer ne dobijaju jasne smjernice.”
Lora Bejts, osnivačica projekta “Everyday Sexism”, kaže da postoji nešto posebno potresno u deepfake slikama. U svojoj knjizi “The New Age of Sexism: How the AI Revolution Is Reinventing Misogyny” piše: “Od svih oblika nasilja koje dobijam, ovo su oni koji najdublje bole – oni koji ostaju sa mnom. Teško je objasniti zašto, osim reći da je osjećaj kao da si to zaista ti. Kao da je neko uzeo tebe i uradio ti nešto, a da ti ne možeš ništa. Gledati snimak sebe kako te neko seksualno zlostavlja bez tvog pristanka gotovo je iskustvo izlaska iz sopstvenog tijela”.
Među školskom djecom, posljedice mogu biti ogromne. Djevojčice i tinejdžerke ostaju s osjećajem da su povrijeđene i ponižene. Školske prijateljske grupe se raspadaju, a povjerenje biva uništeno kada učenica otkrije da je neko iz odjeljenja napravio seksualizovani deepfake njenog lika i dijelio ga po školi. Djevojčice često ne mogu da idu na časove, dok nastavnici, sa malo obuke, pokušavaju da pruže podršku i edukaciju. Istovremeno, dječaci i mladići se uvlače u kriminalno ponašanje, često zato što ne shvataju posljedice svojih postupaka.
“Viđamo učenike koji su veoma uznemireni, osjećaju se izdano i užasnuto zbog ovakvog oblika nasilja”, kaže Doli Padalija, izvršna direktorica Škole seksualnog obrazovanja, organizacije koja pruža seksualnu edukaciju u školama i na univerzitetima. “Jedan primjer je škola koja nam se obratila: jedan učenik je uhvaćen kako je uzimao fotografije brojnih učenika iz svoje generacije i pravio lažne slike.
“Ti materijali su zatim procurili, a posljedice su bile velike. Učenici su bili veoma uznemireni. Osjećali su se izdato i povrijeđeno. To je oblik zlostavljanja. Policija je bila uključena. Učenik je udaljen iz škole, a mi smo pozvani da pružimo podršku. Škola je reagovala veoma brzo, ali ja bih rekla da to nije dovoljno. Ako zaista želimo da spriječimo seksualno nasilje, moramo djelovati proaktivnije”.
Džesika Ringrouz je skeptična prema naporima da se pametni telefoni zabrane u školama i smatra da je neophodno u okviru nastavnog plana i programa naučiti mlade ljude da je koriste na pravi način
Procjenjuje se da je 99% seksualno eksplicitnih deepfake slika dostupnih na internetu usmjereno na žene i djevojčice, ali postoje i slučajevi u kojima su meta dječaci. Organizacija Everyone’s Invited (EI), koja prikuplja svjedočanstva žrtava seksualnog nasilja, naišla je na najmanje jedan takav slučaj: “Jedan učenik je podijelio sa EI edukativnim timom da je dječak iz njihove generacije, popularan i u dobrim odnosima s mnogim djevojčicama, postao meta kada je drugi dječak napravio AI-generisanu seksualizovanu sliku njega. Ta slika je potom kružila školom, izazivajući značajnu patnju i traumu”.
EI takođe upozorava da se ove alatke trivijalizuju i koriste na uznemirujuće načine, poput filtera “pretvori prijatelja u dečka”. “Na društvenim platformama kao što su TikTok i Snapchat, one postaju sve dostupnije i normalizovanije. Iako nekima mogu djelovati razigrano ili bezazleno, one zapravo odražavaju i učvršćuju kulturu u kojoj se pristanak i poštovanje ličnih granica potkopavaju”.
U pozadini rasprostranjene mizoginije u školama, sve veći broj nastavnika takođe postaje meta, navode EI i drugi: “Ovo je nešto sa čime se, kao društvo, moramo hitno suočiti. Obrazovanje mora ostati korak ispred tehnologije, a odrasli se moraju osjećati dovoljno osposobljeno da vode ove razgovore, umjesto da od njih bježe””.
Set Džejms je rukovodilac za zaštitu djece, viši član osoblja odgovoran za bezbjednost i zaštitu učenika u jednoj školi, i autor bloga DSL. “Za svakoga ko radi u školama, čini se kao da tehnološki razvoj neprestano izbacuje nove izazove i rizike”, kaže. “AI uopšteno, a posebno deepfake i aplikacije za ‘svlačenje’, djeluju kao sljedeći voz koji juri niz prugu.
“Više edukacije zvuči kao primamljivo rješenje za ovakve izazove – intuitivno je i relativno jednostavno – ali samo po sebi to je kao pokušaj da se šumski požar zaustavi pištoljem na vodu. Isto tako, izgleda da je policija potpuno preplavljena razmjerama ovog problema. Kao društvo nam trebaju šira rješenja i bolja strategija.”
Nastavlja: “Svi bi trebalo da pokušamo da zamislimo kako bismo se osjećali prije 20 godina da je neko predložio izum ručnog uređaja pomoću kojeg se može praviti realističan pornografski materijal sa stvarnim ljudima koje poznajemo u životu. A onda predložio da se ti uređaji daju svoj našoj djeci. Jer to je, u suštini, situacija u kojoj se sada nalazimo. Dozvoljavamo da te stvari postanu ‘normalne’ pred našim očima.”
Džesika Ringrouz, profesorka sociologije roda i obrazovanja na Institutu za obrazovanje Univerzitetskog koledža u Londonu, radila je u školama na temama koje uključuju muškost, rodnu nejednakost i seksualno nasilje. Koautorka je i knjige “Teens, Social Media, and Image Based Abuse”, a trenutno istražuje rodno zasnovano nasilje posredovano tehnologijom.
“Način na koji mladi koriste ove tehnologije nije nužno uvijek loš”, kaže ona, “ali ono što im treba jeste bolja medijska pismenost”. Ona pozdravlja ažurirane smjernice Vlade za obrazovanje o odnosima, seksualnom vaspitanju i zdravlju, koje su “prepoznale da je mizoginija problem koji treba rješavati u školskom sistemu”. Ipak, dodaje: “Potrebno je povezati sve tačke. Moraju povezati brigu o rodno i seksualno zasnovanom nasilju s tehnologijom. Ne možete se osloniti na regulatore da zaštite mlade. Potrebno nam je proaktivno, preventivno obrazovanje.”
Gdje je vlada u svemu tome? “Naše nove smjernice za obrazovanje iz oblasti odnosa, seksualnosti i zdravlja osiguraće da svi mladi razumiju zdrave odnose, seksualnu etiku i opasnosti onlajn sadržaja poput pornografije i deepfake slika i snimaka”, rekao je portparol Ministarstva obrazovanja. “U okviru naše misije ‘Plana za promjene’, čiji je cilj smanjiti nasilje nad ženama i djevojkama, školama takođe obezbjeđujemo nova finansijska sredstva kako bi nastavnici mogli da objasne zakone i štetne posljedice onlajn sadržaja kao dio časova prilagođenih uzrastu”.
Ringrouz naglašava hitnost situacije. “Sve ovo se dešava, kreiranje i dijeljenje slika bez pristanka se dešava. Te tehnologije su ljudima nadohvat ruke. Mislim, izuzetno je lako da bilo koje dijete pristupi tim stvarima”.
Skeptična je prema naporima da se pametni telefoni zabrane u školama i brine da bi to moglo otežati mladima, koji bi mogli biti meta zlostavljajućeg sadržaja, da potraže pomoć. “Apsolutno odricanje od tehnologije ne funkcioniše”, kaže ona. “Morate zapravo naučiti ljude da je koriste na pravi način. Moramo ovo shvatiti kao veoma važan dio nastavnog plana i programa.”
I tu se vraćamo dječaku iz autobusa, gdje je priča počela. Zaustavljen je jer je djevojčica iz istog autobusa nedavno imala čas o bezbjednosti na internetu u okviru PSHE programa (lični, socijalni, zdravstveni i ekonomski razvoj). Prepoznala je šta radi i obavijestila nastavnike.
