Google-ova kampanja protiv seksualne eksploatacije dece na svojim platformama rizikuje da uništi živote djece koju namerava da spase – kao i nevinih roditelja – ostavljajući njihovu reputaciju, slobodu i možda opstanak njihove porodice u rukama preterano revnosnog algoritma, Njujork tajms otkrila je istraga objavljena u nedjelju.
Dva oca male djece, koji su međusobno nepoznati, označeni su kao zlostavljači dece zbog ničeg zlokobnijeg od pokušaja da svojoj deci dobiju medicinsku pomoć.
Tata iz San Franciska Mark i tata iz Hjustona Kasio nisu mislili da šalju fotografije natečenih genitalija svojih sinova na zahtjev svojih pedijatara, što je praksa koja je postala potpuno normalna u paradigmi nakon pandemije.
Ne razmišljajući više o tome dok se njegov sin oporavljao, Marka je grubo probudio njegov Google Fi telefon koji ga je obavestio da je otkriven „štetni sadržaj“ – potencijalno ilegalan. Pokušaj žalbe na odluku doveo je do odbijanja i bez dalje komunikacije od Gugla.
Mark je izgubio pristup svom telefonu, imejlu, kontaktima i svim Google proizvodima. Svi njegovi podaci, uključujući fotografije i video zapise, bili su zaključani u oblaku.
Tokom skeniranja Markovog sadržaja Gugl je pronašao još jedan video koji je aktivirao alarme, koristeći AI alat koji tvrdi da prepoznaje nikada ranije viđene slike eksploatacije djece na osnovu njihove sličnosti sa postojećim slikama.
Umesto da dovede ljudskog moderatora da potvrdi fotografiju, Google-ov proces je da zaključa nalog, skenira svaku drugu sliku koju imaju i pozove Nacionalni centar za nestalu i eksploatisanu decu, koji daje prioritet potencijalnim novim žrtvama. Pogrešno označene slike se dodaju u bazu podataka eksploatisane dece, pa čak i bezazlenije slike kao što su Markove i Kasijeve rizikuju da izazovu crvene zastavice.
Policija San Franciska otvorila je istragu nakon što je Gugl označio Markov video zapis i obezbjedio kopiju svega na njegovim Gugl nalozima, uključujući njegovu istoriju pretrage i lokacija, poruke i dokumente koji su poslati i primljeni, fotografije i video zapise uskladištene u klaudu. Policija je utvrdila da nije počinjeno krivično delo i zatvorila slučaj.
Gugl nije imao toliko razumevanja i Mark ostaje bez Google usluga. Čak i kada je Mark zamolio glavnog detektiva u njegovom slučaju da se zauzme u njegovo ime, policajac je rekao da ne može ništa da uradi.
Kasiov slučaj se odvijao skoro na isti način, a policija u Hjustonu je odustala od svog slučaja kada je objavio komunikaciju od pedijatra. Međutim, Google neće vratiti njegove podatke.
Uprkos tome što je policija oslobodila roditelje, Gugl je ostao pri svojoj odluci da označi roditelje kao zlostavljače dece i blokira sve njihove podatke. „Materijal o seksualnom zlostavljanju dece je odvratan i mi smo posvećeni sprečavanju njegovog širenja na našim platformama“, navodi se u saopštenju kompanije, prenosi Njujork tajms.
Nije poznato koliko je slučajeva Službe za zaštitu dece otvoreno na osnovu ovakvih „grešaka“, niti koliko je intervencija izazvano netačnim odlukama veštačke inteligencije, jer čak i oni koji su pogrešno optuženi za zlostavljanje djece ćute.
