Ovoga puta, u fokusu su ozbiljni propusti koji omogućavaju generisanje i širenje seksualno eksplicitnog sadržaja bez pristanka, uključujući i materijal koji može predstavljati zloupotrebu djece.
Istraga je pokrenuta nakon što su istraživači i regulatori otkrili da korisnici mogu da koriste Grok za digitalno „svlačenje“ osoba sa fotografija (tzv. undressing), kao i za postavljanje stvarnih ljudi, uključujući žene i djecu, u provokativne i seksualizovane poze. Prema podacima Centra za suzbijanje digitalne mržnje (CCDH), Grok je u kratkom periodu generisao milione seksualizovanih slika, od kojih su desetine hiljada prikazivale maloljetnike.
Potpredsjednica Evropske komisije, Hena Virkunen, izjavila je da su ovakvi „deepfake“ sadržaji neprihvatljiv oblik degradacije i da predstavljaju ozbiljan rizik po bezbjednost i mentalno zdravlje građana EU. Komisija ispituje da li je kompanija Ilona Maska preduzela adekvatne mjere da ublaži ove sistemske rizike prije nego što je integrisala Grok u platformu X.
Ovo nije jedini pravni problem za Maska u Evropi:
Irska komisija za zaštitu podataka takođe je pokrenula istragu o tome da li su prekršena pravila o privatnosti (GDPR) prilikom obrade ličnih podataka za obuku i rad Groka.
Francuske vlasti su nedavno izvršile raciju u kancelarijama kompanije X u Parizu u okviru srodne istrage o zloupotrebi algoritama.
Prethodna istraga iz decembra 2023. i dalje traje, a bavi se širenjem ilegalnog sadržaja i dezinformacija na platformi.
Ukoliko se dokaže kršenje Zakona o digitalnim uslugama, platforma X se suočava sa ogromnim novčanim kaznama koje mogu iznositi i do 6% ukupnog godišnjeg prometa kompanije. Iz Brisela poručuju da prava građana, posebno žena i djece, ne smiju biti „kolateralna šteta“ tehnološkog razvoja.
Kompanija X je na kritike odgovorila uvođenjem određenih ograničenja, poput zabrane montiranja slika ljudi u kupaćim kostimima, ali zvaničnici EU smatraju da te mjere nisu dovoljne da spriječe štetu koja je već nanijeta.
