Evropska komisija je začela formalno preiskavo proti družbenemu omrežju X zaradi suma kršitev pravil Evropske unije o spletnih platformah, povezanih z delovanjem klepetalnega robota Grok. Preiskava se osredotoča na uporabo funkcije za obdelavo slik, ki je bila po poročilih pogosto uporabljena za ustvarjanje spolno eksplicitnih podob resničnih oseb, v nekaterih primerih tudi mladoletnih.
Komisija bo preverjala, ali je platforma sprejela zadostne in pravočasne ukrepe za preprečevanje nastajanja in širjenja tovrstnih vsebin ter ali je izpolnila obveznosti, ki jih določa zakon o digitalnih storitvah (DSA).
Če bi se izkazalo, da je podjetje kršilo pravila, lahko Evropska komisija v skladu z zakonodajo naloži globo do 6 odstotkov svetovnega letnega prometa podjetja. Gre za eno najstrožjih sankcij, ki jih predvideva evropski regulatorni okvir za spletne platforme.
Komisija je podjetju že poslala uradno zahtevo za dodatne informacije in trenutno analizira prejete odgovore. Postopek je še v zgodnji fazi, zato časovnica morebitnih nadaljnjih ukrepov za zdaj ni znana.
„Pikantni način“ sprožil val ogorčenja
Pomisleki glede delovanja Groka so se okrepili po tem, ko je bilo orodje nadgrajeno s plačljivo funkcijo, imenovano „pikantni način“, ki je uporabnikom omogočala ustvarjanje eksplicitnih vsebin. Po navedbah nevladnih organizacij in strokovnjakov za varnost na spletu je bila funkcija zlorabljena za digitalno „slačenje“ fotografij resničnih oseb brez njihovega soglasja.
Na naraščajoče ogorčenje se je odzval tudi tiskovni predstavnik Komisije, ki je dejal: „To ni ‘pikantno’. To je nezakonito. To je grozno. To nima mesta v Evropi.“
Lastnik platforme Elon Musk se je medtem na družbenem omrežju odzval z ironičnimi komentarji, kar je dodatno okrepilo kritike, da podjetje sprva ni jemalo zadeve dovolj resno.
X uvedel omejitve in odstranil vsebine
Po pritisku javnosti in regulatorjev je podjetje uvedlo omejitve, ki Groku preprečujejo obdelavo slik resničnih oseb na način, ki bi jih prikazoval v spolno sugestivnih ali razgaljenih situacijah. Omejitve veljajo tudi za plačljive uporabnike.
Podjetje je sporočilo, da je s platforme odstranilo vse nezakonite vsebine, povezane s spolno zlorabo otrok, in da je uporabnikom, ki so sodelovali pri njihovem ustvarjanju ali širjenju, trajno onemogočilo dostop do storitev. „Ukrepamo proti nezakonitim vsebinam, vključno z gradivom o spolni zlorabi otrok, tako da jih odstranjujemo, trajno zapiramo račune in po potrebi sodelujemo z organi pregona,“ je sporočil varnostni oddelek podjetja.
Grok že pod drobnogledom tudi drugod
To ni prvi primer, ko je delovanje Groka predmet preiskav. Novembra lani je bil klepetalni robot kritiziran zaradi ustvarjanja vsebin, povezanih z zanikanjem holokavsta. Preiskave v zvezi z morebitnimi kršitvami zakonodaje trenutno potekajo tudi v Franciji, Združenem kraljestvu in Nemčiji, dodatne postopke pa vodijo tudi oblasti v Avstraliji.
V nekaterih državah jugovzhodne Azije, med drugim v Indoneziji in Maleziji, je bil Grok začasno ali trajno umaknjen iz uporabe zaradi varnostnih in zakonodajnih pomislekov.
Evropska komisija je sporočila, da bo po zaključku analize prejetih informacij odločila o morebitnih nadaljnjih korakih v postopku proti podjetju.
