Podjetje xAI, ki razvija klepetalnega robota Grok, je uvedlo dodatne omejitve pri urejanju in ustvarjanju slik, potem ko so se na omrežju X razširile hiperrealistične, spolno obarvane podobe, tudi takšne, ki so vključevale mladoletne osebe. Po navedbah podjetja omejitve veljajo za vse uporabnike, tudi za plačljive naročnike.
Pri xAI so navedli, da so uvedli tehnične ukrepe, ki preprečujejo urejanje fotografij resničnih ljudi v pomanjkljivih oblačilih. „Uvedli smo tehnološke ukrepe, da bi preprečili, da bi Grok omogočal urejanje slik resničnih ljudi v razkrivajočih oblačilih, kot so bikiniji. Ta omejitev velja za vse uporabnike, vključno s plačljivimi naročniki,“ so zapisali v objavi na omrežju X.
V zadnjih tednih so se na omrežju X pojavile manipulirane, izjemno realistične podobe žensk v ponižujočih pozah ali v minimalnih oblačilih, v posameznih primerih pa so bile digitalno obdelane tudi podobe mladoletnic. Objave so sprožile odzive regulatorjev in pozive k ukrepanju zaradi domnevnih kršitev zakonodaje in pravic oseb, ki so bile prikazane brez privolitve.
Po ugotovitvah novinarskih preiskav je Grok tudi po prvih omejitvah, ki jih je uvedla platforma X, v zasebnih pogovorih še vedno ustvarjal spolno obarvane slike na zahtevo uporabnikov. xAI je zdaj dodatno pojasnil, da bo glede na lokacijo uporabnikov preprečeval ustvarjanje podob ljudi v pomanjkljivih oblačilih v jurisdikcijah, kjer je takšna vsebina nezakonita, pri čemer konkretnih držav ali območij ni navedel.
Grok je bil sprva dostopen širšemu krogu uporabnikov, nato pa so bile funkcije za ustvarjanje in urejanje slik omejene predvsem na plačljive račune, javna raba pa za številne uporabnike onemogočena.
Zahteve po pojasnilih iz Kalifornije
Na dogajanje so se odzvali tudi v Kaliforniji. Generalni državni tožilec Rob Bonta je sporočil, da od podjetja zahtevajo pojasnila glede ukrepov za preprečevanje nastajanja in širjenja spornih vsebin. „Od podjetja xAI zahtevamo takojšnje odgovore glede njihovega načrta za zaustavitev ustvarjanja in širjenja te vsebine,“ je zapisal.
Guverner Gavin Newsom je pozval k takojšnji preiskavi in k temu, da je treba podjetje pozvati k odgovornosti. Gre za doslej najodločnejši odziv ameriških oblasti v povezavi z uporabo umetne inteligence za ustvarjanje seksualiziranih podob brez privolitve oseb na slikah.
Lastnik podjetja xAI Elon Musk je medtem izjavil, da ni seznanjen s primeri golih podob mladoletnikov, ki bi jih ustvaril Grok. „Nisem seznanjen z nobenimi slikami golih mladoletnikov, ki bi jih ustvaril Grok. Dobesedno nič,“ je zapisal.
Mednarodni pritiski in odzivi platform
Pritisk na podjetje narašča tudi zunaj ZDA. Zakonodajalci in zagovorniške skupine so pozvali podjetji Apple in Google, naj aplikacijo Grok umakneta iz trgovin z aplikacijami. Vladni predstavniki v več evropskih državah in v Združenem kraljestvu so napovedali možnost regulatornih ukrepov, Indonezija pa je dostop do Groka začasno blokirala.
Musk se je sprva na polemiko odzival z objavami, ki so vključevale šaljive odzive, kasneje pa je platforma X sporočila, da prijave spolne zlorabe otrok obravnava resno in da so takšne vsebine predmet strogega nadzora.
Podjetji X in xAI se nista vsebinsko odzvali na vprašanja glede izjav kalifornijskih uradnikov. Ob poizvedbah so iz podjetja xAI poslali samodejno sporočilo z navedbo „zastarele medijske laži“.
