Podjetje OpenAI, razvijalec pogovornega sistema ChatGPT, je pred osmimi meseci v dokumentu Model Spec spremenilo politiko glede ustvarjanja spolnih vsebin. Nova različica dovoljuje vsebino za odrasle, razen v primerih, ko vključuje mladoletne osebe. Gre za omilitev prejšnje prepovedi, ki je izključevala vse eksplicitne vsebine.
Sprememba je bila po navedbah uporabnikov pričakovana, saj so podjetje in izvršnega direktorja Sama Altmana več mesecev pozivali k sprostitvi pravil glede umetno ustvarjene pornografije. Kljub temu pa so številni na forumih opozorili, da se model v praksi ni v celoti prilagodil novim smernicam. Filtri za zaznavanje eksplicitnih vsebin naj bi še naprej omejevali delovanje sistema, kar je povzročilo nezadovoljstvo med uporabniki.
Na konferenci OpenAI DevDay 2025 je podjetje napovedalo, da bo uvedlo možnost t. i. „zrelih aplikacij“, namenjenih uporabnikom, ki bodo prestali preverjanje starosti. Po navedbah medija Futurism gre za pomemben preobrat v politiki podjetja, ki pa odpira tudi vprašanja o varnosti in etičnih posledicah takšne odločitve.
Primeri iz drugih tehnoloških okolij kažejo, da lahko sprostitev omejitev prinese zaplete. Po navedbah Futurism je Muskova platforma Grok postala znana po širjenju neprimernih vsebin, vključno z umetno ustvarjenimi podobami otrok. Tudi pri drugih sistemih umetne inteligence so se pojavili primeri zlorab, kjer so bile ustvarjene eksplicitne podobe resničnih oseb brez njihovega soglasja.
Kot navaja Futurism, to ni prvič, da obstaja razkorak med uradnimi izjavami OpenAI in dejanskim delovanjem njihovih modelov. Podjetje je bilo že večkrat pod pritiskom regulatorjev in raziskovalcev zaradi vprašanj varnosti in vpliva ChatGPT na uporabnike. Po opozorilu raziskovalcev s Stanforda je OpenAI sicer uvedel popravke, vendar so bili po oceni Futurism ti ukrepi omejeni in niso odpravili ključnih težav.
Strokovnjaki opozarjajo, da je prilagajanje velikih jezikovnih modelov po njihovem zagonu zahtevno in pogosto vpliva na druge vidike delovanja sistema. Futurism poudarja, da lahko podjetje to izkorišča kot razlog za počasno uvajanje varnostnih izboljšav.
Če bo OpenAI resnično omogočil razvoj vsebin za odrasle uporabnike, se bo soočil z novim izzivom moderiranja, ki bo preizkusil meje dovoljenega in obvladovanja eksplicitnih vsebin.
Foto: Unsplash/emiliano-vittoriosi
