OpenAI je v ChatGPT uvedel starševski nadzor, potem ko so se pojavila opozorila glede varnosti mladih uporabnikov in primeri, ko so si najstniki po interakciji s klepetalnim robotom vzeli življenje.
Podjetje je sporočilo, da so novi mehanizmi zasnovani tako, da najstnikom zagotavljajo varnejšo in „starosti primerno“ uporabo. Gre za odziv na naraščajoče pomisleke o vplivu umetne inteligence na duševno zdravje mladih.
Starševski nadzor bo na voljo vsem uporabnikom ChatGPT, za delovanje pa bodo potrebni ločeni računi starša in najstnika. Povabilo k povezavi lahko pošljejo tako starši kot mladoletni uporabniki, in sicer prek e-pošte ali SMS-sporočila. Ko sta računa povezana, starši dobijo možnost spremljanja in nastavljanja omejitev. Najstniki lahko povezavo kadar koli prekinejo, vendar bodo starši o tem obveščeni.
Po navedbah podjetja bodo najstniški računi deležni samodejnih zaščit vsebin. Ti vključujejo zmanjšano prisotnost grafičnih podob, omejitve pri spolnih, romantičnih in nasilnih igranjih vlog ter filtriranje ekstremnih lepotnih idealov, poroča Euronews. Cilj je, da bi bila uporaba klepetalnega robota primerna starosti.
Kot je dodal OpenAI, lahko starši določene filtre tudi izklopijo, najstniki pa te možnosti nimajo. Podjetje opozarja, da omejitve niso popolnoma zanesljive in da jih je ob namernem poskusu mogoče zaobiti. Zato staršem svetuje pogovor z otroki o zdravi uporabi umetne inteligence.
Starši bodo imeli na voljo nadzorno ploščo, kjer lahko nastavijo dodatne omejitve. Med možnostmi so določitev „tihega časa“, ko ChatGPT ni dostopen, izklop pomnilnika umetne inteligence, onemogočanje ustvarjanja slik, izklop glasovnega načina ter prepoved uporabe pogovorov za učenje modelov.
Euronews poroča, da je OpenAI uvedel tudi nov način obveščanja staršev, kadar obstajajo znaki, da je otrok v hudi stiski ali razmišlja o samopoškodovanju. Posebna ekipa bo v redkih primerih pregledala situacijo, starši pa bodo lahko prejeli obvestilo prek e-pošte, SMS-sporočila ali potisnega opozorila. Podjetje ob tem poudarja, da bo zasebnost najstnika zaščitena, saj bodo deljeni le tisti podatki, ki so nujni za pomoč.
Iz podjetja so dodali: „Noben sistem ni popoln in vemo, da včasih sprožimo alarm, ko ni resnične nevarnosti, vendar menimo, da je bolje opozoriti starše, kot pa molčati.“
Foto: Pixabay
