OpenAI v potrošniških različicah ChatGPT uvaja sistem napovedovanja starosti, s katerim želi ugotoviti, ali posamezen račun verjetno pripada osebi, mlajši od 18 let, in temu prilagoditi raven zaščite ter dostop do vsebin. Ukrep je del širših prizadevanj podjetja za večjo varnost najstnikov pri uporabi umetne inteligence.
V podjetju so pojasnili, da želijo s tem zagotoviti, da bodo mlajši uporabniki deležni dodatnih varnostnih mehanizmov, hkrati pa omogočiti odraslim, da orodja uporabljajo brez nepotrebnih omejitev. „Mladi si zaslužijo tehnologijo, ki širi priložnosti in varuje njihovo dobro počutje,“ so zapisali in dodali, da gre za nadaljevanje smernic, opredeljenih v njihovem načrtu za varnost najstnikov.
Po navedbah OpenAI ChatGPT uporablja poseben model za napovedovanje starosti, ki ne temelji zgolj na enem podatku, temveč na kombinaciji vedenjskih in računskih signalov. Med njimi so starost računa, čas dneva, ko je uporabnik aktiven, vzorci uporabe skozi daljše obdobje ter starost, ki jo je uporabnik navedel ob registraciji.
„Z uvedbo napovedovanja starosti se učimo, kateri signali izboljšajo natančnost, in te izkušnje uporabljamo za nenehno izpopolnjevanje modela skozi čas,“ so poudarili v podjetju. Dodali so, da gre za postopen proces, ki se bo z nadaljnjo uporabo še prilagajal.
Če je račun po oceni sistema uvrščen med potencialno mladoletne, se samodejno vključijo dodatne omejitve, namenjene zmanjšanju izpostavljenosti občutljivim ali potencialno škodljivim vsebinam.
Dodatne omejitve za mlajše od 18 let
OpenAI je navedel, da se v takšnih primerih omeji dostop do vsebin, kot so grafično nasilje, nevarni spletni izzivi, seksualno ali nasilno igranje vlog, prikazi samopoškodovanja ter vsebine, ki spodbujajo ekstremne lepotne standarde ali nezdrave prehranske vzorce.
V podjetju so pojasnili, da takšen pristop temelji na strokovnih prispevkih in znanstveni literaturi o razvoju otrok in mladostnikov. „Ta pristop priznava razlike med najstniki v zaznavanju tveganja, nadzoru impulzov, vplivu vrstnikov in čustveni regulaciji,“ so navedli ter dodali, da se ob pomanjkanju zanesljivih informacij vedno odločijo za varnejšo uporabniško izkušnjo.
Hkrati so izpostavili, da se osredotočajo tudi na preprečevanje poskusov zaobida varnostnih mehanizmov in na stalno izboljševanje zaznavanja takšnih vedenj.
Možnost popravka napačne razvrstitve
OpenAI je poudaril, da bodo imeli uporabniki, ki bodo po pomoti uvrščeni med mlajše od 18 let, možnost hitre potrditve svoje starosti. Postopek bo potekal prek storitve za preverjanje identitete, ki omogoča potrjevanje s selfijem.
Uporabniki lahko v nastavitvah računa preverijo, ali so bile na njihov račun dodane dodatne omejitve, in po potrebi sprožijo postopek preverjanja starosti. „Uporabniki bodo vedno imeli hiter in preprost način za potrditev svoje starosti ter obnovitev polnega dostopa,“ so navedli.
Vloga staršev in dodatni nadzor
Poleg samodejnih zaščitnih ukrepov OpenAI poudarja tudi vlogo starševskega nadzora. Starši lahko po navedbah podjetja prilagodijo izkušnjo uporabe, na primer z nastavitvijo časov, ko ChatGPT ni dostopen, z omejevanjem določenih funkcij ali s prejemanjem obvestil, če sistem zazna znake akutne stiske.
S tem želijo po njihovih besedah omogočiti bolj prilagojeno in nadzorovano uporabo orodja v družinskem okolju.
OpenAI je navedel, da bo sistem predvidevanja starosti v državah Evropske unije uveden v prihodnjih tednih, da bi upoštevali regionalne regulatorne zahteve. Ob tem so poudarili, da bodo uvajanje natančno spremljali in sproti prilagajali delovanje modela.
„Čeprav je to pomemben mejnik, naše delo za podporo varnosti najstnikov še vedno poteka,“ so zapisali in dodali, da bodo o nadaljnjih korakih in ugotovitvah obveščali javnost tudi v sodelovanju s strokovnimi organizacijami, med njimi z Ameriškim psihološkim združenjem, organizacijo ConnectSafely in Global Physicians Network.
