Britanska Nacionalna agencija za boj proti kriminalu (NCA) in organizacija Internet Watch Foundation (IWF) sta starše opozorili, naj bodo previdni pri objavljanju fotografij svojih otrok na spletu. Z razvojem umetne inteligence je namreč vse lažje javno dostopne fotografije spremeniti v spolno eksplicitno gradivo, namenjeno zlorabam otrok.
Opozorilo prihaja po odmevnem primeru v Veliki Britaniji, kjer so kriminalne združbe uporabile javno objavljene fotografije šolarjev za izdelavo pornografskih vsebin z umetno inteligenco. Storilci so nato šolo izsiljevali z grožnjo, da bodo gradivo objavili, če ne bo plačala odkupnine.
Eksplozija umetno ustvarjenih posnetkov
Analitiki organizacije IWF so leta 2025 odkrili 3443 videoposnetkov spolnih zlorab otrok, ustvarjenih z umetno inteligenco. Leto prej so jih zabeležili le 13, kar kaže na izjemno hitro rast tovrstnih kaznivih dejanj.
“Izjemno smo zaskrbljeni zaradi obsega te grožnje,” je dejal izvršni direktor IWF Kerry Smith. Ob tem je poudaril, da organizacija staršev ne poziva, naj prenehajo deliti fotografije svojih otrok z družino in prijatelji, temveč želi povečati zavedanje o tveganjih.
“Ne pravimo, da fotografij otrok ne bi smeli deliti z ljudmi, ki jih imate radi in jim zaupate, vendar želimo, da se ljudje zavedajo morebitnih tveganj in sprejemajo premišljene odločitve ob upoštevanju vseh dejstev,” je dejal Smith.
Vsebine postajajo vse bolj nasilne
Po podatkih IWF postajajo umetno ustvarjene zlorabe vse bolj realistične in nasilne. Kar 65 odstotkov od 3443 odkritih videoposnetkov je bilo po britanski zakonodaji uvrščenih v najvišjo, kategorijo A, ki zajema najhujše oblike spolnega nasilja nad otroki, vključno s posilstvom in spolnimi napadi.
Smith opozarja, da posledice za žrtve niso nič manj resnične, čeprav so vsebine ustvarjene z umetno inteligenco.
“Škoda je zelo resnična. Verjamem, da si vsak starš želi preprečiti možnost dolgoročnih posledic,” je poudaril.
Staršem svetujejo večjo previdnost
NCA in IWF staršem priporočata, naj fotografije otrok delijo predvsem v zaprtih skupinah ali z uporabo nastavitev zasebnosti, ki dostop omejijo na ozek krog zaupanja vrednih oseb.
Organizacija IWF je hkrati pozvala tehnološka podjetja, naj že pri razvoju modelov umetne inteligence uvedejo učinkovite zaščitne mehanizme, ki bi preprečili njihovo zlorabo za ustvarjanje gradiva spolnih zlorab otrok.
