Evropski urad za umetno inteligenco in pristojni nacionalni organi so danes začeli izvajati pomemben del evropskega akta o umetni inteligenci. Nova pravila od ponudnikov in poklicnih uporabnikov zahtevajo večjo preglednost: ljudje morajo vedeti, kdaj komunicirajo z umetno inteligenco in kdaj gledajo umetno ustvarjeno ali spremenjeno vsebino.
V Evropski uniji so se danes, 2. avgusta 2026, začela uporabljati pravila o preglednosti sistemov umetne inteligence. Evropska komisija želi z njimi omejiti zavajanje, prikrito uporabo umetne inteligence in širjenje realističnih lažnih posnetkov.
Gre za nadaljevanje postopnega izvajanja evropskega akta o umetni inteligenci, ki je začel veljati avgusta 2024. Pravila o prepovedanih praksah in zagotavljanju osnovnega znanja o umetni inteligenci veljajo od februarja 2025, obveznosti za ponudnike splošnonamenskih modelov pa od avgusta lani.
O širših spremembah rokov in pravil smo podrobneje pisali v prispevku Nova pravila za umetno inteligenco že veljajo: Kaj to pomeni za uporabnike in podjetja?.
Uporabnik mora vedeti, da komunicira z umetno inteligenco
Ponudniki klepetalnikov, digitalnih pomočnikov, umetno ustvarjenih avatarjev in drugih sistemov, ki neposredno komunicirajo z ljudmi, morajo zagotoviti, da je uporabnik že ob začetku pogovora obveščen, da komunicira z umetno inteligenco.
Obvestilo ni potrebno, če je to povprečnemu uporabniku že očitno. Evropska komisija opozarja, da je treba to izjemo razlagati ozko. Ponudnik se zato ne bo mogel vedno sklicevati na domnevo, da bi uporabnik moral sam prepoznati umetno inteligenco.
Sistemi za ustvarjanje fotografij, videoposnetkov, zvoka in besedil morajo v vsebino vključiti tudi učinkovito in strojno berljivo oznako, ki omogoča prepoznavanje umetno ustvarjenega ali spremenjenega gradiva.
Pri običajnem urejanju fotografije, popravkih slovnice, standardni montaži ali drugih pomožnih funkcijah označevanje praviloma ni potrebno. Izvzeti so lahko tudi programska koda, kratka zaporedja znakov ter vsebine, namenjene izključno komunikaciji med napravami.
Deepfake posnetki potrebujejo vidno opozorilo
Poklicni uporabniki oziroma organizacije, ki objavijo deepfake posnetek, morajo ljudi najpozneje ob prvem prikazu jasno opozoriti, da je bila vsebina umetno ustvarjena ali spremenjena.
Samo skrita tehnična oznaka v datoteki ni dovolj. Opozorilo mora biti vidno ali slišno ter razumljivo brez uporabe posebnih orodij. Pri satiričnih, umetniških in očitno izmišljenih delih je lahko oznaka prilagojena tako, da ne ovira njihovega prikazovanja.
Pravila veljajo tudi za uporabo sistemov za prepoznavanje čustev in biometrično razvrščanje. Ljudje, izpostavljeni takšnemu sistemu, morajo biti o njegovem delovanju obveščeni.
Kaj nova pravila pomenijo za medije?
Posebno pravilo velja za umetno ustvarjena ali spremenjena besedila o temah javnega interesa, med katere sodijo politika, javna varnost, zdravje, gospodarstvo, okolje in znanost.
Takšna besedila je treba označiti, če so objavljena brez človeškega pregleda ali uredniškega nadzora. Če je vsebino vsebinsko pregledal novinar oziroma urednik in obstaja oseba, ki prevzema uredniško ter pravno odgovornost za objavo, oznaka ni obvezna.
Zgolj samodejno preverjanje pravopisa ali slovnice se ne šteje za vsebinski človeški pregled. Evropska komisija kot ustrezen nadzor razume preverjanje informacij, presojo virov ter dejansko možnost urednika, da besedilo spremeni, zavrne ali odobri.
Za uredniško pregledane novinarske prispevke torej ne velja splošna zahteva, da morajo biti označeni kot vsebina, ustvarjena z umetno inteligenco. Pri umetno ustvarjenih fotografijah in ilustracijah je jasno navedena oznaka kljub temu smiselna zaradi preglednosti in zaupanja bralcev.
Za starejše sisteme še štirimesečni rok
Ponudniki sistemov, ki so bili na evropskem trgu že pred 2. avgustom, imajo za uvedbo tehničnega označevanja umetno ustvarjenih vsebin čas do 2. decembra 2026. Vsebin, ustvarjenih pred današnjim dnem, ni treba označevati za nazaj.
Nadzor bodo večinoma izvajali nacionalni organi za nadzor trga, pri nekaterih večjih sistemih pa tudi Evropski urad za umetno inteligenco. Globe za kršitve pravil o preglednosti lahko dosežejo 15 milijonov evrov oziroma tri odstotke svetovnega letnega prometa podjetja. Pri manjših podjetjih morajo organi upoštevati načelo sorazmernosti.
