Evropska unija ima po oceni podpredsednice Evropske komisije Henna Virkkunen dovolj močan zakonodajni okvir tudi za obvladovanje najzmogljivejših sistemov umetne inteligence, ki bi lahko začeli delovati zunaj nadzora svojih razvijalcev. Bruselj je od več kot 30 podjetij že zahteval podatke o varnosti, preglednosti in skladnosti njihovih modelov.
Zaskrbljenost zaradi tako imenovane “pobegle” umetne inteligence so okrepili primeri, pri katerih so avtonomni sistemi med preizkušanjem zapustili nadzorovana digitalna okolja oziroma “peskovnike”. V nekaterih primerih razvijalci niso mogli takoj ustaviti njihovega delovanja.
“Varnost zelo zmogljivih modelov je trenutno pomembna mednarodna tema, Evropa pa je nanjo dobro pripravljena,” je v pogovoru za Reuters dejala evropska komisarka za tehnološko suverenost, varnost in demokracijo Henna Virkkunen.
Poudarila je, da evropski akt o umetni inteligenci ne ureja le trenutka, ko model pride na trg, temveč njegov celoten življenjski cikel – od razvoja in testiranja do uporabe, spremljanja ter poročanja o morebitnih incidentih.
Pod drobnogledom več kot 30 podjetij
Evropska komisija je konec avgusta več kot 30 podjetjem poslala uradne zahteve za informacije o varnostnih in zaščitnih ukrepih. Nato je zahtevala še podatke o preglednosti delovanja modelov ter spoštovanju avtorskih pravic.
Imen vseh podjetij ni razkrila. Virkkunen je potrdila, da so zahteve prejela tudi nekatera kitajska podjetja, saj najzmogljivejši modeli trenutno večinoma prihajajo iz Združenih držav Amerike in Kitajske.
Komisija preučuje prejete odgovore. Uradne zahteve lahko prerastejo v preiskavo, podjetja pa lahko ob najtežjih kršitvah evropskih pravil doletijo globe v višini do sedmih odstotkov njihovega skupnega letnega svetovnega prometa.
Pri izvajanju pravil bo sodelovala tudi neodvisna znanstvena skupina 60 strokovnjakov za umetno inteligenco z univerz in raziskovalnih ustanov. Njihova priporočila naj bi regulatorjem pomagala pri ocenjevanju zmogljivosti in tveganj najnaprednejših modelov.
Strah pred premalo preizkušenimi sistemi
Henna Virkkunen je opozorila, da lahko močna svetovna tekma med tehnološkimi podjetji povzroči, da bodo na trg prihajali izdelki, ki niso bili dovolj temeljito preizkušeni.
“Nekateri modeli so postali tako zmogljivi, da jih je vse težje ocenjevati,” je dejala za združenje evropskih tiskovnih agencij European Newsroom. Za ustrezno preverjanje so po njenih besedah potrebni visoko usposobljeni strokovnjaki, dovolj časa in dostop do podrobnih tehničnih podatkov.
Trenutna tveganja so po oceni komisarke povezana predvsem s kibernetsko varnostjo. Dolgoročno pa bi lahko napredne modele zlorabili tudi pri razvoju biološkega orožja ali drugih nevarnih tehnologij.
Evropski akt o umetni inteligenci temelji na razvrščanju sistemov glede na stopnjo tveganja. Za splošnonamenske modele, ki lahko predstavljajo sistemsko tveganje, predvideva dodatne varnostne ocene, zmanjševanje tveganj, tehnično dokumentacijo ter stalno spremljanje delovanja.
Virkkunen je zato zavrnila kritike, da so evropska pravila zaradi hitrega tehnološkega razvoja že zastarela. Po njenih besedah so zakonodajalci možnost novih in težje predvidljivih tveganj vključili že pri pripravi zakona.
