Globalno poročilo o umetni inteligenci: Države svarijo pred sistemskimi tveganji
Pariz bo prihodnji mesec gostil pomemben vrh o umetni inteligenci (AI), pred katerim je bilo objavljeno obsežno mednarodno poročilo, ki opozarja na izjemna nova tveganja, povezana z naprednimi sistemi umetne inteligence. Dokument, ki so ga podprle 30 držav, vključno z Združenimi državami Amerike in Kitajsko, izpostavlja možnosti obsežnih izgub delovnih mest, povečano grožnjo terorizma in morebitno izgubo nadzora nad tehnologijo.
Poročilo, ki se osredotoča na umetno inteligenco za splošne namene, opozarja na tri ključna tveganja: zlonamerno uporabo, okvare sistemov ter razširjena sistemska tveganja. Med drugim umetna inteligenca omogoča ustvarjanje biološkega ali kemičnega orožja, saj lahko napredni modeli umetne inteligence zagotovijo podrobne načrte in postopke za izdelavo nevarnih substanc. Avtorji sicer priznavajo, da ni jasno, v kolikšni meri lahko AI resnično pomaga pri praktični izdelavi orožja. Zaskrbljenost zaradi morebitnih zlorab sicer ostaja.
Poleg varnostnih vprašanj poročilo obravnava tudi vpliv AI na trg dela. Po navedbah strokovnjakov bi lahko napredna umetna inteligenca izpodrinila delavce in preoblikovala številne industrije. Nekateri raziskovalci sicer menijo, da bi AI lahko prispevala k ustvarjanju novih delovnih mest, vendar obstaja tudi možnost, da bo zmanjšala plače in stopnjo zaposlenosti.
Težave pri regulaciji in pomanjkanje razumevanja delovanja modelov
Poročilo izpostavlja, da so tehnike za obvladovanje tveganj šele v začetni fazi razvoja, kar pomeni, da številne države še nimajo ustreznih mehanizmov za nadzor napredne umetne inteligence, poroča Euronews. Avtorji dokumenta poudarjajo, da razvijalci AI pogosto ne razumejo popolnoma delovanja svojih modelov, kar dodatno otežuje njihovo regulacijo.
Sistemi umetne inteligence bi lahko v določenih primerih postali neobvladljivi, bodisi zaradi nepredvidenega vedenja ali zaradi zmanjšane pozornosti ljudi, ki jih nadzirajo. Dokument tako opozarja na možnost, da bi AI v prihodnosti aktivno spodkopavala človeški nadzor, kar bi lahko imelo resne družbene in gospodarske posledice.
Mednarodno sodelovanje pri zagotavljanju varnosti AI
Poročilo, ki sta ga podprla tudi Združeni narodi in Evropska unija, je bilo naročeno na otvoritvenem svetovnem vrhu o varnosti umetne inteligence, ki ga je novembra 2023 gostila Velika Britanija. Na tem srečanju so se države zavezale k sodelovanju pri obvladovanju morebitnih “katastrofalnih tveganj”, povezanih z umetno inteligenco.
Nadaljnje srečanje, ki ga je lani gostila Južna Koreja, je privedlo do zaveze podjetij, da bodo razvila varnostne mehanizme za umetno inteligenco, svetovni voditelji pa so podprli ustanovitev mreže javnih inštitutov za varnost umetne inteligence. Sodelovanje naj bi zagotovilo boljše razumevanje tehnologije ter izboljšanje regulativnih okvirjev za njeno uporabo.
Poročilo tudi opozarja na spremembe vladnih politik, kot je nedavni predsedniški prehod v Združenih državah Amerike. Nekdanji predsednik Joe Biden je v svojem mandatu sprejel varnostne politike za regulacijo umetne inteligence, ki jih je njegov naslednik Donald Trump ob nastopu funkcije preklical. Kljub temu Trumpova administracija ni ukinila Inštituta za varnost umetne inteligence, ki je bil ustanovljen v okviru rastoče mednarodne mreže tovrstnih centrov.
Prihodnji mesec bo v Parizu potekal akcijski vrh o umetni inteligenci, kjer se bodo ponovno srečali svetovni voditelji, tehnološki strokovnjaki in predstavniki civilne družbe. Francoski uradniki so napovedali, da bodo države na tem srečanju podpisale “skupno izjavo” o razvoju umetne inteligence ter se zavezale k trajnostnemu razvoju in varni uporabi te tehnologije.
Portal24; Foto: Pexels