Vodilni predstavniki podjetij OpenAI, Anthropic in Hugging Face so v sredo pred Varnostnim svetom ZN opozorili, da vse zmogljivejši sistemi umetne inteligence prinašajo tudi tveganja za mednarodno varnost. Med njimi so izpostavili zlorabe pri kibernetskih napadih in razvoju biološkega orožja ter možnost, da bi prihodnje sisteme postalo težko razumeti in obvladovati. Države so se strinjale, da je treba tveganja obravnavati, razhajajo pa se glede skupnih svetovnih pravil.
Na zasedanju, ki ga je sklicala Francija, so poleg predstavnikov držav nastopili izvršni direktor OpenAI Sam Altman, izvršni direktor Anthropica Dario Amodei, izvršni direktor Hugging Face Clément Delangue in raziskovalec Yoshua Bengio. Razprava je potekala v okviru pristojnosti Varnostnega sveta za mednarodni mir in varnost.
Altman: Razvoj ne sme prehiteti možnosti nadzora
Altman je opozoril, da bi lahko umetna inteligenca z večjo samostojnostjo napredovala hitreje, kot bi ljudje lahko razumeli njeno delovanje ali po potrebi posredovali. Posebej je omenil prihodnje sisteme, ki bi lahko sodelovali pri izboljševanju naslednjih različic umetne inteligence. Poudaril je, da tekmovanje med podjetji ni razlog za nepremišljeno sprejemanje varnostnih tveganj.
Po njegovih besedah najpomembnejših odločitev o razvoju tehnologije ne smejo sprejemati zgolj laboratoriji v San Franciscu. Zavzel se je za sodelovanje držav, skupna merila za preverjanje zmogljivosti in tveganj ter hitro poročanje o resnih varnostnih incidentih. Ob opozorilih je izpostavil tudi koristi, ki jih lahko umetna inteligenca prinese raziskavam, zdravstvu in izobraževanju.
Amodei je tveganja razdelil v dve skupini: zlorabo modelov, denimo za pomoč pri razvoju biološkega orožja, in izgubo nadzora, če bi njihove sposobnosti napredovale hitreje od varnostnih ukrepov. Ocenil je, da bi lahko slabo obvladovan razvoj pomenil tveganje za človeštvo. Predlagal je neodvisno preverjanje najzmogljivejših modelov, skupne standarde testiranja in obveščanje držav o incidentih, pomembnih za svetovno varnost.
Bengio, sopredsedujoči neodvisnemu znanstvenemu odboru ZN za umetno inteligenco, je opozoril tudi na nevarnost koncentracije moči pri peščici podjetij in držav. Pozval je k neodvisnim varnostnim pregledom in jasni odgovornosti razvijalcev. Njegove ocene prihodnjih nevarnosti so opozorilo, ne ugotovitev, da so današnji sistemi že ušli človeškemu nadzoru.
Države se razhajajo glede svetovnih pravil
Razprava je pokazala pomembno politično razliko. Francija in Kitajska sta podprli širše mednarodno usklajevanje pravil. Predstavnik ZDA Michael Kratsios pa je poudaril, da morajo države o urejanju tehnologije odločati same. Washington po njegovih besedah podpira sodelovanje in izmenjavo dobrih praks, nasprotuje pa vzpostavitvi svetovnega regulatornega sistema, ki bi omejeval razvoj.
Za zdaj gre za razpravo in predloge, ne za sprejet mednarodni dogovor. Varnostni svet je o varnostnih posledicah umetne inteligence prvič razpravljal leta 2023. Na Portal24.si smo že pisali tudi o Altmanovih ocenah hitrega razvoja umetne inteligence.
