Soustanovitelj Microsofta opozarja na možnost bioloških in kibernetskih zlorab ter množičnega izrinjanja delavcev. Predlaga nov mednarodni nadzorni organ.
Bill Gates želi še letos govoriti s kitajskim predsednikom Xi Jinpingom o skupnih pravilih za omejevanje najnevarnejših sistemov umetne inteligence. Med največjimi tveganji izpostavlja pomoč pri pripravi bioloških napadov, vse zmogljivejše kibernetsko orožje in obsežne spremembe na trgu dela.
Gates naj bi si za srečanje prizadeval predvidoma novembra, vendar termin še ni dokončno potrjen. Kitajsko želi prepričati, da bi se skupaj z ZDA in drugimi državami vključila v oblikovanje mednarodnega sistema nadzora umetne inteligence.
Po poročanju Reutersa Gates meni, da bi ameriške omejitve najnevarnejših modelov lahko spodbudile podoben odziv Kitajske in drugih tehnološko razvitih držav. Brez sodelovanja največjih sil bi bil globalni dogovor po njegovem mnenju težko učinkovit.
Nadzor po vzoru jedrske in letalske varnosti
Gates ne zagovarja splošne prepovedi razvoja umetne inteligence. Predlaga pa mednarodno organizacijo oziroma nadzorni mehanizem, osredotočen na modele z najnevarnejšimi zmogljivostmi.
Takšen organ bi se lahko zgledoval po sistemih mednarodnega nadzora jedrskih dejavnosti in pravilih, ki zagotavljajo varnost v letalskem prometu. Države bi morale spremljati predvsem modele, ki lahko ustvarjajo nove molekule ali uporabnikom pomagajo pri razvoju biološkega orožja.
Posebno tveganje vidi tudi v kibernetski varnosti. Gatesa so po navedbah Reutersa presenetili nedavni varnostni preizkusi, v katerih so sistemi podjetij OpenAI, Anthropic in Meta uspešno iskali ranljivosti ter v nadzorovanem okolju vdirali v resnične spletne strani.
Takšne sposobnosti so lahko koristne pri iskanju varnostnih pomanjkljivosti. Če pridejo v napačne roke, pa lahko močno povečajo obseg in hitrost kibernetskih napadov.
“Številna delovna mesta bodo izginila za vedno”
Drugo veliko vprašanje je prihodnost zaposlovanja. Gates v svojem novem zapisu o umetni inteligenci opozarja, da svet nima jasnega načrta za prehod v obdobje, v katerem bodo stroji lahko prevzeli velik del človeškega dela.
“Številna delovna mesta bodo izginila za vedno,” napoveduje. Zato predlaga oblikovanje delovnih mest, rezerviranih za ljudi, tudi kadar bi bilo njihove naloge tehnično mogoče avtomatizirati.
Med takšne poklice bi lahko sodile predvsem dejavnosti, pri katerih so pomembni človeški stik, zaupanje in sočutje. Kot primer izpostavlja zdravstvo in oskrbo, kjer odločitev o uporabi človeka ne bi smela biti odvisna samo od stroškovne učinkovitosti.
Vlade bi morale po njegovem pravočasno okrepiti socialne varovalke in programe prekvalifikacije. Ena od možnosti za financiranje prehoda bi bila obdavčitev prihodkov, ustvarjenih z umetno inteligenco in robotizacijo.
Gates kljub opozorilom umetne inteligence ne predstavlja samo kot grožnje. Prepričan je, da lahko izboljša zdravstvo, šolstvo in kmetijstvo ter postane eno najmočnejših orodij za zmanjševanje razlik. Hkrati opozarja, da lahko ob slabih političnih odločitvah postane tudi nov in izjemno močan vir neenakosti.
