Podjetje Anthropic, eden vodilnih razvijalcev umetne inteligence v ZDA, je pozvalo k globalni upočasnitvi razvoja najzmogljivejših sistemov umetne inteligence. V družbi opozarjajo, da tehnološki napredek poteka hitreje, kot mu lahko sledijo varnostne raziskave, regulacija in družbene institucije.
Podjetje, ki razvija modele Claude, v novem poročilu ugotavlja, da bi bila usklajena mednarodna upočasnitev razvoja najnaprednejših sistemov umetne inteligence “verjetno dobra stvar”, saj bi omogočila več časa za preverjanje varnosti in pripravo zaščitnih mehanizmov.
“Menimo, da bi bilo dobro, če bi imel svet možnost upočasniti ali začasno ustaviti razvoj umetne inteligence na meji, da bi družbene strukture in raziskave usklajevanja lahko sledile napredku tehnologije,” so zapisali v podjetju.
Po njihovem mnenju bi moral vsak resen premor vključevati več največjih razvijalcev umetne inteligence v ZDA, na Kitajskem in drugih državah. Če bi razvoj ustavilo zgolj eno podjetje, bi ga konkurenti hitro prehiteli.
V ospredju tekma med ZDA in Kitajsko
Predlog prihaja v času, ko se umetna inteligenca vse bolj obravnava kot strateška tehnologija, primerljiva z jedrsko energijo, vesoljskim programom ali naprednimi polprevodniki.
V Washingtonu in Silicijevi dolini prevladuje stališče, da bi lahko vsakršen zastoj razvoja Kitajski omogočil tehnološko prednost. Zaradi tega ideja o mednarodnem premoru za zdaj nima širše politične podpore.
Ameriški predsednik Donald Trump je sicer v zadnjih dneh podpisal izvršni ukaz, ki uvaja 30-dnevni predhodni pregled najzmogljivejših ameriških modelov umetne inteligence pred njihovo javno objavo.
Anthropic opozarja, da se podjetja in vlade vse pogosteje soočajo z izbiro med hitrim tehnološkim napredkom in varnostnimi tveganji.
“Brez globalnega mehanizma za usklajevanje bodo morala podjetja in vlade sprejemati težke odločitve o varnosti pod konkurenčnimi in geopolitičnimi pritiski,” so zapisali.
Umetna inteligenca vse bolj razvija samo sebe
Največjo skrb v podjetju vzbujajo podatki, ki kažejo, da umetna inteligenca že pomaga pri nadaljnjem razvoju novih modelov umetne inteligence.
Po oceni Anthropica nastaja povratna zanka, v kateri sistemi vse hitreje pospešujejo lasten razvoj. Raziskovalci temu procesu pravijo “rekurzivno samoizboljšanje” – stanje, v katerem bi se sistemi lahko učili in izboljševali z vedno manj neposrednega človeškega nadzora.
“Še nismo tam in rekurzivno samoizboljšanje ni neizogibno,” poudarjajo v podjetju.
Obenem opozarjajo, da bi se lahko takšni preboji zgodili hitreje, kot so pripravljene vlade, regulatorji in druge institucije.
“Dokazi kažejo, da se človeška vloga na vsaki stopnji procesa razvoja umetne inteligence zmanjšuje,” navaja poročilo.
Anthropic namerava v prihodnjih mesecih organizirati pogovore med vladami, znanstveniki, nevladnimi organizacijami in tehnološkimi podjetji, da bi oblikovali možne mehanizme mednarodnega nadzora nad razvojem najzmogljivejših sistemov umetne inteligence.
