Razvijalci najzmogljivejših sistemov umetne inteligence bi lahko morali vanje vgraditi obvezno “stikalo za izklop”, njegovo delovanje pa bi preverjali neodvisni strokovnjaki. Takšno možnost je v pogovoru za BBC izpostavil Jack Clark, soustanovitelj podjetja Anthropic, ki razvija klepetalnega robota Claude.
Clark meni, da bi lahko zakonodajalci v prihodnosti določili pravila, po katerih bi morala biti podjetja sposobna ustaviti delovanje svojih sistemov, če bi ti postali nevarni ali bi nad njimi izgubila nadzor.
“Ali bi morali od podjetij zahtevati, da imajo stikalo za izklop? Ali ga lahko preveri tretja stran?” se je vprašal v pogovoru za BBC.
Ne gre nujno za en sam gumb
Izraz “stikalo za izklop” ne pomeni nujno fizičnega gumba, s katerim bi bilo mogoče izbrisati umetno inteligenco. V praksi bi lahko šlo za kombinacijo tehničnih in organizacijskih varovalk, ki bi podjetju omogočile prekinitev delovanja modela, odvzem dostopa do računalniških zmogljivosti ali ustavitev avtonomnega sistema.
Clark je pojasnil, da ima večina večjih laboratorijev, tudi Anthropic, že vzpostavljene različne načine za ustavitev svojih sistemov. Vendar za zdaj ni enotnih zakonskih pravil, ki bi določala, kako učinkoviti morajo biti ti mehanizmi in kdo bi jih moral preverjati.
“Prevzemamo ogromna tveganja. Bistvo je, da moramo spremeniti smer, v katero gre ta industrija,” je opozoril.
O verjetnosti izumrtja ni želel ugibati
Opozorila prihajajo v času vse glasnejše razprave o tem, ali bi lahko napredni sistemi umetne inteligence nekoč ogrozili tudi preživetje človeštva. Nekateri raziskovalci temu scenariju pripisujejo več kot desetodstotno verjetnost, podobnih ocen pa Clark ni želel podpreti.
Dejal je, da takšne statistične ocene niso posebno koristne. Kljub temu meni, da bi bila popolnoma neregulirana industrija umetne inteligence slaba rešitev.
K upočasnitvi razvoja najzmogljivejših sistemov in strožjemu nadzoru je pozval tudi izvršni direktor Anthropica Dario Amodei. Razprava je vplivala celo na tehnološke delnice, saj vlagatelji opozorila vodilnih razvijalcev razumejo tudi kot znamenje morebitnih prihodnjih omejitev, poroča The Guardian.
ZDA razmišljajo o zakonu, Britanci so zadržani
V ZDA je bil predstavljen predlog zakona, imenovan AI Kill Switch Act. Od razvijalcev bi lahko zahteval možnost ustavitve problematičnih sistemov, pristojnim državnim organom pa bi v določenih okoliščinah omogočil, da odredijo njihovo omejitev ali izklop.
Ameriški predsednik Donald Trump pozive k upočasnitvi razvoja zavrača in opozorila o uničenju človeštva označuje za prevaro, ki naj bi koristila predvsem Kitajski.
Bolj zadržana je tudi britanska vlada. Po njenem mnenju stikalo v eni državi ne bi preprečilo, da bi nevarne sisteme razvijali ali zlorabljali drugje.
Clarkov predlog za zdaj tako ostaja poziv k politični razpravi, ne že sprejeta obveznost. Razkriva pa vse večje protislovje industrije: podjetja tekmujejo v razvoju vedno zmogljivejših sistemov, hkrati pa njihovi vodilni opozarjajo, da sedanje varovalke morda ne bodo zadostovale.
