Ameriško podjetje Anthropic je začasno onemogočilo dostop do svojih najnaprednejših modelov umetne inteligence Fable 5 in Mythos 5, potem ko je prejelo direktivo ameriških oblasti o omejitvi dostopa za tuje državljane. Podjetje navaja, da je ukrep povezan s pomisleki glede nacionalne varnosti, čeprav podrobnejše obrazložitve ni prejelo.
Gre za eno najodmevnejših potez na področju regulacije umetne inteligence doslej, saj se ameriški nadzor ni osredotočil na strojno opremo ali polprevodnike, temveč neposredno na uporabo naprednih modelov umetne inteligence.
Sporna naj bi bila možnost obhoda zaščitnih mehanizmov
Po navedbah Anthropica ameriška vlada ocenjuje, da obstaja možnost tako imenovanega “jailbreaka”, s katerim bi bilo mogoče obiti vgrajene zaščitne mehanizme modela Fable 5 in ga uporabiti za odkrivanje ranljivosti v programski opremi ali druge občutljive naloge.
Podjetje se s takšno oceno ne strinja. Poudarilo je, da morebitna posamezna ranljivost ne bi smela biti razlog za umik modela iz uporabe in da bi uporaba takšnega standarda lahko resno upočasnila razvoj celotne panoge umetne inteligence.
Zaradi skladnosti z odredbo je Anthropic začasno onemogočil dostop do modelov Fable 5 in Mythos 5, medtem ko drugi modeli podjetja ostajajo uporabnikom še naprej na voljo.
Napetosti med podjetjem in ameriškimi oblastmi
Odločitev prihaja v času zaostrenih odnosov med Anthropicom in ameriško vlado. Podjetje je v preteklosti zavrnilo uporabo svojih modelov za domači nadzor ameriške vojske in za popolnoma avtonomne orožne sisteme, kar je povzročilo nesoglasja z nekaterimi državnimi institucijami.
Po drugi strani je Anthropic še pred kratkim javno zagovarjal strožji nadzor nad razvojem umetne inteligence in možnost blokade sistemov z nesprejemljivo stopnjo tveganja. V podjetju zdaj poudarjajo, da petkova odločitev oblasti po njihovem mnenju ni skladna z načeli pregledne in na dokazih temelječe regulacije.
Posledice bi lahko občutili tudi uporabniki zunaj ZDA
Po navedbah ameriških uradnikov prepoved dostopa velja za tuje državljane, kar bi lahko vplivalo na širok krog uporabnikov po svetu. Podjetje Amazon Web Services je že potrdilo, da ga je Anthropic zaprosil za preklic dostopa do spornih modelov za uporabnike v vseh regijah.
Analitiki opozarjajo, da bi lahko šlo za pomemben precedens. Dosedanji ameriški izvozni nadzor se je večinoma osredotočal na čipe in infrastrukturo za razvoj umetne inteligence, nova direktiva pa posega neposredno v razpoložljivost naprednih modelov.
Anthropic medtem zatrjuje, da si prizadeva razjasniti nastali položaj z ameriškimi oblastmi in čim prej ponovno omogočiti dostop do modelov Fable 5 in Mythos 5. Podjetje menio, da je pri izdaji odredbe prišlo do nesporazuma, in opozarja, da bi lahko podobni ukrepi v prihodnje bistveno vplivali na razvoj ter komercialno uporabo najzmogljivejših sistemov umetne inteligence.
