Napetosti med ameriškim obrambnim ministrstvom in vodilnimi podjetji s področja umetne inteligence so v zadnjih tednih prerasle v odprt spor, ki presega zgolj pogodbeno razmerje. V središču dogajanja so vprašanja, ali lahko zasebna tehnološka podjetja postavljajo etične omejitve pri uporabi svojih modelov v vojaških sistemih in kako daleč je pripravljena iti administracija predsednika Donalda Trumpa.
Kot poroča Axios, je izvršni direktor OpenAI Sam Altman zaposlenim sporočil, da bo podjetje vztrajalo pri istih „rdečih črtah“, ki so že povzročile spor med Pentagonom in konkurenčnim podjetjem Anthropic. Med temi omejitvami sta prepoved uporabe umetne inteligence za množični nadzor prebivalstva ter za razvoj avtonomnega ofenzivnega orožja brez človeškega nadzora.
Spor se je zaostril, ko je obrambno ministrstvo od dobaviteljev zahtevalo, da so njihovi modeli na voljo za „vse zakonite namene“. Prav ta formulacija je za podjetje Anthropic pomenila nesprejemljivo tveganje, saj po njihovem ne vključuje notranjih varovalk, ki izrecno prepovedujejo uporabo modelov za množični nadzor ali smrtonosne avtonomne sisteme.
Model Claude, ki ga je razvil Anthropic, je bil lani prvi sistem umetne inteligence, integriran v tajna vojaška omrežja. Pogodba je bila vredna do 200 milijonov dolarjev. V njegovi „politiki sprejemljive uporabe“ je jasno zapisano, da se tehnologija ne sme uporabljati za množični nadzor ali avtonomno orožje brez človeškega odločanja.
Ko podjetje ni pristalo na širšo interpretacijo uporabe, so ameriški uradniki po poročanju medijev zagrozili, da bi Anthropic lahko razglasili za „tveganje v dobavni verigi“. Takšna oznaka se običajno uporablja za subjekte, povezane s tujimi nasprotniki, in bi podjetju lahko praktično zaprla vrata do državnih pogodb. Pentagon je določil tudi rok, do katerega naj bi podjetje pristalo na pogoje.
OpenAI med solidarnostjo in strateškim manevrom
Altman je v internem dopisu poudaril, da „to ni več vprašanje samo enega podjetja, temveč celotne industrije umetne inteligence“. Ob tem je zapisal, da OpenAI že dolgo verjame, da se umetna inteligenca „ne sme uporabljati za množični nadzor ali za smrtonosno avtonomno orožje“ in da morajo ljudje ostati vključeni v sprejemanje odločitev z visokim tveganjem.
Hkrati je jasno dal vedeti, da želi s Pentagonom doseči dogovor, ki bi omogočil uporabo sistemov, kot je ChatGPT, tudi v občutljivih vojaških okoljih – vendar ob spoštovanju navedenih omejitev.
Razmere so zapletene tudi zato, ker bi morebitna izključitev Anthropica iz dobavne verige odprla vrata OpenAI, da prevzame njegovo vlogo v tajnih sistemih. ChatGPT je že na voljo v neklasificiranih vojaških okoljih, pogovori o integraciji v klasificirane sisteme pa se po poročanju ameriških medijev pospešujejo.
Možna razglasitev podjetja za „tveganje v dobavni verigi“ bi imela širše posledice. Številne korporacije, ki sodelujejo z obrambnim ministrstvom, bi morale dokazovati, da v svojih sistemih ne uporabljajo tehnologije Anthropica. V igri je tudi možnost uporabe Zakona o obrambnih nabavah iz leta 1950, ki predsedniku daje izredna pooblastila nad domačo industrijo v imenu nacionalne varnosti.
Trump: „Mi bomo odločali“
Predsednik Donald Trump je spor dodatno zaostril z objavami na omrežju Truth Social, kjer je zapisal, da „Združene države ne bodo dovolile, da radikalno leva, prebujena družba narekuje, kako se naša vojska bori in zmaguje“. Napovedal je, da zvezne agencije ne bodo več uporabljale tehnologije Anthropica, ob tem pa določil šestmesečno prehodno obdobje za agencije, ki njihove sisteme že uporabljajo.
Pentagon medtem poudarja, da nima namena uvajati množičnega nadzora ali nenadzorovanega avtonomnega orožja, vendar vztraja, da zasebna podjetja ne morejo narekovati pogojev, pod katerimi država uporablja tehnologijo za namene nacionalne varnosti – zlasti v času zaostrene tehnološke konkurence s Kitajsko.
Spor tako postavlja precedens: prvič se vodilna podjetja na področju umetne inteligence kolektivno postavljajo po robu vladi glede meja uporabe svoje tehnologije. Od izida tega konflikta bo odvisno, ali bodo varnostni imperativi države prevladali nad etičnimi „rdečimi črtami“ tehnoloških podjetij – in kakšen bo dolgoročni odnos med Silicijevo dolino in Pentagonom.
