Ameriške varnostne in obveščevalne agencije so šest kitajskih podjetij, med njimi DeepSeek in Alibabo, obtožile sistematičnega pridobivanja znanja iz vodilnih ameriških modelov umetne inteligence. Kitajske družbe naj bi od konca leta 2024 z milijoni avtomatiziranih poizvedb pridobile več milijard podatkovnih enot iz modelov Claude, GPT, Gemini in Grok. Peking obtožbe zavrača kot neutemeljene.
Skupno opozorilo so izdali ameriška Agencija za nacionalno varnost (NSA), Agencija za kibernetsko varnost in varnost infrastrukture (CISA) ter zvezni preiskovalni urad FBI. Poleg družb DeepSeek in Alibaba so v njem imenovani še Moonshot AI, MiniMax, StepFun in Z.AI.
Ameriške agencije kitajskim podjetjem očitajo uporabo tako imenovane destilacije znanja. Gre za postopek, pri katerem manjši model uči s pomočjo odgovorov večjega in zmogljivejšega modela. Destilacija je sicer običajna in zakonita metoda razvoja umetne inteligence, sporno pa naj bi bilo njeno izvajanje brez dovoljenja lastnikov modelov ter v obsegu, namenjenem pridobivanju njihovih zaščitenih zmogljivosti.
Po navedbah v skupnem opozorilu ameriških agencij destilacija pri omenjenih kitajskih podjetjih ni bila zgolj dopolnilo razvoju, temveč njegov osrednji del. Dejavnosti naj bi potekale ob verjetni vednosti kitajske vlade.
Milijoni poizvedb in prikrivanje izvora
Podjetja naj bi za dostop do ameriških modelov uporabljala uradne programske vmesnike, storitve v oblaku in zunanje posrednike. Ameriške agencije trdijo, da so se zatekala tudi k sivemu trgu posredniških strežnikov, imenovanih “transfer stations”, s katerimi so prikrivala izvor zahtev in se izogibala geografskim omejitvam.
Uporabljala naj bi več računov, skupinske naročnine ter avtomatizirane sisteme za preusmerjanje poizvedb med različnimi ponudniki. Ko je ponudnik določeno pot blokiral, naj bi sistem samodejno nadaljeval pridobivanje odgovorov drugje.
DeepSeek naj bi na ta način pridobival podatke za razvoj modelov R1 in V3. Po ameriških navedbah so ga zanimale predvsem sposobnosti sklepanja, pisanja programske kode, izvajanja nalog prek programskih vmesnikov in opravljanja zahtevnejših večstopenjskih opravil.
Alibaba naj bi z odgovori modelov Claude in GPT izboljševala svojo družino modelov Qwen, zlasti pri programiranju, pogovorih s strankami, ustvarjanju virtualnih likov in delovanju samostojnih digitalnih pomočnikov.
Ameriške agencije kot posebno težavo izpostavljajo poskuse pridobivanja notranjih postopkov sklepanja. Nekatere poizvedbe naj bi bile oblikovane tako, da bi model razkril korake, s katerimi je prišel do odgovora, čeprav ponudniki prikazovanje takšnega notranjega postopka omejujejo.
Peking obtožbe zavrača
Kitajska je navedbe Washingtona zavrnila. Tiskovna predstavnica zunanjega ministrstva Mao Ning je po poročanju Reutersa dejala, da kitajski napredek na področju umetne inteligence temelji na domači znanosti in tehnološki samostojnosti.
“Upamo, da se bodo ZDA vzdržale lažnih obtožb in blatenja Kitajske,” je sporočila ter dodala, da bi morali državi kot vodilni sili na področju umetne inteligence okrepiti sodelovanje.
Objava opozorila prihaja pred napovedanim obiskom kitajskega predsednika Xi Jinpinga v ZDA konec septembra. Državi naj bi se že sredi meseca pogovarjali tudi o varnosti umetne inteligence.
Washington opozarja, da sporne metode kitajskim podjetjem skrajšujejo razvojni čas in zmanjšujejo stroške, hkrati pa bi lahko okrepile kitajske vojaške in kibernetske zmogljivosti. Ameriškim ponudnikom zato priporoča strožji nadzor sumljivih računov, prepoznavanje avtomatiziranih poizvedb in tesnejšo izmenjavo podatkov o poskusih množične destilacije.
