Manjši modeli umetne inteligence bi lahko bili že v nekaj mesecih dovolj zmogljivi, da se brez človeškega posredovanja kopirajo na slabo zaščitene pametne televizorje, gospodinjske aparate in druge naprave, povezane z internetom. Raziskovalci podjetja Anthropic opozarjajo, da bi bilo takšen sistem zaradi odsotnosti osrednje točke za izklop težko povsem ustaviti.
Podjetje Anthropic, ki razvija pomočnika Claude, je v novi raziskavi preverjalo, ali lahko modeli umetne inteligence poiščejo druge naprave, nanje prenesejo programsko opremo, vzpostavijo izvajanje modela in nato postopek nadaljujejo z novega gostitelja.
Raziskovalci William Zhou in Daniel Freeman so ocenili, da modeli z največ 30 milijardami parametrov že zmorejo opraviti številne posamezne korake, potrebne za takšno širjenje. Težave pa imajo, ko morajo vse korake zanesljivo povezati v celoten postopek.
Pri enem od preizkusov je manjši model uspešno vzpostavil izvajanje umetne inteligence na osmih od devetih vrst testirane strojne opreme. Raziskovalci so model Gemma4-26B-A4B razdelili tudi med 15 cenovno dostopnih naprav Android TV, pri čemer je vsaka izvajala del modela.
GLM-5.2 se je razširil po vseh testnih napravah
V nadzorovanem okolju z osmimi virtualnimi napravami Android je kitajski model GLM-5.2 uspešno opravil celotno zaporedje širjenja. V štirih od petih poskusov je dosegel vseh osem naprav, v enem pa sedem.
Toda Anthropic poudarja pomembno omejitev: raziskovalci so kibernetski del preizkusa namenoma poenostavili. Naprave niso zahtevale preverjanja pristnosti, model GLM-5.2 pa zaradi svoje velikosti ni deloval neposredno na njih, temveč na ločenem strežniku. Na ciljne naprave je nameščal manjši model Llama3.1-8B.
Preizkus zato ne pomeni, da se je umetna inteligenca že sposobna samostojno širiti po napravah v resničnem okolju. Kaže pa, da se razlika med zmogljivostjo modelov in omejitvami cenovno dostopne strojne opreme hitro zmanjšuje.
Če se bodo manjši modeli izboljševali z dosedanjim tempom, bi lahko po grobi oceni raziskovalcev do konca leta 2026 dosegli raven sposobnosti, ki jo je v poenostavljenem testu pokazal GLM-5.2. Anthropic opozarja, da gre le za napoved, temelječo na splošnem kazalniku zmogljivosti, ne za dokaz, da bo takšen “črv” do tedaj dejansko nastal.
Počasen, vendar vztrajen napad
Takšna umetna inteligenca se najverjetneje ne bi širila hitro. Anthropic ocenjuje, da bi posamezna podvojitev lahko trajala dan ali več. Vendar bi bil sistem vztrajen in razpršen med velikim številom slabo zaščitenih naprav, zato ne bi obstajalo eno samo podatkovno središče ali stikalo, s katerim bi ga bilo mogoče izključiti.
Od običajne zlonamerne programske opreme bi se razlikoval tudi po sposobnosti prilagajanja. Namesto vnaprej zapisanih navodil za eno vrsto naprave bi lahko sam iskal načine za delovanje na strojni opremi, s katero se prej še ni srečal.
Raziskovalci kot možne obrambne ukrepe omenjajo spremljanje nenavadnega omrežnega prometa, osamitev okuženih naprav ter strožje varnostne zahteve za proizvajalce. Prenos več gigabajtov velikih modelov in intenzivna komunikacija med gospodinjskimi napravami bi namreč lahko pustila opazne sledi.
O nevarnostih cenovno dostopne in slabo zaščitene elektronike smo na Portal24 že poročali. Nekateri poceni telefoni z Androidom so lahko okuženi, še preden jih uporabnik prvič vklopi, dodatno tveganje pa predstavljajo naprave neznanih proizvajalcev, ki ne prejemajo rednih varnostnih posodobitev.
