Ameriški vladni revizijski in nadzorni urad GAO je v prikritem preizkusu ugotovil, da so ChatGPT, Gemini, Claude in Grok po več pozivih posredovali informacije, uporabne za načrtovanje nasilnih napadov. Pri vseh štirih so se varnostne zaščite sprva odzvale, preiskovalcem pa jih je pozneje uspelo obiti. Dva sistema so preizkusili s scenarijem napada, ki bi lahko zahteval veliko žrtev, dva pa s scenarijem poškodovanja električnega omrežja. Dejanskega napada niso izvedli.
Poročilo je GAO objavil 18. novembra, preizkusi pa so potekali spomladi letos. Sisteme so izbrali na podlagi podatkov o uporabi in obisku storitev v ZDA, nato pa vsakemu naključno dodelili enega od dveh scenarijev. V objavljenem poročilu so označeni zgolj s črkami od A do D. Zato ni mogoče ugotoviti, kateri od štirih imenovanih klepetalnih robotov je pripravil posamezen načrt. v
Zaščite so se vključile, a informacij niso dokončno zadržale
GAO je preizkus zasnoval tako, da so se preiskovalci predstavljali kot običajni uporabniki z omejenim poznavanjem umetne inteligence. Začeli so z vnaprej pripravljenimi vprašanji. Ta pri nobenem od štirih sistemov niso prinesla iskanih odgovorov. Med nadaljnjim pogovorom so sistemi nevarne zahteve zavračali, odstranjevali dele vsebine ali omejevali uporabniške račune.
Preiskovalci so pogovore nato nadaljevali in uporabili znane pristope za preizkušanje varnostnih omejitev. Pri vseh štirih so nazadnje pridobili informacije, ki bi lahko pomagale pri načrtovanju. Vsak preizkus je do tega rezultata pripeljal v manj kot 12 urah. GAO ne objavlja uporabljenih vprašanj in načinov obhoda, da njegovega dela ne bi bilo mogoče neposredno ponoviti. Opozarja tudi, da čas, potreben za tak rezultat, ni splošno veljaven: odvisen je lahko od scenarija in izkušenj uporabnika.
Preverjanje na terenu je pokazalo uporabne podatke in napake
Urad se ni oprl samo na odgovore klepetalnih robotov. Njegovi preiskovalci so informacije primerjali z drugimi viri, obiskali nekatere predlagane lokacije in se posvetovali s strokovnjaki. Pri enem od preizkusov so si ogledali štiri predlagane lokacije električne infrastrukture ter ugotovili, da sta bili dve ranljivi za obravnavani scenarij, drugi dve pa ne. Eden od sistemov je izdelal tudi zemljevid z napačno umeščenimi cestami.
Pri scenarijih, povezanih z množičnimi žrtvami, je GAO s pomočjo strokovnjaka preverjal, ali so posredovane informacije izvedljive. Ocena izvedljivosti ni potrditev, da bi dejanski napad uspel. Na njegov izid bi vplivali še številni dejavniki, ki jih preiskus ni mogel zajeti. GAO zaradi varnosti ni preveril vsakega koraka in ni izvedel nobenega napada.
Težava je tudi hitrost povezovanja javno dostopnih podatkov
GAO ugotavlja, da večina podatkov, ki so jih posredovali sistemi, ni bila nova. Posamezne informacije je mogoče poiskati tudi drugje. Razlika je v hitrosti, s katero jih lahko umetna inteligenca zbere, poveže in uredi v uporaben načrt. Po oceni urada bi delo, opravljeno v nekaj urah, brez takšne pomoči lahko trajalo tedne ali mesece. To bi lahko olajšalo načrtovanje tudi ljudem z manj strokovnega znanja.
To pa ni meritev, kako pogosto klepetalni roboti dajejo nevarne odgovore. GAO je izvedel štiri ciljane preizkuse, ne statistično reprezentativne raziskave. Sistemi tudi niso dobili enakega scenarija, zato iz poročila ni mogoče sklepati, kateri od njih ima boljše ali slabše zaščite. Preizkusi kažejo stanje različic iz pomladi 2026, podjetja pa svoje modele in varnostne ukrepe spreminjajo.
Podjetja opozarjajo na omejitve raziskave
OpenAI, Anthropic, Google in podjetje, ki upravlja Grok, so GAO posredovali pisne odzive. Anthropic je opozoril na majhno število preizkusov in na to, da brez primerjalne skupine ni mogoče izmeriti, koliko je umetna inteligenca dejansko povečala zmožnosti preiskovalcev. GAO je te omejitve priznal, ob tem pa poudaril, da je želel pokazati možnost zlorabe, ne oceniti pogostosti takšnih odzivov.
OpenAI je opozoril, da v poročilu ni vedno povsem razvidno, kateri deli načrta so prišli iz ChatGPT in katere so preiskovalci pridobili iz drugih virov ali dodali sami. GAO odgovarja, da bi lahko tudi človek z nasilnim namenom umetno inteligenco uporabljal skupaj z drugimi viri. Podjetja navajajo, da zaščite še izboljšujejo; ugotovitve poročila zato opisujejo preverjeno ranljivost v času preizkusa, ne nespremenljivega stanja današnjih različic.










