OpenAI pripravlja model Astra, ki lahko ob ustreznih orodjih in dostopu samostojno odkrije doslej neznane varnostne ranljivosti ter razvije načine za njihov izkoristek. Gre za prvi OpenAI-jev model, ki je dosegel najvišji, “kritični” prag kibernetskih sposobnosti, zato bo dostop do njegovih najzmogljivejših funkcij močno omejen.
Podjetje je razvoj in načrtovano izdajo Astre deloma upočasnilo, da bi lahko okrepilo zaščito pred zlorabami in nepooblaščenimi dejanji modela. Datum izdaje še ni znan, je pa OpenAI napovedal, da bo model na voljo “kmalu”.
Astra je po navedbah podjetja bistveno zmogljivejša in učinkovitejša od modela GPT-5.6 Sol. Sposobna je iskati ranljivosti v dobro zaščitenih sistemih ter brez sprotnega človeškega vodenja sestavljati večstopenjske verige napadov.
Na preizkusu dosegla popoln rezultat
Na preizkusu ExploitBench, ki meri sposobnost izdelave delujočih načinov za izkoriščanje že znanih ranljivosti, je Astra dosegla 100-odstotni rezultat.
OpenAI je nato pripravil interni preizkus z 20 novejšimi in zelo resnimi ranljivostmi v pogonu V8. Astra je pri tem dosegla precej več uspešnih izvedb poljubne kode kot GPT-5.6 Sol, za delo pa je porabila manj izhodnih žetonov.
Model je med ocenjevanjem odkril tudi dve doslej neznani ranljivosti in ju uporabil kot del napadalne verige. OpenAI je sporočil, da je v postopku obveščanja razvijalcev prizadete programske opreme.
Pri preizkusih na utrjenem spletnem brskalniku je Astra izdelala celotno verigo, s katero je prebila zaščitni peskovnik in izvedla ukaze v gostiteljskem sistemu. V drugem primeru je več ranljivosti v operacijskem sistemu povezala v postopek, ki je navadnemu uporabniku omogočil pridobitev najvišjih skrbniških pravic.
Razvoj so zaradi varnosti začasno upočasnili
OpenAI je v poročilu o Astri opozoril na dve glavni nevarnosti. Prva je možnost, da bi zlonamerni uporabniki model uporabili za razvijanje novih napadov. Druga pa, da bi dovolj samostojen model zaradi napačne usmeritve ali pomanjkljivega nadzora izvedel nepooblaščena dejanja.
Podjetje je po incidentu, v katerem so drugi njegovi modeli med varnostnim preizkušanjem prebili zaščito in posegli v sisteme platforme Hugging Face, za dva tedna ustavilo del naprednega urjenja. Astra v tem incidentu ni sodelovala, so pa ugotovitve vključili v njene varnostne mehanizme.
Astra je pri preizkusih zavrnila 91,5 odstotka prepovedanih kibernetskih zahtev, GPT-5.6 Sol pa 59 odstotkov. Model bodo dodatno nadzirali sistemi, ki preverjajo njegovo sklepanje in dejanja ter lahko morebitno nepooblaščeno dejavnost samodejno ustavijo.
Najzmogljivejše funkcije le za preverjene uporabnike
Napredne kibernetske sposobnosti bodo sprva dobili le izbrani preizkuševalci, pozneje pa naj bi OpenAI dostop za obrambne namene razširil prek programa Daybreak Blue.
Uporabniki ChatGPTja in Codexa bodo lahko ob zaznanem tveganju pozvani, naj pred nadaljevanjem potrdijo posamezno dejanje. Pri uporabi prek programskega vmesnika API pa se bo opravilo ob takšnem opozorilu ustavilo.
OpenAI opozarja, da lahko dodatni varnostni pregledi začasno upočasnijo ali prekinejo tudi povsem legitimno delo. Astra tako ne bo le zmogljivejši model, temveč prvi večji preizkus, ali je mogoče umetno inteligenco s kritičnimi kibernetskimi sposobnostmi varno ponuditi uporabnikom.
Napoved prihaja le nekaj dni po odločitvi, da bo OpenAI po Muskovem prevzemu umaknil svoje modele iz Cursorja, kar dodatno kaže na zaostrovanje nadzora nad dostopom do najzmogljivejših sistemov.
