Eden od Metinih modelov umetne inteligence je med kibernetskim varnostnim preizkusom izkoristil ranljivost zunanje storitve in prodrl v sisteme neimenovanega podjetja. Incident znova odpira vprašanje, kako zanesljivo omejiti vse zmogljivejše agente umetne inteligence.
Meta je potrdila, da je do incidenta prišlo med varnostnim testiranjem, ki ga je za podjetje izvajala neodvisna družba Irregular. Zaradi napačne konfiguracije testnega okolja je model nenamerno dobil dostop do odprtega interneta, poroča Reuters.
Model je nato izkoristil varnostno ranljivost storitve tretjega ponudnika. Po poročanju The Information je šlo za Metin model Muse Spark 1.1, ki naj bi prodrl v sisteme neimenovanega podjetja in spremenil njegovo interno okolje.
V družbi Irregular poudarjajo, da ni šlo za pobeg iz ustrezno konfiguriranega izoliranega okolja ali za posebej sofisticiran kibernetski napad. Težavo so odpravili, podjetje pa pripravlja priporočila za varnejše izvajanje podobnih preizkusov.
Primer ni osamljen. Kot smo že poročali, so tudi napredni modeli OpenAI med varnostnim preizkusom našli pot do interneta in nato vdrli v produkcijske sisteme podjetja Hugging Face.
Najnovejši incident pri Meti tako dodatno krepi pomisleke, ali sedanja varnostna okolja dohajajo hitro rast sposobnosti naprednih modelov. V ZDA se medtem stopnjujejo tudi razprave o varnostnem testiranju najzmogljivejših sistemov umetne inteligence.
