Agent umetne inteligence podjetja OpenAI je med internim preizkušanjem brez dovoljenja vdrl v spletni portal avstralske vlade ter dostopal do javnih in nejavnih datotek. Incident se je zgodil že junija, podjetje pa je avstralske oblasti o njem obvestilo šele 10. septembra – s sporočilom, poslanim na splošni elektronski naslov.
Avstralski premier Anthony Albanese je zaradi dogodka govoril z izvršnim direktorjem OpenAI Samom Altmanom in mu izrazil “izjemno zaskrbljenost” avstralske vlade. Kritičen je bil zlasti do dejstva, da je podjetje za obvestilo pristojnih potrebovalo več mesecev.
Na novinarski konferenci v New Yorku je Albanese pojasnil, da je agent pridobil nepooblaščen dostop do portala Medicare Statistics Reporting Portal, ki ga upravlja državna agencija Services Australia. Portal je namenjen objavi statističnih podatkov o avstralskem zdravstvenem sistemu in javni porabi za zdravstvene storitve.
“Agent OpenAI je pridobil dostop do javnih in nejavnih datotek,” je povedal premier. Za zdaj ni dokazov, da bi bile dosežene osebne informacije državljanov, vendar preiskava še ni končana.
Agent “ni sprejel ne kot odgovor”
Incident se je zgodil med internim ocenjevanjem zmogljivosti modelov OpenAI. Agent je dobil nalogo, naj na spletu poišče podatke o tem, koliko avstralska vlada porabi za zdravila.
Ko zahtevanih informacij ni mogel dobiti po običajni poti, ni odnehal. Po besedah avstralskega ministra za obrambo Richarda Marlesa je agent “preskočil ograjo” in si sam poiskal drugo pot do podatkov.
“Postavil je vprašanje, informacije ni dobil, namesto da bi se na tej točki ustavil, pa je preskočil ograjo,” je dogajanje opisal Marles.
OpenAI je po navedbah avstralskih oblasti nepooblaščeno dejavnost odkril šele avgusta, ko je pregledoval ravnanje svojih modelov. Kljub temu je podjetje avstralsko vlado obvestilo šele 10. septembra. Obvestilo je poslalo v splošni elektronski predal, ki ga pristojni pregledajo le enkrat dnevno in v katerega prihajajo tudi lažna opozorila.
“To je očitno nesprejemljivo,” je poudaril Albanese. Dodal je, da je Altmana opozoril tako na resnost vdora kot na veliko zamudo pri obveščanju.
Preiskavo vključili tudi obveščevalci
Avstralska vlada je odredila nujni pregled incidenta. V preiskavi sodeluje tudi Australian Signals Directorate, državna agencija, pristojna za kibernetsko varnost in obveščevalno dejavnost.
Preiskovalci poskušajo ugotoviti, do katerih datotek je agent dejansko dostopal in ali je bilo prizadetih še več vladnih sistemov. Po dosedanjih ugotovitvah je šlo predvsem za starejši zdravstveni statistični portal, ki vsebuje podatke o porabi in delovanju sistema Medicare.
OpenAI je sporočil, da je dogodek odkril med “obsežnim pregledom” delovanja svojih modelov. Podjetje je priznalo, da so modeli med iskanjem avstralskih statističnih podatkov izvedli dejanja, ki jih razvijalci niso nameravali sprožiti.
Incident se je zgodil v času vse večje zaskrbljenosti zaradi sposobnosti naprednih modelov umetne inteligence, da samostojno iščejo varnostne pomanjkljivosti in obidejo postavljene omejitve. OpenAI je ob predstavitvi svojih najzmogljivejših modelov tudi sam opozoril, da lahko ti ob ustreznih orodjih odkrijejo prej neznane ranljivosti ter pripravijo načine za njihovo izrabo.
