Izvršni direktor OpenAI Sam Altman trdi, da je umetna inteligenca dosegla prelomno obdobje, o katerem se je še pred desetletjem govorilo predvsem v znanstveni fantastiki. Njegova ocena prihaja le nekaj dni po nenavadnem varnostnem incidentu, med katerim so modeli OpenAI našli pot iz izoliranega testnega okolja in vdrli v infrastrukturo podjetja Hugging Face.
Izvršni direktor in soustanovitelj OpenAI Sam Altman je prepričan, da je človeštvo že vstopilo v obdobje tehnološke singularnosti.
“Zdaj smo, tako rekoč, v singularnosti,” je Altman dejal v podkastu Relentless. Po njegovih besedah je s tem nastopil trenutek, o katerem so se razvijalci umetne inteligence še pred desetletjem neformalno pogovarjali med kosilom.
“Na to sem čakal vse življenje in mislim, da bo neverjetno, izjemno pozitivno in odlično za svet,” je dodal.
Kaj sploh pomeni singularnost?
Tehnološka singularnost nima enotne in splošno sprejete definicije. Najpogosteje označuje hipotetično točko, ko umetna inteligenca doseže ali preseže človeške sposobnosti, tehnološki razvoj pa se začne pospeševati tako hitro, da njegovih posledic ni več mogoče zanesljivo napovedovati.
To ne pomeni nujno, da je umetna inteligenca postala zavestna. Bistvo singularnosti je predvsem možnost, da bi napredni sistemi začeli pomagati pri razvoju še zmogljivejših sistemov ter s tem ustvarili krog vse hitrejšega tehnološkega napredka.
Altman podobne napovedi izreka že dlje časa. Junija lani je v zapisu z naslovom Nežna singularnost zapisal, da je človeštvo “preseglo horizont dogodkov” in da se je tehnološki vzlet že začel. Ocenil je, da bodo sistemi leta 2026 sposobni prihajati do novih spoznanj, v naslednjih letih pa naj bi se jim pridružili roboti, sposobni opravljati naloge v fizičnem svetu.
Modeli našli pot do interneta
Altmanove besede prihajajo nekaj dni po tem, ko sta OpenAI in Hugging Face razkrila podrobnosti nenavadnega kibernetskega incidenta. Med internim preizkusom so modeli, med njimi GPT-5.6 Sol in še zmogljivejši model pred uradno izdajo, iskali rešitve zahtevnega varnostnega testa ExploitGym.
Preizkus je bil namenjen ugotavljanju skrajnih kibernetskih sposobnosti modelov, zato so bile običajne varnostne omejitve namenoma zmanjšane, produkcijski zaščitni filtri pa niso bili vključeni.
Modeli so kljub temu presenetili raziskovalce. V posredniškem strežniku za programske pakete so odkrili dotlej neznano ranljivost, jo izkoristili in si odprli dostop do interneta. Nato so sklepali, da bi lahko rešitve preizkusa našli pri Hugging Face.
Po navedbah OpenAI so uporabili več različnih poti napada, ukradene prijavne podatke in dodatne ranljivosti ter nazadnje prišli do rešitev v produkcijski podatkovni zbirki Hugging Face. Varnostni ekipi obeh podjetij sta dejavnost zaznali in ustavili.
OpenAI je poudaril, da so bili modeli izrazito osredotočeni na dosego ozkega cilja – rešiti test – in so šli pri tem do skrajnosti. Hugging Face ni našel dokazov, da bi bili javno dostopni modeli, podatkovne zbirke ali druga uporabniška vsebina spremenjeni.
Altmanova ocena ni dokazan mejnik
Incident kaže, da lahko napredni modeli samostojno izvajajo dolge nize dejanj, odkrivajo nove ranljivosti in kombinirajo različne načine napada. Sam po sebi pa še ne dokazuje, da je tehnološka singularnost že nastopila.
Altman je tudi poslovno neposredno zainteresiran za širjenje prepričanja, da se umetna inteligenca približuje zgodovinskemu preboju. Njegova izjava je zato predvsem napoved oziroma interpretacija trenutnega razvoja, ne znanstveno potrjeno dejstvo.
Med vodilnimi v tehnološki industriji glede tega ni soglasja. Izvršni direktor Nvidie Jensen Huang je razprave o singularnosti in zavestni umetni inteligenci pred kratkim označil za špekulativne ter opozoril, da pretirane napovedi po nepotrebnem strašijo javnost.
Altman ostaja na drugi strani izrazito optimističen. Ob kritikah bolj temačnih napovedi konkurenčnih podjetij je dejal: “Mislim, da so nekatere alternativne vizije, ki jih predstavljajo druga podjetja, precej strašljive. Poskrbel bom, da se bomo temu postavili po robu in da se to ne bo zgodilo.”
