OpenAI za razvoj naprednih AI modelov ustanovil varnostni odbor

OpenAI [Foto: Freepik]

OpenAI za razvoj naprednih AI modelov ustanovil varnostni odbor

OpenAI, zagonsko podjetje za umetno inteligenco, je ustanovil varnostni odbor, ki ga bodo vodili člani uprave, vključno z izvršnim direktorjem Samom Altmanom. Odbor bo imel ključno vlogo pri pripravi priporočil o varnostnih odločitvah za projekte in operacije OpenAI.

Med člani odbora so tudi direktorji Bret Taylor, Adam D’Angelo in Nicole Seligman. Novo ustanovljeni odbor bo v naslednjih 90 dneh ocenil in nadalje razvijal obstoječe varnostne prakse OpenAI ter svoja priporočila delil z upravnim odborom. Po pregledu bo OpenAI javno objavil posodobitev sprejetih priporočil.

Podprto z Microsoftom, je OpenAI s svojimi klepetalnimi roboti z generativnimi zmožnostmi umetne inteligence, kot so sodelovanje v človeških pogovorih in ustvarjanje slik na podlagi besedilnih pozivov, sprožilo skrbi glede varnosti, ko modeli umetne inteligence postajajo vse zmogljivejši.

OpenAI je dokončal prehod v komercialno organizacijo

“Nov varnostni odbor pomeni, da je OpenAI dokončal prehod v komercialno organizacijo iz bolj nedefiniranega neprofitnega subjekta,” je povedal generalni direktor DA Davidson, Gil Luria. “To bi moralo pomagati racionalizirati razvoj izdelkov ob ohranjanju odgovornosti.”

Medtem sta nekdanji glavni znanstvenik Ilya Sutskever in Jan Leike, ki sta vodila ekipo OpenAI Superalignment, zapustila podjetje v začetku tega meseca. Ekipa Superalignment je bila razpuščena v začetku maja, manj kot leto dni po ustanovitvi, nekateri člani ekipe pa so bili prerazporejeni v druge skupine.

Med člani odbora sta tudi na novo imenovani glavni znanstvenik Jakub Pachocki in Matt Knight, vodja varnosti. Podjetje se bo posvetovalo tudi z drugimi strokovnjaki, vključno z Robom Joyceom, nekdanjim direktorjem za kibernetsko varnost ameriške agencije za nacionalno varnost, in Johnom Carlinom, nekdanjim uradnikom ministrstva za pravosodje.

Dodatnih podrobnosti o novem “mejnem” modelu, ki ga usposablja, razen da bo svoje sisteme prinesel na “naslednjo raven zmogljivosti na naši poti do AGI,” OpenAI ni dal. V začetku maja je podjetje napovedalo nov model AI, ki je sposoben realističnega glasovnega pogovora in interakcije prek besedila in slike.

[Vir: Reuters]; Portal24; Foto: Freepik