Mark Zuckerberg obtožen neodgovornega pristopa k umetni inteligenci

ByA.K.

19. januarja, 2024 ,
Foto: Portal24 (AI)

Mark Zuckerberg obtožen neodgovornega pristopa k umetni inteligenci

Mark Zuckerberg, ustanovitelj Facebooka, je deležen ostrih kritik zaradi ambicioznega načrta za razvoj sistema umetne inteligence na ravni človeka. V svoji nedavni objavi na Facebooku je Zuckerberg obljubil, da bo zgradil močan sistem umetne inteligence (AI), vendar so ga mnogi strokovnjaki in analitiki obtožili neodgovornega pristopa k tej tehnologiji.

V svoji objavi je Zuckerberg tudi predlagal, da bi bil novi sistem AI brezplačno na voljo širši javnosti. Poleg tega je generalni direktor podjetja Meta izrazil namero, da bi njihov sistem umetne splošne inteligence (AGI) postal odprtokoden in bi bil na voljo razvijalcem zunaj podjetja. Poudaril je, da bi moral biti sistem “čim bolj dostopen”.

AGI, kar pomeni umetna splošna inteligenca, je teoretični sistem umetne inteligence, ki lahko izvaja različne naloge na ravni inteligence, ki ustreza ali presega človeško inteligenco. Ta pojav je vzbudil skrb mnogih strokovnjakov in politikov, ki se bojijo, da bi lahko tak sistem ubežal človekovemu nadzoru in predstavljal potencialno tveganje za človeštvo.

Meta bo resno razmislila o odprtokodnosti AGI

Vendar je Zuckerberg potrdil, da bo Meta resno razmislila o odprtokodnosti AGI, kar pomeni, da bi bil sistem prosto dostopen razvijalcem in javnosti za uporabo in prilagajanje. Zuckerberg je dejal: “Ta tehnologija je tako pomembna in možnosti so tako velike, da bi morali narediti izvorno kodo čim bolj dostopno na odgovoren način, tako da lahko vsi koristijo.”

Kritiki, med njimi Wendy Hall, profesorica računalništva na Univerzi v Southamptonu in članica svetovalnega organa ZN za umetno inteligenco, so ostro kritizirali Zuckerbergovo razmišljanje o odprtokodnem AGI. Hall je dejala, da je možnost odprtokodnega AGI “res, zelo strašljiva” in da je neodgovorno s strani Zuckerberga, da o tem sploh razmišlja. Dodala je: “Misel, da bo odprtokodni AGI objavljen v javnosti, preden bomo ugotovili, kako regulirati te zelo zmogljive sisteme AI, je res, zelo strašljiva. V napačnih rokah bi tovrstna tehnologija lahko naredila veliko škode. Zelo neodgovorno je, da podjetje to predlaga.”

Kljub temu pa je Hall opozorila, da bo preteklo veliko let, preden bo takšen sistem uveden na kakršen koli smiseln način, kar omogoča čas za vzpostavitev regulativnih sistemov. Vendar pa poudarja, da je javna varnost ključna, in da je potrebno to zadevo nujno obravnavati.

Zavezana k sodelovanju

Lani se je Meta na področju varnosti umetne inteligence, zavezala k sodelovanju v Združenem kraljestvu. Ta zaveza je vključevala obljubo, da bo omogočila vladam preverjanje orodij umetne inteligence pred in po njihovi izdaji.

Drugi strokovnjaki iz Združenega kraljestva pa so izrazili mnenje, da odločitev o odprtju sistema AGI ne bi smela biti prepuščena tehnološkim podjetjem. Dr. Andrew Rogoyski, direktor AI Inštituta na Univerzi v Surreyu, je opozoril na globoke in zapletene argumente o prednostih odpiranja kode obstoječih modelov umetne inteligence ter poudaril, da bi bilo treba take odločitve sprejeti z mednarodnim konsenzom, ne pa v vodstvu tehnoloških velikanov.

V intervjuju za The Verge je Zuckerberg izrazil odprtost za odprto kodo, vendar ob pogoju, da je to smiselno, varno in odgovorno. Kljub temu je njegova pretekla odločitev za odprtje kode modela Llama 2 AI sprožila kritike. Nekateri strokovnjaki so to primerjali z razkritjem načrtov za izdelavo jedrske bombe.

OpenAI

Podjetje OpenAI, znano po modelu ChatGPT, prav tako razvija AGI in ga opisuje kot sisteme umetne inteligence, ki so na splošno pametnejši od ljudi. Vodja Google DeepMind, Demis Hassabis, je celo napovedal, da bi človeštvo lahko doseglo AGI v manj kot 10 letih.

Izvršni direktor OpenAI, Sam Altman, je nedavno izrazil previdnost in opozoril, da bi napredek na področju umetne inteligence bil nemogoč brez prebojev na področju oskrbe z energijo, kot je jedrska fuzija.

Kljub vsem tem razpravam in ambicijam Mark Zuckerberg ni zagotovil časovnice za razvoj sistemov AGI. Poudaril pa je, da Meta že ima ogromno infrastrukturo za ustvarjanje novih sistemov AI in da delo na nadaljevanju modela Llama 2 poteka.

vir; Foto: Portal24 (AI)