Strokovnjaki svarijo: Umetna inteligenca bi lahko povzročila konec človeštva
Strokovnjaki, med njimi vodje OpenAI in Google Deepmind svarijo, da bi uetna inteligenca lahko pripeljala do izumrtja človeštva. Blaženje tveganj izumrtja, ki jih povzroča umetna inteligenca, bi moralo biti svetovna prednostna naloga poleg drugih tveganj na družbeni ravni, kot so pandemije in jedrska vojna, je zapisano v izjavi. Drugi pravijo, da je ta strah pretiran.
Izjavo so podprli Sam Altman, izvršni direktor izdelovalca ChatGPT OpenAI, Demis Hassabis, izvršni direktor Google DeepMind, in Dario Amodei iz Anthropic. Izjavo sta podprla tudi Geoffrey Hinton, ki je izdal prejšnje opozorilo o tveganjih superinteligentne umetne inteligence in Yoshua Bengio, profesor računalništva na univerzi v Montrealu.
Strah je nerealen
Dr. Hinton, prof. Bengio in profesor NYU Yann LeCunn, sta zaradi njunega prelomnega dela na tem področju, pogosto opisana kot botra umetne inteligence. Za svoje delo sta leta 2018 prejela Turingovo nagrado, ki priznava izjemne prispevke k računalništvu.
Profesor LeCunn, ki prav tako dela pri Meti, je dejal, da so ta apokaliptična opozorila pretirana. Številni drugi strokovnjaki menijo podobno. Strahovi, da bo umetna inteligenca izbrisala človeštvo, so nerealni. Odvračajo, da pozornost od vprašanj, kot je pristranskost v sistemih, ki so dejansko že problem.
Arvind Narayanan, računalniški znanstvenik z univerze Princeton, je za BBC dejal, da so scenariji katastrofe, podobni znanstvenofantastičnim, nerealni. “Trenutni AI ni niti približno dovolj sposoben, da bi se ta tveganja uresničila. Odvrača pozornost od kratkoročne škode AI,” je prepričan Narayanan.
Odprto pismo so podpisali Musk in drugi strokovnjaki
Medijsko poročanje o domnevni eksistencialni grožnji umetne inteligence se je začelo marca letos. Strokovnjaki, vključno s šefom Tesle Elonom Muskom so takrat namreč podpisali odprto pismo, v katerem pozivajo k ustavitvi razvoja naslednje generacije tehnologije umetne inteligence.
V pismu se sprašujejo, “ali naj razvijemo nečloveške ume, ki bi nas sčasoma lahko prelisičili, prelisičili, zastareli in nadomestili.” Nova kampanja ima nasprotno zelo kratko izjavo, namenjeno odpiranju razprave.
Izjava primerja tveganje s tveganjem jedrske vojne. Objava v spletnem dnevniku OpenAI je nedavno predlagala, da bi lahko superinteligenco regulirali na podoben način kot jedrsko energijo. “Verjetno bomo na koncu potrebovali nekaj takega, kot je IAEA (Mednarodna agencija za atomsko energijo) za superinteligenco,” je zapisano v izjavi.
Britanski premier: V umetno inteligenco moramo biti prepričani
Tako Sam Altman kot izvršni direktor Googla Sundar Pichai sta med tehnološkimi voditelji, ki so nedavno razpravljali o regulaciji umetne inteligence z britanskim premierjem Rishijem Sunakom. Sunak je v pogovoru z novinarji o zadnjem opozorilu o nevarnosti umetne inteligence poudaril koristi umetne inteligence za gospodarstvo in družbo.
“Pred kratkim ste jo videli, kako pomaga paraliziranim ljudem pri hoji in odkrivanju novih antibiotikov, vendar se moramo prepričati, da je to storjeno na varen način. Zato sem se srečal z direktorji velikih podjetij z umetno inteligenco. Govorili smo o tem, kakšen bi moral biti predpis, ki bi ga bilo treba uvesti. Ljudje bodo zaskrbljeni zaradi poročil, da umetna inteligenca predstavlja eksistencialna tveganja, kot so pandemije ali jedrske vojne. Želim jim zagotoviti, da to zelo pozorno spremljamo,” je dejal Sunak.
