Pionir umetne inteligence Geoffrey Hinton opozoril na nevarnost razvoja na področju umetne inteligence

Pionir umetne inteligence Geoffrey Hinton opozoril na nevarnost razvoja na področju umetne inteligence

Geoffrey Hinton, ki ga mnogi imenujejo boter umetne inteligence, je pustil službo pri Googlu in opozoril na “vedno večje nevarnosti razvoja na področju umetne inteligence“. Geoffrey Hinton (75) je v intervjuju za New York Times napovedal odstop iz Googla in dejal, da zdaj obžaluje svoje delo.

Za BBC je povedal, da so nekatere nevarnosti klepetalnih robotov z umetno inteligenco “precej strašljive. Trenutno niso bolj inteligentni od nas, kolikor vidim. Ampak mislim, da bodo kmalu,” je dejal. Pionirska raziskava dr. Hintona o globokem učenju in nevronskih mrežah je utrla pot trenutnim sistemom umetne inteligence, kot je ChatGPT.

Britansko-kanadski psiholog in računalničar je za BBC povedal, da bi lahko chatbot kmalu presegel raven informacij, ki jih hranijo človeški možgani.

“Trenutno vidimo, da stvari, kot je GPT-4, v količini splošnega znanja, ki ga ima zasenčijo osebo. Kar zadeva razmišljanje, ni tako dobro, je pa že v smislu preprostega sklepanja. Glede na hitrost napredka, pričakujemo, da se bo kmalu izboljšalo. Zato moramo biti zaskrbljeni,” je povedal za BBC.

“Scenarij nočne more”

V intervjuju za New York Times pa je Hinton omenil “slabe akterje”, ki bi poskušali uporabiti AI za “slabe stvari”. Ko ga je BBC vprašal, naj pojasni, je odgovoril: “To je samo vrsta najslabšega možnega scenarija, scenarij nočne more. Lahko si predstavljate, na primer, kakšnega slabega igralca, kot je ruski predsednik Vladimir Putin, ki se je odločil robotom dati sposobnost ustvarjanja lastnih ciljev.”

Znanstvenik je opozoril, da bi to sčasoma lahko “ustvarilo podcilje, kot je ‘Moram dobiti več moči’. Prišel sem do zaključka, da se vrsta inteligence, ki jo razvijamo, zelo razlikuje od inteligence, ki jo imamo. Smo biološki sistemi in to so digitalni sistemi. In velika razlika je v tem, da imate pri digitalnih sistemih veliko kopij istega modela svetu,” je dejal.

“In vse te kopije se lahko učijo ločeno, vendar takoj delijo svoje znanje. Tako je, kot da imate 10.000 ljudi in kadar koli se ena oseba nečesa nauči, vsi to samodejno vedo. In tako lahko ti chatboti vedo veliko več kot katera koli oseba,” je sklenil Hinton.

Hinton je dejal tudi, da je bilo več drugih razlogov, da je odstopil. “Eno je, da imam 75 let. Torej je čas, da se upokojim. Drugo pa je – pravzaprav želim povedati nekaj dobrih stvari o Googlu. In te so bolj verodostojne, če ne delam za Google,” pravi.

Poudaril je, da ne želi kritizirati Googla in da je tehnološki velikan “zelo odgovoren”.

“Ostajamo zavezani odgovornemu pristopu do umetne inteligence. Nenehno se učimo razumeti nova tveganja, hkrati pa pogumno uvajamo inovacije,” je povedal glavni znanstvenik pri Googlu Jeff Dean.

vir Foto: Alcetron