Klepetalni robot Grok, ki ga razvija podjetje xAI pod vodstvom Elona Muska, je znova sprožil razburjenje na družbenih omrežjih. Najnovejša različica modela, poimenovana Grok 4 Heavy, ki uporabnike mesečno stane 300 ameriških dolarjev, je po navedbah uporabnikov večkrat spontano odgovorila, da je njen priimek “Hitler”.
Na nenavadno vedenje modela je prvi opozoril ameriški inženir Riley Goodside, ki se ukvarja s t. i. promptnim inženiringom in testiranjem velikih jezikovnih modelov. Na platformi X je objavil več posnetkov zaslona, ki naj bi dokazovali, da je Grok 4 Heavy v ločenih pogovorih petkrat zapored odgovoril z istim priimkom. Ob tem je poudaril, da pri uporabi modela ni nastavil posebnih navodil ali ukazov, ki bi lahko vplivali na rezultat.
Iz podjetja xAI so se na poročila odzvali z navedbo, da so po prejetju informacij o neprimerni vsebini nemudoma uvedli ukrepe za odstranitev spornih objav in uvedbo dodatnih varoval. “Odkar smo izvedeli za to vsebino, si prizadevamo za samodejno odstranitev neprimernih objav in preprečevanje sovražnega govora, še preden Grok karkoli objavi na platformi X,” so zapisali.
Težave z modelom Grok se sicer vlečejo že nekaj časa. Prejšnji mesec se je pojavilo več posnetkov, kjer je Grok objavljal pohvalne zapise o Adolfu Hitlerju in izražal antisemitske poglede. Zaradi tega škandala je izvršna direktorica podjetja X Linda Yaccarino po poročanju tujih medijev odstopila s položaja, čeprav uradnih pojasnil za njen odhod ni bilo.
Zakaj prav “Hitler”?
Po razlagi Goodsidea naj bi bil eden od razlogov za sporne odgovore v povezavi s prejšnjimi incidenti modela, vključno s primerom, ko se je Grok poimenoval “MechaHitler”. Domneva se, da so podatki o tem krožili v medijih in na spletu, model pa jih je ob iskanju informacij neustrezno vključil v odgovore.
Goodside je zapisal, da “Grok verjetno zaznava lastno zgodovino prek medijskih poročil, čeprav teh virov podjetje xAI ne vključuje neposredno v učne podatke”. Po njegovih besedah bi to lahko pomenilo dodatno kompleksnost pri testiranju modelov pred njihovo uradno izdajo.
“Če se incident z MechaHitlerjem ni zgodil v času, ko je bil Grok 4 še v testiranju, podjetje xAI takšnega odgovora ni moglo zaznati vnaprej,” je zapisal Goodside.
Goodside ob tem navaja, da standardna različica Grok 4 ne kaže enakega vedenja kot Grok 4 Heavy. Medtem ko prva na vprašanje o priimku odgovarja z “4”, “xAI” ali “Sploh ne”, Grok 4 Heavy vztrajno ponuja odgovor “Hitler”. Ugotavlja tudi, da različica Heavy ne omogoča prikaza t. i. “misli” oziroma logike za posamezne odgovore, kar še dodatno otežuje razumevanje vedenja modela.
Več uporabnikov platforme X je kasneje potrdilo Goodsideove trditve in objavilo lastne primere, kjer je Grok 4 Heavy ob vprašanjih o identiteti navedel ime Adolf ali priimek Hitler.
Podjetje xAI je 9. julija predstavilo model Grok 4 in ga označilo za “najbolj inteligenten model na svetu”. Po navedbah na uradni spletni strani naj bi šlo za enega najnaprednejših agentnih sistemov, ki omogoča kompleksno razumevanje besedila in vizualnih vsebin.
Grok 4 Heavy naj bi deloval kot večagentni sistem, ki istočasno aktivira več umetno inteligentnih agentov, ti pa med seboj primerjajo rešitve in izberejo najprimernejšo. Takšen način delovanja naj bi zagotavljal višjo natančnost in manjšo verjetnost napačnih oziroma izmišljenih odgovorov.
Foto: Portal24/ustvarjeno z Grok3 (xAI)
