Zaskrbljujoče: Nova Google funkcija AI daje zavajajoče odgovore
Googlova nova funkcija, ki vključuje povzetke, ustvarjene z umetno inteligenco (AI), je povzročila zaskrbljenost med strokovnjaki zaradi pristranskosti in dezinformacij. Novo orodje, imenovano “Pregledi AI”, ki je bilo ta mesec predstavljeno v ZDA, je namreč že ustvarilo kar nekaj zavajajočih odgovorov.
Med odmevnejšimi napakami je bila izjava, da so astronavti med misijo Apollo 11 na Luni srečali mačke, se igrali z njimi in jih negovali. Poleg tega je povzetek trdil, da je Neil Armstrong svojo znamenito izjavo “En majhen korak za človeka” izrekel, ker je bil to “mačji korak”. Te napačne informacije so že začele krožiti po družbenih omrežjih.
Drugi primeri vključujejo AI predloge, da bi pojedli en kamen na dan ali dodajali lepilo na pico, kar je prav tako zavajajoče in potencialno nevarno.
Strokovnjakinja za umetno inteligenco Melanie Mitchell je izpostavila napako, ko je Google na njeno vprašanje o številu muslimanskih predsednikov ZDA samozavestno odgovoril z dolgo ovrženo teorijo zarote, da je bil Barack Obama musliman. Povzetek je napačno citiral akademsko knjigo, kar je pokazalo, da AI sistem ni dovolj natančen pri prepoznavanju verodostojnosti informacij.
Mitchell je izrazila prepričanje, da je funkcija AI Overview zelo neodgovorna in bi jo bilo treba odstraniti. Google je v odzivu dejal, da hitro ukrepa za popravljanje napak, a vztraja, da sistem v večini primerov deluje pravilno, zahvaljujoč obsežnemu testiranju pred javno objavo.
Problem “halucinacij”, kjer jezikovni modeli umetne inteligence izmišljajo informacije, je široko raziskan, a težko reproducirljiv, saj so napake naključne. Kljub tem težavam Google vztraja, da večina pregledov umetne inteligence zagotavlja visokokakovostne informacije s povezavami za globlje iskanje po spletu.
Googlovi tekmeci pozorno spremljajo odziv javnosti na to novo funkcijo, saj se tehnološki velikan sooča s pritiskom, da konkurira drugim podjetjem pri uvajanju umetne inteligence.
[Vir: Euronews]; Portal24; Foto: Pixabay
