Umetna inteligenca lahko ustvari prepričljiv seznam raziskav, knjig, sodb in spletnih povezav, ki so videti povsem verodostojno. Oblikovan bibliografski zapis še ni dokaz, da vir obstaja ali da podpira navedeno trditev.
Klepetalnik prosite za vire o določeni temi, čez nekaj sekund pa dobite urejen seznam z imeni avtorjev, naslovi raziskav, letnicami, revijami in spletnimi povezavami. Na prvi pogled je odgovor videti kot rezultat skrbnega raziskovanja.
Težava se pokaže, ko povezava ne deluje, navedenega članka ni mogoče najti ali pa resnična raziskava govori o nečem povsem drugem. Umetna inteligenca lahko namreč ustvari navedbo, ki je po obliki brezhibna, po vsebini pa izmišljena.
Zakaj si klepetalnik izmisli raziskavo?
Jezikovni model oblikuje besedilo glede na vzorce in verjetne besedne povezave. Če pozna način zapisovanja znanstvenih virov, lahko sestavi naslov, ime avtorja in ime revije, ki zvenijo verjetno, čeprav tak članek nikoli ni bil objavljen.
Enako se lahko zgodi pri knjigah, sodbah, uradnih dokumentih, statističnih poročilih in izjavah znanih oseb. Model lahko združi resničnega avtorja, resnično revijo in izmišljen naslov v zapis, ki ga uporabnik težko prepozna kot napačnega.
Tudi OpenAI v pojasnilu o omejitvah ChatGPT opozarja, da si lahko klepetalnik izmisli citate, raziskave in navedbe neobstoječih virov. Zelo samozavesten odgovor zato ni nujno zanesljivejši od previdno oblikovanega.
Vir preverite v štirih korakih
Prvi korak je preverjanje obstoja. Naslov raziskave ali dokumenta vpišite v iskalnik med narekovaji. Pri znanstvenih člankih preverite še spletno stran revije, knjižnično zbirko ali uradno znanstveno podatkovno zbirko.
Drugi korak je preverjanje podatkov. Primerjajte naslov, avtorje, leto objave, revijo in morebitno identifikacijsko oznako DOI. Že majhna razlika lahko pomeni, da je klepetalnik pomešal več različnih virov.
Tretji korak je odpiranje povezave. Nekatere povezave vodijo na resnično spletno stran, toda ne na dokument, ki ga je UI opisala. Povezava do začetne strani ministrstva ali univerze še ni dokaz, da je navedeno poročilo tam res objavljeno.
Četrti korak je preverjanje vsebine. Tudi resnični vir lahko govori o drugi skupini ljudi, drugem obdobju ali drugačnem vprašanju. Preberite vsaj povzetek, metodologijo in sklep ter preverite, ali vir dejansko podpira trditev.
Na te znake bodite posebej pozorni
Sum lahko vzbudijo:
- zelo natančen citat brez povezave do izvirnika,
- članek, ki ga ni mogoče najti nikjer drugje,
- povezava, ki vrne napako ali vodi na začetno stran,
- neujemanje med naslovom, avtorjem in letom,
- neobstoječa revija ali nenavadno poimenovana institucija,
- stran, ki je sicer povezana s temo, a navedene trditve ne vsebujeuje,
- več virov z zelo podobnimi in nenavadno popolnimi naslovi.
Posamezen znak še ne dokazuje, da je navedba izmišljena. Je pa razlog, da vira ne uporabite, dokler ga ne najdete in preverite.
Tako zahtevajte bolj preverljiv odgovor
Klepetalniku lahko napišete:
Navedi samo vire, do katerih lahko dostopaš in jih lahko preveriš. Pri vsakem dodaj neposredno povezavo, avtorja, datum objave in pojasnilo, katero trditev vir podpira. Če vira ne moreš potrditi, ga ne vključuj.
Dodate lahko še:
Loči prvotne vire od medijskih povzetkov. Ne navajaj raziskave, sodbe ali citata samo na podlagi spomina.
Takšno navodilo zmanjša možnost napak, ne zagotavlja pa popolne pravilnosti. Če je na voljo spletno iskanje ali poglobljeno raziskovanje, ga je smiselno vključiti, nato pa vse uporabljene povezave še vedno odpreti.
Posebna previdnost pri zdravju, pravu in politiki
Izmišljena navedba je lahko posebej nevarna, kadar jo uporabnik uporabi kot podlago za zdravljenje, pravni postopek, finančno odločitev ali javno obtožbo. Pri takšnih temah mora končno preverjanje vedno temeljiti na prvotnem dokumentu oziroma pristojni ustanovi.
Umetna inteligenca se uporablja tudi za množično izdelavo lažnih in manipulativnih objav. Portal24.si je že poročal o proruski dezinformacijski kampanji, ki je za širjenje vsebin uporabljala orodja umetne inteligence. Enaka sposobnost ustvarjanja prepričljivega besedila lahko uporabnika zavede tudi v običajnem pogovoru s klepetalnikom, če odgovora ne preveri.
ChatGPT lahko pomaga poiskati smer raziskovanja, ne sme pa postati edini vir za seznam literature ali dokazovanje pomembne trditve. Če dokumenta ne morete najti in odpreti, ga ne uporabite.
