Klepetalnik lahko napačen podatek predstavi jasno, podrobno in samozavestno. Prepričljiv jezik zato ni dokaz pravilnosti, navedena povezava pa še ne pomeni, da vir res podpira zapisano trditev.
Umetna inteligenca lahko v nekaj sekundah pripravi razlago, povzetek ali seznam podatkov. Težava nastane, ko manjkajočo informacijo dopolni z odgovorom, ki zveni povsem verjetno, a ni resničen.
Pojav pogosto imenujemo “halucinacija”. Klepetalnik si lahko izmisli datum, statistični podatek, izjavo, znanstveno raziskavo, knjigo, sodbo ali spletno povezavo. Napaka je lahko skrita med več pravilnimi podatki, zato jo uporabnik težko opazi.
Samozavesten odgovor ni nujno pravilen
Jezikovni modeli oblikujejo odgovore na podlagi vzorcev v podatkih in verjetnega nadaljevanja besedila. Njihov osnovni cilj je sestaviti smiseln odgovor, ne pa samodejno preveriti vsake trditve v uradni evidenci.
Zato lahko klepetalnik odgovori tudi takrat, ko nima dovolj informacij. Še posebej previdni bodite pri zelo svežih dogodkih, nejasnih vprašanjih, manj znanih osebah, lokalnih temah ter natančnih številkah in datumih.
Tudi OpenAI v pojasnilu o zanesljivosti ChatGPT opozarja, da lahko klepetalnik poda napačne definicije in datume ter si izmisli citate, raziskave in vire. Visoka samozavest odgovora ne pomeni, da je podatek zanesljiv.
Najprej preverite najpomembnejšo trditev
Dolgega odgovora ni treba preverjati od prve do zadnje besede. Najprej poiščite trditev, na kateri temelji celoten sklep.
Če klepetalnik denimo trdi, da je bil sprejet nov zakon, preverite:
- ali zakon res obstaja,
- ali je bil samo predlagan ali tudi sprejet,
- kdaj začne veljati,
- ali velja za vaš primer,
- ali je vir uradna objava ali le medijski povzetek.
Pri aktualnih temah preverite tudi datum vira. Stara stran je lahko pristna, podatek na njej pa ne velja več.
Povezavo vedno odprite
Klepetalnik lahko navede resnično spletno stran, ki pa ne potrjuje njegove trditve. Lahko tudi poveže na neobstoječo stran ali navede članek s podobnim, izmišljenim naslovom.
Ob kliku preverite:
- Ali se povezava sploh odpre?
- Kdo je objavil vsebino?
- Kdaj je bila objavljena ali posodobljena?
- Ali je trditev dejansko zapisana v viru?
- Ali gre za prvotni dokument ali le povzetek drugega medija?
Vir ni preverjen samo zato, ker je zapisan pod odgovorom. Preverjen je šele, ko ga odprete in ugotovite, da res podpira navedeno trditev.
Zahtevajte prvotni vir
Za zakone uporabite uradno zakonodajno zbirko, za statistiko pristojni statistični urad, za zdravstvene trditve zdravstveno ustanovo ali izvirno raziskavo, za poslovne rezultate pa uradno objavo podjetja oziroma regulatorja.
Klepetalniku lahko napišete:
Za vsako pomembno trditev navedi prvotni vir, datum objave in neposredno povezavo. Če vira ne moreš preveriti, to jasno označi. Ne izmišljaj manjkajočih podatkov.
Koristen dodatek je tudi:
Razdeli odgovor na preverjena dejstva, verjetne razlage in podatke, ki jih ni mogoče potrditi.
Takšno navodilo lahko izboljša preglednost odgovora, ne odpravlja pa možnosti napake. Tudi po opozorilu, naj si podatkov ne izmišljuje, lahko model še vedno navede napačno informacijo.
Pri številkah naredite še drugi izračun
Če odgovor vsebuje odstotke, seštevke ali primerjave, izračun preverite s kalkulatorjem ali preglednico. Posebej sumljivi so zelo natančni zneski brez jasnega vira in odstotki, pri katerih ni navedeno, s čim se primerjajo.
Pri daljših dokumentih preverite tudi, ali je klepetalnik pravilno prepoznal obdobje, enoto in vsebino tabele. Milijoni in milijarde, mesečni in letni podatki ter nominalne in realne vrednosti se lahko hitro zamenjajo.
Kdaj odgovor zahteva posebno previdnost?
Odgovora UI ne uporabljajte kot edine podlage za:
- jemanje ali opuščanje zdravil,
- pravne odločitve in roke,
- naložbe ali večje finančne odločitve,
- obtožbe zoper konkretno osebo,
- objavo citata, ki ga niste našli v prvotnem viru.
Umetna inteligenca je zelo uporabna za prvi pregled teme, oblikovanje vprašanj in pripravo osnutka. Končni vir pa mora biti dokument, podatkovna zbirka ali odgovorna oseba – ne odgovor klepetalnika.
