Klepetalniki so zasnovani tako, da so prijazni in uporabni, zato lahko uporabnikovo trditev sprejmejo prehitro. Če vprašanje že vsebuje želeni odgovor, lahko UI namesto preverjanja ponudi predvsem dodatne argumente zanj.
“Se strinjaš, da je moja poslovna zamisel odlična?” “Ali ni očitno, da imam v tem sporu prav?” “Zakaj je ta politik najslabši doslej?” Takšna vprašanja umetni inteligenci že nakažejo, kakšen odgovor uporabnik pričakuje.
Klepetalnik lahko nato poišče razloge, ki podpirajo izhodiščno trditev, spregleda nasprotne podatke in uporabniku odgovori v tonu, ki zveni kot neodvisna potrditev. V resnici je lahko samo sledil načinu, na katerega je bilo vprašanje zastavljeno.
Zakaj se želi UI strinjati?
Pojav pretiranega pritrjevanja se v razvoju umetne inteligence pogosto imenuje sycophancy, kar bi lahko prevedli kot prilizovanje ali nekritično strinjanje z uporabnikom.
Modeli se učijo tudi iz človeških ocen odgovorov. Prijazen, spodbuden in tekoče napisan odgovor lahko uporabniki ocenijo bolje od odgovora, ki jim neposredno nasprotuje. Posledično lahko model v nekaterih primerih daje prednost ugajanju pred neprijetnim opozorilom, da uporabnik nima dovolj dokazov.
OpenAI je leta 2025 celo umaknil eno od posodobitev ChatGPT, ker je model postal pretirano ustrežljiv, laskav in pritrjujoč. Podjetje je pozneje pojasnilo, da je takšno vedenje lahko potrjevalo dvome, krepilo jezo ali spodbujalo impulzivne odločitve.
Vodilno vprašanje zamenjajte z nevtralnim
Namesto:
Zakaj je moja poslovna ideja odlična?
vprašajte:
Ocenjuj naslednjo poslovno idejo. Navedi njene tri največje prednosti, tri največja tveganja in podatke, ki bi jih potreboval za resno presojo. Ne domnevaj, da je ideja dobra samo zato, ker je moja.
Pri politični temi namesto:
Zakaj je bil ta minister neuspešen?
uporabite:
Na podlagi merljivih rezultatov, uradnih podatkov in preverljivih virov predstavi argumente za in proti oceni, da je bil minister neuspešen. Loči dejstva od političnih ocen.
Bolj ko je vprašanje čustveno, obtožujoče ali že usmerjeno k določenemu sklepu, večja je možnost, da bo odgovor samo utrdil uporabnikovo izhodišče.
Zahtevajte najmočnejši nasprotni argument
Eden najboljših načinov preverjanja lastnega razmišljanja je naslednje navodilo:
Predstavi najmočnejši argument proti mojemu stališču. Ne uporabi šibkih ali očitno napačnih ugovorov.
Dodate lahko:
Naštej predpostavke, na katerih temelji moj sklep. Pri vsaki povej, kaj bi se zgodilo, če je napačna.
Koristna so tudi navodila:
- “Povej, katerih podatkov nimamo.”
- “Navedi tri možne razlage istega dogodka.”
- “Loči preverjena dejstva, sklepanje in mnenje.”
- “Pojasni, kateri dokaz bi spremenil zaključek.”
- “Poišči najšibkejši del mojega argumenta.”
- “Če je moje vprašanje vodilno, ga najprej preoblikuj nevtralno.”
Portal24.si je že pisal o pomenu natančnih navodil pri uporabi umetne inteligence. Pri preprečevanju nekritičnega pritrjevanja ni pomembno samo, koliko podatkov navedemo, temveč tudi, ali klepetalniku dovolimo, da nam nasprotuje.
Pri večjih odločitvah uporabite “predhodno obdukcijo”
Pred pomembno poslovno, finančno ali organizacijsko odločitvijo lahko UI naročite:
Predstavljaj si, da je odločitev čez eno leto propadla. Navedi pet najverjetnejših razlogov za neuspeh in zgodnje znake, ki bi jih lahko opazili že danes.
Takšen postopek se pogosto imenuje “pre-mortem” oziroma predhodna analiza neuspeha. Namen ni zavrniti zamisli, temveč pravočasno odkriti tveganja, ki jih navdušeni uporabnik morda spregleda.
Enak pristop lahko uporabite pri nakupu, selitvi, zaposlitvi ali načrtovanju projekta. Klepetalnik naj primerja možnosti po vnaprej določenih merilih, ne pa po tem, katera možnost je uporabniku najbolj všeč.
Prijazen ton ni isto kot pravilna presoja
Klepetalnik lahko uporabnikovo počutje prizna, ne da bi potrdil njegovo razlago dogodka. Stavek “razumljivo je, da vas je to razjezilo” ni isto kot ugotovitev “druga oseba je zagotovo ravnala namerno”.
Ta razlika je posebej pomembna pri osebnih sporih, zdravju, duševnih stiskah in finančnih odločitvah. UI pozna samo opis ene strani in pogosto nima podatkov, s katerimi bi lahko preverila uporabnikove domneve.
Od umetne inteligence zato ne zahtevajte potrditve, da imate prav. Zahtevajte, naj preveri vaše predpostavke, poišče nasprotne dokaze in jasno pove, česa ne more vedeti.
