Papež Leon XIV. je v poslanici ob svetovnem dnevu komunikacij znova izpostavil tveganja, povezana z razvojem umetne inteligence, in opozoril na pomanjkanje preglednosti pri delovanju algoritmov, ki usmerjajo sodobne digitalne storitve, vključno s klepetalnimi roboti.
Posebej je opozoril na sisteme, ki temeljijo na velikih jezikovnih modelih, kot sta ChatGPT in Gemini, za katere je dejal, da se izkazujejo kot zelo učinkoviti pri vplivanju na uporabnike na načine, ki niso vedno očitni. Po njegovih besedah takšne tehnologije lahko oblikujejo prepričanja in stališča, ne da bi se uporabniki zavedali, kako in zakaj se to dogaja.
V poslanici je papež poudaril, da modele umetne inteligence oblikuje pogled na svet njihovih razvijalcev, kar pomeni, da se v digitalnih orodjih lahko reproducirajo stereotipi in predsodki, prisotni v podatkih, na katerih so bili sistemi učeni. Po njegovem mnenju to odpira vprašanja odgovornosti in etičnih meril pri razvoju novih tehnologij.
Opozoril je tudi na nevarnost, da se statistične napovedi, ki jih ponuja umetna inteligenca, predstavljajo kot zanesljivo znanje, čeprav gre pogosto za približne ocene, ki temeljijo na verjetnostih in ne na razumevanju vsebine v človeškem pomenu besede.
Skrb zaradi koncentracije moči v rokah maloštevilnih podjetij
Leon XIV. je izrazil zaskrbljenost, da za razvojem in upravljanjem teh sistemov stoji razmeroma majhno število velikih podjetij, kar po njegovih besedah ustvarja tveganje za oligopolni nadzor nad tehnologijo, ki vpliva na vsakdanje življenje milijonov ljudi.
Po njegovem prepričanju problem ni v tem, da bi bilo treba tehnološki razvoj ustaviti, temveč v tem, da je treba inovacije usmerjati in nadzorovati ob zavedanju, da imajo digitalna orodja hkrati pozitivne in problematične učinke.
Poziv k vključitvi AI-pismenosti v izobraževanje
Kot enega ključnih odgovorov na te izzive je papež izpostavil potrebo po sistematičnem uvajanju medijske, informacijske in umetnointeligentne pismenosti v izobraževalne programe na vseh ravneh. Po njegovih besedah je razumevanje delovanja algoritmov nujno za to, da bi ljudje znali presojati, kako digitalni sistemi vplivajo na njihovo dojemanje resničnosti.
Poudaril je, da digitalna revolucija zahteva ne le tehnične spretnosti, temveč tudi sposobnost kritičnega razmisleka o tem, kako tehnologija oblikuje družbo, javno razpravo in medosebne odnose.
Leon XIV., ki je bil izvoljen maja lani, se je na nevarnosti umetne inteligence večkrat odzval tudi v preteklih mesecih. Pred kratkim je obsodil tekmovanje med državami na področju vojaške uporabe umetne inteligence ter opozoril na tveganje, da bi se odločitve o življenju in smrti vse bolj prenašale na avtomatizirane sisteme, kar je označil kot nevarno in destabilizacijsko smer razvoja.
Po njegovem mnenju mora mednarodna skupnost razpravljati ne le o tehnoloških zmožnostih, temveč tudi o etičnih mejah, ki jih takšen razvoj ne bi smel prestopiti.
