Vatikan bo v ponedeljek predstavil encikliko “Magnifica Humanitas”, prvi obsežen dokument katoliške cerkve o umetni inteligenci, s katerim želi papež Leon XIV. postaviti etične in družbene meje razvoja ene najhitreje rastočih tehnologij na svetu.
Ameriški papež bo dokument osebno predstavil v Vatikanu skupaj z visokimi predstavniki Svetega sedeža in vodilnimi strokovnjaki s področja umetne inteligence, med njimi tudi soustanoviteljem podjetja Anthropic Dariom Amodeijem. Gre za prvo encikliko v zgodovini Cerkve, posvečeno umetni inteligenci.
Objava prihaja v času hitrega širjenja generativne umetne inteligence, zaostrovanja geopolitične tekme med ZDA in Kitajsko ter vse večjih opozoril o vplivu algoritmov na družbo, trg dela, informacijski prostor in vojaške sisteme.
Vatikan svari pred “destruktivno spiralo” umetne inteligence
Papež Leon XIV. je v zadnjem letu umetno inteligenco večkrat označil za eno ključnih vprašanj sodobnega časa. Med drugim je opozoril na nevarnost “postopne zamenjave resničnosti z njeno simulacijo”, pa tudi na vse večjo odvisnost družb od algoritmov, ki oblikujejo javno percepcijo.
Posebej ostro je kritiziral uporabo umetne inteligence v vojaške namene. Po njegovih besedah pomeni prepuščanje odločitev o življenju in smrti strojem “destruktivno spiralo”, ki lahko dodatno destabilizira svetovne konflikte.
Tudi zato je simbolično pomembna prisotnost podjetja Anthropic na predstavitvi dokumenta. Podjetje je v ZDA trenutno v pravnem sporu z ameriško vojsko, ker ni želelo omiliti pravil, ki prepovedujejo uporabo njihovega modela Claude za smrtonosno avtonomno vojskovanje ali množični nadzor.
Papež je večkrat opozoril tudi na okoljske posledice tehnološke tekme, predvsem zaradi povečanega izkopavanja redkih zemeljskih elementov, ki so ključni za sodobno elektroniko in razvoj umetne inteligence.
Trg umetne inteligence proti petim bilijonom dolarjev
Po ocenah Združenih narodov bi lahko globalni trg umetne inteligence do leta 2033 dosegel vrednost 4,8 bilijona dolarjev, kar pomeni približno 25-kratno rast v enem desetletju.
Ob tem naraščajo opozorila, da se bodo dobički in tehnološka moč koncentrirali v rokah majhnega števila držav in tehnoloških podjetij. Generalni sekretar ZN Antonio Guterres je lani opozoril, da se “okno za oblikovanje umetne inteligence zapira” in da svet še nima ustreznih pravil za njeno uporabo.
Vatikan želi z novo encikliko razširiti svoj socialni nauk na digitalno dobo. Dokument je bil podpisan 15. maja, na 135. obletnico enciklike Leona XIII. iz leta 1891, ki je oblikovala temelje socialnega nauka Cerkve v času industrijske revolucije.
Profesorica politologije Marijana Grbeša z Univerze v Zagrebu ocenjuje, da Vatikan umetno inteligenco vidi kot primerljivo civilizacijsko prelomnico.
“Industrijska revolucija je spremenila trg dela, razmerja moči in način življenja ljudi. Danes se dogaja nekaj podobnega,” je dejala ob robu konference o umetni inteligenci v Vatikanu.
Papež zahteva več nadzora nad algoritmi
Papež Leon v zadnjih mesecih posebej poudarja potrebo po digitalni pismenosti in večji transparentnosti tehnoloških sistemov.
Po njegovih besedah morajo ljudje razumeti, kako algoritmi oblikujejo njihovo dojemanje resničnosti, politične preference in družbene odnose. Aprila je opozoril tudi na uporabo umetne inteligence za širjenje polarizacije, strahu in nasilja.
Vatikan se z vprašanjem umetne inteligence ukvarja že več let. Sveti sedež je leta 2020 predstavil “Rimski apel za etiko umetne inteligence”, v katerem je pozval k zaščiti človekovega dostojanstva pri razvoju novih tehnologij.
Podobno je opozarjal tudi papež Frančišek, ki je pred odhodom s položaja večkrat pozval k mednarodni regulaciji umetne inteligence in svaril, da bi lahko tehnologija še poglobila globalne neenakosti.
