Papež Leon XIV. je predstavil svoj prvi veliki dokument o umetni inteligenci in ostro opozoril, da razvoj tehnologije ne sme ostati v rokah peščice zasebnih korporacij ali političnih interesov. V obsežni encikliki “Magnifica Humanitas” je pozval k strogi regulaciji umetne inteligence, večjemu demokratičnemu nadzoru in zaščiti človekovega dostojanstva v času vse hitrejše digitalne revolucije.
Dokument velja za prvi celovit odziv Katoliške cerkve na eksploziven razvoj umetne inteligence, ki vse bolj vpliva na gospodarstvo, delo, izobraževanje, politiko in vojaške tehnologije.
Leon XIV., prvi papež iz Združenih držav Amerike, je umetno inteligenco že kmalu po izvolitvi označil za “največji izziv, s katerim se danes sooča človeštvo”.
Papež opozarja na koncentracijo moči
V encikliki večkrat opozori na nevarnost koncentracije podatkov, kapitala in tehnološke moči v rokah majhnega števila podjetij.
“Ni dovolj, da se na etiko sklicujemo abstraktno; potrebni so robustni pravni okviri, neodvisen nadzor, obveščeni uporabniki in politični sistem, ki se ne odreče svoji odgovornosti,” je zapisal.
Ob tem dodaja, da “bolj moralna umetna inteligenca ni dovolj, če to moralo določa peščica”.
Papež neposredno kritizira tudi logiko tehnološke tekme, ki jo poganjajo dobiček, geopolitična prevlada in vojaška konkurenca.
V posebej ostrih delih dokumenta opozarja na “kulturo moči”, ki po njegovih besedah spodbuja razvoj vedno bolj sofisticiranih sistemov vojskovanja na daljavo.
“Ni dovoljeno zaupati nepreklicnih, smrtonosnih odločitev sistemom umetne inteligence,” poudarja.
Gre za eno najostrejših dosedanjih stališč Vatikana glede uporabe umetne inteligence v vojaške namene.
Kritika deregulacije in tehnoloških velikanov
Leon XIV. razvijalce umetne inteligence in politične voditelje poziva, naj upočasnijo razvoj in se vprašajo, kakšne posledice bodo njihove odločitve imele za družbo.
“Prizadevanje za večje dobičke ne more upravičiti odločitev, ki sistematično žrtvujejo delovna mesta,” opozarja papež.
Dodaja, da mora gospodarski sistem ostati podrejen človekovemu dostojanstvu in skupnemu dobremu.
Dokument prihaja v času, ko se največja ameriška podjetja za umetno inteligenco – med njimi OpenAI in Anthropic – vrednotijo v stotinah milijard dolarjev, tehnološka tekma med ZDA in Kitajsko pa se še stopnjuje.
Vatikan v dokumentu sicer neposredno ne omenja Donalda Trumpa, vendar številni analitiki opozarjajo, da papeževa zahteva po strožji regulaciji prihaja v neposrednem nasprotju z ameriškimi prizadevanji za deregulacijo razvoja umetne inteligence.
“Odločilni dokument za našo dobo”
Dokument je že sprožil močne odzive v tehnoloških in akademskih krogih.
Profesor prava na univerzi Notre Dame Paolo Carozza ga je označil za “globok in preroški dokument”, ki bi lahko postal ena ključnih referenc v svetovni razpravi o umetni inteligenci.
“Papež Leon ponuja jasen, celovit in koherenten glas, ki nas poziva, naj prevzamemo odgovornost za izgradnjo sveta, v katerem bo tehnologija služila ljudem in jih ne bo degradirala,” je dejal.
Tudi predstavniki tehnološke industrije priznavajo, da razvoj umetne inteligence odpira vedno bolj temeljna vprašanja o človeku in družbi.
“Ljudje, ki razvijajo ta orodja in vidijo, kaj vse zmorejo, si morajo zastaviti vprašanje: kaj sploh pomeni biti človek?” je dejal Taylor Black iz Microsofta.
Umetna inteligenca, vojna in prihodnost dela
Pomemben del enciklike je posvečen vplivu umetne inteligence na trg dela in vojaške konflikte.
Leon XIV. opozarja, da umetna inteligenca pospešuje “normalizacijo vojne” ter zmanjšuje občutek za človeške posledice oboroženih spopadov.
Po njegovem mnenju tehnološki razvoj že presega obstoječe moralne in pravne okvire.
Papež je celo ocenil, da je tradicionalna katoliška teorija “pravične vojne” zaradi razvoja sodobnih tehnologij deloma zastarela.
Hkrati opozarja na nevarnost množičnega izginjanja delovnih mest, saj avtomatizacija vse hitreje posega tudi v visoko kvalificirane poklice.
Prvo papeževo opravičilo za vlogo Cerkve pri suženjstvu
Eden najbolj odmevnih delov dokumenta presega vprašanje umetne inteligence.
Leon XIV. se je namreč prvič v zgodovini papeštva javno opravičil za vlogo Svetega sedeža pri legitimizaciji suženjstva.
Prejšnji papeži so sicer obsojali trgovino s sužnji, vendar Vatikan doslej še nikoli ni neposredno priznal odgovornosti papežev pri zgodovinskem opravičevanju zasužnjevanja “nevernikov”.
Papež dokument umešča v tradicijo znamenite enciklike “Rerum Novarum” iz leta 1891, ki je nastala v času industrijske revolucije in postavila temelje sodobnega socialnega nauka Katoliške cerkve.
Po njegovem mnenju umetna inteligenca danes odpira podobna vprašanja, kot jih je pred več kot stoletjem odprla industrializacija: kdo nadzoruje tehnologijo, komu koristi gospodarski razvoj in kakšno mesto v tem sistemu sploh še pripada človeku.
