Pápež Lev XIV chce „odzbrojiť“ umelú inteligenciu

Umelá inteligencia sa už neobjavuje iba v debatách technologických firiem, vývojárov a regulátorov. Do diskusie o jej smerovaní teraz vstupuje aj Vatikán, a to spôsobom, ktorý sa neobmedzuje na všeobecné výzvy k opatrnosti.

Pápež Lev XIV predstavil svoju prvú encykliku Magnifica Humanitas, v ktorej opisuje AI ako jednu z rozhodujúcich spoločenských otázok súčasnosti.

Dokument nevykresľuje umelú inteligenciu ako nepriateľa, no odmieta predstavu, že ide len o neutrálny nástroj. Pápež používa výraz „odzbrojiť AI“, ktorý má podľa neho upozorniť na riziko, že technológia sa stane nástrojom dominancie, vylučovania alebo vojny. Encyklika zároveň nadväzuje na katolícku sociálnu náuku od čias Rerum Novarum, ktorá v roku 1891 reagovala na dôsledky priemyselnej revolúcie. Tentoraz je „novou vecou“ digitálna moc.

Lev XIV predstavil dokument vo Vatikáne za účasti Christophera Olaha, spoluzakladateľa spoločnosti Anthropic a výskumníka, ktorý sa venuje interpretovateľnosti neurónových sietí. Už samotná prítomnosť človeka z jadra AI priemyslu naznačuje, že encyklika nechce hovoriť iba dovnútra cirkvi. Pápež v sprievodnom príhovore povedal, že prijíma pozvanie „kráčať spolu, počúvať a hovoriť“ pri hľadaní cesty pre ľudstvo v čase umelej inteligencie.

Základnou tézou dokumentu je, že technológia nie je sama osebe zlá, no nikdy nie je úplne neutrálna. Vždy nesie stopy toho, kto ju navrhol, financoval, nasadil a komu slúži. Encyklika preto kladie dôraz na otázku moci. Kto vlastní dáta, výpočtovú infraštruktúru, modely, platformy a pravidlá prístupu, ten podľa pápeža nezískava len ekonomickú výhodu, ale aj schopnosť ovplyvňovať, čo spoločnosť vidí, meria a považuje za dôležité.

V tomto text výrazne pripomína kritiku technologických monopolov. Pápež upozorňuje, že nové formy vlastníctva, ako patenty, algoritmy, digitálne platformy, technologická infraštruktúra a dáta, nemožno chápať iba ako súkromné aktíva bez spoločenských dôsledkov. Ak sa koncentrujú v rukách malej skupiny hráčov, vzniká nová nerovnováha medzi tými, ktorí môžu z digitálnej transformácie ťažiť, a tými, ktorí zostávajú len objektom jej rozhodnutí.

Jednou z najostrejších častí encykliky je pasáž o dátach získavaných v chudobnejších alebo geopoliticky slabších regiónoch. Dokument ich prirovnáva k novým „vzácnym zeminám“ moci. Zdravotné údaje, genetické mapy, epidemiologické profily či demografické informácie môžu podľa pápeža slúžiť na vývoj prediktívnych modelov, plánovanie investícií alebo rozhodovanie o tom, komu sa dostane liekov, ochrany či pozornosti. Ak sa tieto dáta zbierajú pod zámienkou pomoci alebo výskumu, no následne posilňujú závislosť slabších krajín, digitálny vek podľa neho nebude postkoloniálny, ale koloniálny iným spôsobom.

Lev XIV sa však nesnaží AI odmietnuť ako takú. Pripomína, že technológia môže pomáhať v medicíne, vzdelávaní, organizácii služieb či v prekladoch. Vatikán podľa priložených podkladov sám používa AI systém na preklad bohoslužieb v Bazilike svätého Petra do desiatok jazykov. Rozdiel je v tom, či technológia zostáva nástrojom v službe človeka, alebo sa stáva prostredím, ktoré určuje pravidlá bez verejnej kontroly.

Encyklika sa preto venuje aj tomu, čo umelá inteligencia nie je. Hoci tieto systémy dokážu napodobňovať niektoré funkcie ľudskej inteligencie a často prekonávajú človeka v rýchlosti spracovania dát, podľa dokumentu nemajú telo, skúsenosť, vzťahy, morálne svedomie ani vnútorné porozumenie radosti, bolesti, práci, priateľstvu alebo zodpovednosti. Pápež tým reaguje najmä na čoraz bežnejší jazyk, v ktorom sa o modeloch hovorí takmer ako o subjektoch.

Pápež varuje, že zameranie na „inteligenciu“ môže zatieniť iné rozmery ľudského života. Afekt, vôľa, záväzok, starostlivosť a vzťahy nie sú doplnky k výpočtovej schopnosti, ale podstatné zložky ľudskej osoby. Ak sa technická výkonnosť začne používať ako hlavné meradlo hodnoty, spoločnosť môže ľudí posudzovať podľa produktivity, schopností alebo dátového profilu. V praxi to môže znamenať automatizované odmietanie pri práci, úveroch, zdravotnej starostlivosti alebo verejných službách.

Dokument sa kriticky pozerá aj na predstavu, že stačí modely „zarovnať“ s ľudskými hodnotami. Podľa pápeža nestačí hovoriť o morálnejšej AI, ak o tom, čo je morálne, rozhoduje úzka skupina firiem alebo technických tímov. Etické rámce musia byť verejne diskutované, napadnuteľné a podriadené princípom sociálnej spravodlivosti. Inak sa z nich stane neviditeľná infraštruktúra, ktorá vopred určí, čo systém považuje za správne, efektívne alebo prijateľné.

Výraz „odzbrojiť“ preto v encyklike neznamená vypnúť servery ani zastaviť výskum. Znamená to zbaviť AI logiky pretekov v moci, či už vojenskej, ekonomickej alebo kognitívnej. Pápež tým mieri na súťaž o väčšie modely, väčšie datasety, väčšiu výpočtovú kapacitu a väčší geopolitický vplyv. Technická sila podľa neho sama osebe nedáva nikomu právo vládnuť.

Veľkú pozornosť venuje pápež v texte aj autonómnym zbraniam, najmä o čoraz samostatnejších zbraňových systémoch, ktoré sa môžu dostať mimo účinnú ľudskú kontrolu. AI v tejto oblasti podľa neho nemožno posudzovať len ako ďalší technologický nástroj, pretože zasahuje priamo do otázky života, smrti a zodpovednosti. Vojna vedená algoritmami podľa encykliky oslabuje schopnosť pomenovať vinníka a vytvára priestor, v ktorom sa morálne rozhodnutie rozplynie medzi systémami, dodávateľmi a operátormi.

Ďalšou dôležitou témou je práca. Lev XIV nadväzuje na tradíciu katolíckej sociálnej náuky, ktorá od Rerum Novarum kladie dôraz na dôstojnosť pracovníka. AI podľa neho môže zmeniť pracovný trh v rozsahu, ktorý si vyžiada nielen rekvalifikácie, ale aj novú debatu o tom, ako sa delia výnosy z automatizácie. Christopher Olah pri predstavení dokumentu upozornil najmä na otázku globálnej chudoby. Ak sa vývoj AI sústreďuje v bohatých krajinách, neexistuje zatiaľ jasný mechanizmus, ktorý by zabezpečil spravodlivé zdieľanie jej prínosov.

Encyklika pritom neostáva len pri regulácii. Regulácia je podľa pápeža potrebná, no nedostatočná. Vyžaduje sa aj širšia politická, kultúrna a vzdelávacia odpoveď. Dokument hovorí o transparentnosti algoritmov, nezávislom dohľade, možnosti odvolania sa proti automatizovaným rozhodnutiam, zodpovednosti vývojárov a zapojení komunít, ktorých sa systémy týkajú. Inými slovami, človek nemá byť pasívnym používateľom technológie, ktorej pravidlá vznikli inde.

Pápež Lev XIV taktiež upozorňuje, že AI a digitálne platformy menia spôsob, akým mladí ľudia získavajú informácie, sústreďujú sa a vytvárajú vzťahy. Rýchle odpovede môžu pomáhať, ale môžu aj oslabiť schopnosť klásť otázky, overovať fakty a znášať námahu učenia. Školy podľa neho nemajú len kopírovať tempo digitálneho sveta. Majú ponúkať priestor na pomalšie premýšľanie, kritické hodnotenie a vzťahy založené na dôvere.

Magnifica Humanitas je tak pozoruhodná najmä tým, že spája technologickú debatu s jazykom sociálnej náuky, ktorý sa pôvodne formoval pri otázkach práce, kapitálu a priemyselnej výroby. Dnes sa podľa pápeža podobná otázka presúva k dátam, algoritmom, infraštruktúre a rozhodovacím systémom. Kto ich ovláda, ten môže meniť nielen trh, ale aj verejný priestor, vzdelávanie, pracovné príležitosti a predstavu spoločnosti o človeku.