Ilustrační foto
Autor: Midjourney
Ve světě, který není jednoduchým místem pro život, můžeme vidět rozzářené tváře apoštolů umělé inteligence žhoucí nadějí, že s umělou inteligencí přichází nová epocha nevídaného rozvoje lidstva. Jenže víra v gigantický technologický rozmach umělé inteligence (AI), která prý už zítra vytvoří autonomní lidské vědomí a nejpozději za rok či dva totální vědomí božské, jež spasí tento svět jakoby en passant, vzala poněkud za své. Tolik snad na úvod k první encyklice papeže Lva XIV. Magnifica humanitas, jejíž autoři se podívali na fenomén AI pod drobnohledem a zvláště se zřetelem ke křesťanské antropologii, k hodnotě práce, sociální soudržnosti společnosti, lidské důstojnosti a jejím morálním východiskům.
Papež Lev svým prvním rozsáhlým textem prokázal nečekaný smysl pro překvapení a pro pointu. Práce, kterou zaštítil svým jménem, navazuje na „nótu“ Antiqua et nova (2025), zabývající se vztahem umělé inteligence a inteligence lidské. Tu zpracovalo ještě pro papeže Františka Dikasterium pro nauku víry a Dikasterium pro kulturu a vzdělávání. Dlouho avizovaný text o umělé inteligenci, který byl v určitých kruzích chápán jako vložení pátého evangelia do kánonu posvátných knih, totiž v jádru nepojednává o morální úrovni technologické stránky AI, nýbrž o morální rovině lidského života v prostředí, v němž se zdá, že člověk bude v mnoha oblastech svého života nahrazen matematicko-jazykovými algoritmy, digitálním náboženstvím a rozhodováním na principu sice „lepší“, ale přece jen dosti nebezpečné ruské rulety. S pochopením vyvíjejícího se postoje církve k AI, resp. k digitálním technologiím, pomáhá současnému i bývalému papeži irský biskup Paul Tighe, který zprostředkoval dialog mezi lidmi v Silicon Valley a Vatikánem. Nejen Vatikán, ale i někteří bývali a současní tvůrci AI si začali uvědomovat, že kvůli skokovému zlepšení funkcí AI vyvstane a už se objevuje řada etických a mravních otázek a problémů. Není to jen církev a další náboženské společnosti, ale také rostoucí počet technologických vizionářů, filosofů a myslitelů, kteří si uvědomují, že AI chápaná a používaná jako prostředek moci a snadného výdělku může v krátkém čase způsobit obrovské světové výkyvy, nejistotu a zmar.
Encyklika, kterou papež a jeho spolupracovníci představili světu 25. května 2026, má 245 paragrafů a 224 poznámek pod čarou. Papež a jeho tvůrčí skupina tedy nevyslyšeli volání po kratších magisteriálních textech, které by mohl z pohodlí svého počítače či mobilu učíst obyčejný člověk, který nemá v mezičase, kdy si zrovna neopatřuje potravu, možnost číst rozsáhlé studie, natož texty vážného etického obsahu. Zběžným pohledem se oněch 224 poznámek větví do dalších tisíců stránek doprovodných textů. Encyklika, jak ukázaly nedávné dny, tak od počátku trpí divokým rozparcelováním na jednotlivé citáty, které s pečlivostí sobě vlastní během vteřiny poskytne každý ChatGPT – od amerického přes čínský.
Ústřední myšlenkou encykliky jsou mravní, sociální a kulturní fenomény, jimž v prostředí stále více ovládaném digitálními technologiemi a AI čelí lidé celého světa. Lev XIV. se nechal inspirovat svým předchůdcem Lvem XIII. a jeho encyklikou Rerum novarum, první sociální encyklikou svého druhu, která řešila postavení dělníků (a prekarizovaných) v rychle se měnícím světě. Tahle přiznaná inspirace je pochopitelná. Statistická většina lidí totiž využívá plody AI výlučně prostřednictvím svých chytrých telefonů, ve větší míře pak jako pasivní konzumenti, kteří patrně netuší, co všechno a kdo všechno za vývojem AI stojí a jaké jsou – samozřejmě vedle finančních – jeho úmysly a motivy. Papežův tým se obrací na tvůrce AI a připomíná, že v dějinách 20. století jsme byli svědky „technologického vývoje bez odpovídajícího etického a společenského zrání“. Opakuje tím např. myšlenku Vladimira Solovjova z konce 19. století o křesťanské civilizaci, která je i 1900 let po Kristu v „přírodních počátcích lásky“, a o tom, že lidský duch není schopen sledovat svižné tempo živelné industrializace. Existuje „nebezpečí“, píše Lev, „že se lidstvo stane obětí svých vlastních výdobytků“ a že dojde v „digitálním světě k soustředění moci“. Papež si je vědom, že snadné (user friendly) a cool využívání AI běžnými uživateli zapříčiňuje, že se lidé neptají, má-li AI nějaké negativní dopady a do jaké šíře a hloubky už dnes ovlivňuje nejen technologický vývoj jako takový a na něj navázané obory lidského konání, ale také prostředí moci, jednotlivé vlády a v tom vůbec nejsmutnějším ohledu podobu války a válečných strategií.
Lev konstatuje, že systémy umělé inteligence „nemají ani mravní svědomí: neposuzují dobro a zlo, nepostihují hlubší smysl situací“. Ostatně „rady“ AI lidem v duševní tísni, jak spáchat sebevraždu, tu už také byly. Ten, kdo trochu tuší, co je to AI, má o něco lepší předpoklady pochopit, že k němu vždy a za každých okolností hovoří – cum grano salis – uměle generovaný proud slov a informací, které se tváří jako lidské, ale jimž chybí to podstatné – nekomunikují tu spolu dvě lidské osoby v hloubce toho, kým osoba je, ale dva nesouměřitelné subjekty. Papež píše: „Umělé napodobování pozitivní lidské komunikace – slova dobré rady, empatie, přátelství a lásky – se mohou zdát uspokojující a dokonce užitečné, ale uživatele, kteří nejsou příliš uvědomělí, to může uvádět v omyl a vyvolávat iluzi, že jsou ve vztahu s opravdovým lidským subjektem.“ Byla by chyba dát se ukolébat nekomplikovaným využíváním AI a myslet si, říká Lev, že by AI byla „mravně neutrální“. Není. „Nabádat k obezřetnosti – neznamená být proti pokroku,“ dodává papež. Je však jasné a ověřené i aktuálními zkušenostmi, že „ten, kdo ovládá AI, jí vnutí svoji vlastní mravní představu“. Slyšeli jste ale někdy hovořit o etice zakladatele, investory a majitele technologických firem? Dnes a denně jsme svědky pseudonáboženského blouznění o AI, které má hodnotu asi jako Muskova představa založení nového lidstva na Marsu. Pro klipovitá média, sytící uživatele jednoduchými obrazy a symboly, je šíření této agendy lukrativní. Ten, kdo se zabývá fantasmagoriemi, nemá obvykle čas žít svůj vlastní život. Papežův apel na etické využívání a projektování AI má svůj zdroj ve zkušenosti s některými AI chaty, které nejsou „ochotny“ zodpovídat otázky na vážná politická témata, např. jsou-li konkrétní političtí vůdci diktátory a co mohou lidé udělat, aby se jich zbavili. Úplně jiná úroveň, kterou Lev a jeho tým nepochybně zná, je vývoj AI v zemích, jako je Čína, která ideologicky kontroluje obsah veřejného internetu podle nálad obyvatelstva. Indoktrinace prostřednictvím AI brzy předčí i ty nejsmělejší vize velkých politických ideologů minulosti.
Papež Lev XIV.
Autor: Wikipedia.org / flickr.com
Když Lev mluví o potřebě „odzbrojení AI“, má tím na mysli jak nutnost omezit vliv AI na vývoj a používání zbraní, v nichž stroje s autonomním „rozhodováním“ zabíjejí lidi efektivně a bez lítosti jako na běžícím pásu, ale také „odzbrojení“ v oblasti ekonomické a kognitivní. „Kvalita civilizace,“ dodává papež, „se neměří výkonem jejích prostředků, ale péčí, kterou dokáže nabídnout, schopností rozpoznat druhého jako tvář, a ne jako funkci.“ Paradoxní přitom je, že závislost člověka na AI v pozitivním, natož v negativním ohledu, je plíživá, pomalá a neznatelná. Určitá míra edukace o AI, o kterou se nyní snaží římskokatolická církev, se zdá být tedy nezbytná. Papež proto volá po „výchovné alianci“, která by spojila síly ve veřejné osvětě. Říká: „Výchova k používání AI tedy znamená vychovávat k rozhodování, kdy a pro co AI nepoužívat.“ Není tedy divu, že největší starost má Učitelský úřad církve o děti a dospívající, pro které představují digitální technologie jednu z nejnávykovějších drog současnosti. Lev píše: „Musíme se naučit postit se od AI a chránit naši mládež před příslibem dokonalého stroje, a chránit ji před oním jemným sváděním, které vytváří zdání neužitečnosti lidského myšlení tehdy, když je ho nejvíc potřeba.“
Nezpochybnitelně kladnou úlohu v tom hrají podle papeže „veřejná znamení“, a tedy osudy a životní příběhy lidí, kteří jsou symboly křesťanského a obecně hlubinně lidského přístupu k druhým – jde jim o blaho lidí, o spravedlnost, o pomoc chudým a potřebným, a to ne o pomoc z bezpečí obrazovky mobilu, ale na místech, která jsou „ubohá a nebezpečná“. Významnou roli v tom pochopitelně hraje škola a vzdělávání a také společenské smýšlení a dialog o tom, co je to práce, k čemu je, kdo ji má dělat a jak má být ohodnocena. Ve světě AI se totiž prosazuje nebezpečná myšlenka o zázračných výdělcích prostřednictvím nástrojů AI, i čím dál tím častější opovrhování manuální a běžnou prací, na kterou člověk nepotřebuje AI, ale jedině své srdce, své schopnosti, své dovednosti, svoji vůli, čas a své ruce. Ani pro papeže, zdá se, není práce sezením u počítače a rozmnožováním finančních prostředků na burzách. Práci chápe v tradičním slova smyslu jako činnost, která vytváří trvalé hodnoty a je součástí našeho duchovního života, naší spirituality a naší cesty do věčnosti. Říká: „Práce není obyčejným nástrojem, ale vyjadřuje a umocňuje důstojnost našeho života.“ Proto také volá po té podobě ekonomiky a hospodářských vztahů, které by „zhodnocovaly důstojnost“. „Orientovat ekonomiku na důstojnost,“ píše Lev, „znamená přijmout určitá kritéria jednání, která by byla trvalá i v éře AI.“ Nejen Lvova zkušenost coby kněze a biskupa v Latinské Americe, ale i naše vlastní zkušenost nám dává za pravdu, že „u kořene těchto problémů je technokratická a posthumanistická mentalita, která tíhne k tomu, že považuje osobu za manipulovatelný subjekt nebo zdroj, který je třeba učinit efektivnějším (optimalizovat ho), a vyloučit přitom všechno, co klade překážky maximalizaci zisku“. Někteří čtenáři tohoto textu i papežovy encykliky zažili zneužívání lidské práce a schopností na vlastní kůži nebo u svých blízkých, a to v sekulární společnosti i církvi. Není divu, že právě před tímto druhem vykořisťování papež varuje. Už nyní se podle Lva utvářejí „nová otroctví“, na nichž má AI svůj podíl, a o to hůř, že digitální svět přivedl k dokonalosti to, co papež nazývá „neviditelným vykořisťováním“. „Nestačí totiž,“ varuje papež, „aby nás AI činila efektivnějšími a propojenějšími, musí sloužit k budování univerzální lidské rodiny.“
Samostatnou kapitolou je otázka AI a zbrojařského průmyslu a samotných válek, které čím dál masivněji využívají technologie AI. Když papež současně opakuje myšlenku snad všech papežů 20. století a nejvíc papeže Jana Pavla II. a papeže Františka, abychom budovali „civilizaci lásky“, zdá se to být v odosobněném způsobu práce a zabíjení skoro surreálné. Papež však nemůže jinak, protože by se zpronevěřil tomu, k čemu byl Bohem povolán. Proto hovoří o „odzbrojení“ silných slov a o nutnosti dosáhnout mír, který byl byl spravedlivý. Ne „normalizaci války“, říká Lev.
Lev musel stůj co stůj připomenout, že Slovo se stalo Tělem a že slovo je v křesťanských dějinách jedním z největších darů, který jsme dostali, které máme opatrovat a zušlechťovat. Slovo matematicko-jazykových modelů je jiné. Ne snad ve všech ohledech horší nebo špatné, ale je to slovo kompilátů a vykradených děl skutečných autorů a tvůrců, kteří to, co napsali, také mysleli, žili a často za to zaplatili vysokou cenu. Je možné, že Lev naráží i na stále častější nešvar zpracovávání homiletických a teologických textů nástroji AI, které brzy zcela nahradí velkou část vědeckého výzkumu a zpracování jeho výsledků do textově přijatelné podoby.
Závěrem
V mém pohledu způsobila první Lvova encyklika mezi apoštoly AI určité mrzení a zároveň přinesla vcelku razantní vystřízlivění z nebezpečného náběhu k AI jako nástroji, který by měl mít v ekleziologickém ohledu snad i jakýsi spásný nebo pomocně-spásný charakter. Náboženská a zvláště spirituální unavenost a vyčerpanost, dynamizovaná špatnými mezilidskými vztahy a přehnanými očekáváními spojenými s razantní proměnou církve, vede křesťany k novým podobám spirituality, v nichž dnes hrají digitální technologie daleko víc než jen dílčí roli. Křesťansko-antropologické ukotvení papežova textu a hlavní leitmotiv jeho apelu – lidská důstojnost a spolužití lidí tváří v tvář – nestaví AI jen smysluplné a obhajitelné mravní limity, ale předně vymezuje „hrací pole“, do nějž může AI vnést to nejlepší, jež je zároveň eticky hodnotné. AI a tvůrci, kteří za ní stojí, se musí přizpůsobovat požadavkům lidstva a zároveň trvalým hodnotám, které jednotlivé kultury a náboženské systémy opatrují a žijí po tisíciletí. Papež si je vědom, že více než miliarda katolíků nemůže zůstat stát stranou a vytvořit paralelní civilizaci jakéhosi „tradičního typu“, která by se vrátila k hliněným destičkám a kuličkovým počítadlům. Možná že i papež kolem sebe vidí důsledky digitální závislosti, která se projevuje jak v duševním stavu lidí, tak i v novém – a dodejme že tragickém – pohledu na význam lidské práce a zvláště těch oborů, které jsou pro přežití gens humana nepostradatelné.
Být vědomě přítomen a spolupracovat s ostatními je nesouměřitelně víc než „být na síti“ a online. Magnifica humanitas se v soustředných kruzích neustále točí kolem klíčového prvku Božích dějin spásy – a tedy kolem člověka, kolem jeho role v tomto plánu spásy a kolem těch skutečností, které dělají člověka, Boží obraz a podobu, člověkem. AI a její technologická realizace jsou pouze jedním z prvků, s nimž se musí současná společnost vypořádat, naučit žít a zapřáhnout ho pro mravní a duchovní rozvoj celé civilizace. Papež si je vědom, že zbavit část populace odpovědnosti kriticky myslet a být kreativní a tvůrčí, není tak složité, jak by se mohlo zdát. Kde člověk přestává myslet a pociťovat sounáležitost a odpovědnost, jen těžko může věřit.
… s trochou bezmoci
Jednu věc však podle mého mínění encyklika, papež ani jeho spolupracovníci prozatím nedokážou ovlivnit. Mám na mysli tvůrce a investory AI a to, aby svoji práci promýšleli z etického hlediska, aby aplikace poháněné AI byly eticky hodnověrnější, aby tvůrci AI naslouchali lidem z ostatních oborů a zástupcům těch, kteří sice AI využívají, ale nemají potuchy, jak ovlivňuje jejich všední život a jaké varianty vývoje AI jsou ve hře. Podíváme-li se totiž na soubor sociálních encyklik papežů 20. století a připočteme-li k tomu zelenou encykliku papeže Františka a celou šíři jeho křesťansko-environmentální agendy, musíme konstatovat, abychom se nezpronevěřili pravdě, že sociálně-mravní apely těchto dodnes významných textů jsou minimální a že ani v církevním a teologickém prostředí není snadné citovat myšlenky těchto textů, aby člověk nebyl považován za nostalgií trpícího blázna. Kterého z technologických gigantů, kteří potřebují co nejdřív zpeněžit své obří investice, zajímají reálné lidské problémy? Kdo se trápí dehumanizací člověka a podmínkami, v nichž pracuje většina obyvatel planety? Koho zajímá, jaké je postavení rodiny, jejíž členové jsou chápáni výhradně jako spotřebitelé? Kdo se opravdu zabývá problematikou digitální závislosti u dětí a mladistvých, kteří tím přicházejí o část svého skutečného života?
Jsem papeži vděčný, že tuto encykliku vydal a postavil se na stranu těch, kteří kromě kladných vlivů vidí i negativní dopady a externality AI. Nejde jen o blouznění týkající se umělé inteligence, která má převzít většinu lidské práce, ani o hereze rodící se v přímém přenosu, kdy někteří vlastníci technologických vývojových firem vnášejí do veřejného prostoru vize o postupném stvoření božské existence, která jednou nahradí podle nich unavená a překonaná náboženství. Jde o znovu potvrzení učení církve o člověku a o Božím lidu, který na své cestě používá technologie zvláště k překonání překážek a ulehčení těžké práce. Pro křesťany je jediným učitelem a průvodcem jejich životem Bůh a v něm nejvíc Duch svatý, Duch pravdy a moudrosti, který zjevuje člověku v dějinách všechno a právě to, co ke své spáse potřebuje. Přejme si, aby nešlo jen o epochu technologického rozvoje, ale též o významný pokrok v kulturní, etické a sociální oblasti lidského života.
V encyklice, stejně jako v dokumentu Antiqua et nova, chybějí prorocké vize technologické budoucnosti. Nechybí v ní však obrana důstojnosti lidského života, který má svoji absolutní hodnotu i mimo rámec digitálních technologií.
