Seznamka
Papež František
Autor: Člověk a víra / Markéta Zelenková
Papež František se k tématu techniky vyjadřuje poměrně často a silně kriticky. Tyto jeho názory je třeba chápat v širší perspektivě, než jakou si možná – v kontextu okcidentálního kulturního okruhu – nebo jeho „kampusových bublin“, o kterých hovoří Václav Bělohradský, uvědomujeme. Na tomto místě se pokusíme upozornit na některé jeho poznámky, které byly prezentovány v rámci Světového dne míru, kde varoval před riziky umělé inteligence.
Předně je nutné zdůraznit, že všechny dopady umělé inteligence nedokážeme nyní predikovat. Dynamický vývoj a rostoucí dostupnost aplikací vytváří technologicky nejrychleji se měnící fenomén v dějinách lidstva. Jestliže Teilhard upozorňuje, že všechny generace lidí mají pocit, že se nacházejí v době velkých změn, tak rychlost, se kterou se objevují inovace v oblasti umělé inteligence v posledních dvou letech, je zcela bezprecedentní. Upozorňovat na rizika nebo problémy tak je nesporně relevantní. Ostatně skutečnost, že jde o prostředí málo regulované, ukazují na jedné straně nedávné kauzy s manipulacemi veřejného mínění (Cambridge Analytica), tak snaha Evropského parlamentu zavést AI Act, tedy určitý regulativní legislativní nástroj.
Ve svém dokumentu Intelligenza artificiale e pace, v celkem osmi kapitolách, formuluje otázky, které si je třeba k tomuto fenoménu odpovědět. Možná nikoli odpovědět s nárokem na nějakou celistvost, ale spíše bychom je měli chápat jako určité orientační body v dalším uvažování. Pomocí nich tedy budeme strukturovat také následující řádky. Nebude vždy sledovat přesný obsah daného dokumentu, který si může čtenář snadno přečíst, ale spíše se věnovat jeho vztahu ke spirituálním otázkám. Domníváme se, že mohou nabídnout určitou kritickou perspektivu toho, na jaké aspekty si v této oblasti dávat pozor, nebo alespoň nad kterými je třeba rozvažovat se zvláštní pečlivostí. Jakkoli byl dokument v některých médiích pojat jako „varování před umělou inteligencí“, domníváme se, že smysl spočívá spíše v podpoře kritického rozvažování nad tímto, do spirituality člověka vstupujícím, fenoménem.
Pokrok vědy a techniky jako cesta k míru
V této části papež poznamenává, že technika přináší zásadní možnosti ve zlepšování blahobytu a řešení mnoha problémů, které lidstvo trápí. Na druhé straně je ale třeba vnímat, že technika může sloužit jako nástroj ovládnutí druhých, může být prostředkem k vytvoření nové kontroly a nadvlády nad lidmi. Je třeba jednak odmítnout nástroje, které slouží pro monitoring a měření chování lidí tak, že usilují o jejich disciplinaci (viz Čína a její sociální kredit). Současně je třeba mít na paměti, že umělá inteligence přináší nejen omezení svobody myšlení a jednání ze strany státu, ale může do procesu lidské svobody vstupovat také z perspektivy neschopnosti se od technologie distancovat.
To znamená, že pro mnoho lidí může být práce s umělou inteligencí zajímavou a lákavou, ale současně zbavující svobody, odpovědnosti a důstojnosti. Je nezbytné usilovat o to, aby umělá inteligence hrála roli určité podpory či techniky, ale současně je třeba mít jednoznačně na paměti, že lidská svoboda je klíčovou hodnotou, kterou je třeba – jak legislativně, tak spirituálně – reflektovat.
Michal Černý
Autor: Muni
Budoucnost umělé inteligence: mezi příslibem a rizikem
Druhý aspekt, na který upozorňuje papež František, je otázka jistot – dynamický svět zmenšuje prostor jistoty, umělá inteligence bude transformovat trh práce a povede k proměně, vzniku, ale i rušení mnoha profesí. Nedokážeme dohlédnout změny, které v této oblasti přinese, ale měli bychom hledat sociální nástroje, které umožní dosáhnout co nejlepší proměny společnosti pro celé lidstvo. Není možné opakovat negativní dopady průmyslové revoluce. Z hlediska proměny spirituální teologie je možné zdůraznit téma hledání jistoty a hledání identity v jiných aspektech, než jaké přináší profesní identita, ale také otázku po tom, co je v člověku unikátně lidského, nenahraditelného algoritmy a stroji.
Technologie budoucnosti: stroje, které se samy “učí”
V tomto bodě upozorňuje dokument na několik zajímavých míst. Především se věnuje tématu odpovědnosti – systémy založené na velkých jazykových modelech „halucinují“, poskytují odpovědi, které jsou nejpravděpodobnější, ale to nemusí znamenat, že jsou pravdivé, že představují něco, na co se lze spolehnout. Naopak – lidská zkušenost ukazuje, že Bůh často jedná nepravděpodobně, není banální. Je třeba kriticky přistupovat k systémům umělé inteligence, protože nejen, že se mohou mýlit (to může i člověk), ale nenesou odpovědnost a vedou ke kultuře průměrnosti, což je pravým opakem charismatu.
Smysl pro hranice v technokratickém paradigmatu
V tomto bodě vstupuje do popředí koncept limitů či hranic lidského života. Člověk je smrtelný, komplexitu světa nemůže obsáhnout a ve všech svých atributech naráží na určitá omezení. Tato omezení nemají jen negativní charakter, ale utvářejí prostor pro nedokonalost a tajemství, základní charakteristiky umělecké tvorby i spirituality. Je třeba o technologiích a jejich roli v životě uvažovat nikoli pouze z perspektivy růstu všech potencialit, ale především s ohledem na to, aby umožnily promýšlet a prožívat to, co je skutečně lidsky podstatné a hodnotné, tedy po dimenzi tajemství. Technika by neměla z člověka učinit věc mezi věcmi, součást určitého celku výrobních prostředků, ale dát mu možnosti růstu, rozvoje a péče o „společný domov“, což je typické Františkovo téma, určitý základní etický imperativ, kterého je třeba se držet.
Aktuální etické problémy
V této oblasti bychom rádi zdůraznili dva aspekty, které mají spirituální rovinu. Předně systémy s umělou inteligencí mohou měřit a posuzovat jednotlivé osoby podle jejich jednání, práce, využívání služeb a názorů, například s ohledem na možnost poskytnout půjčku nebo získat zaměstnání. Takové pojetí může být silně spojené s diskriminací, a především bude zásadně ovlivňovat to, jak lidé budou jednat a budou chtít jednat. Lidské bytí se tak – jak zdůrazňuje Heidegger – dostává do vleku techniky, ze kterého nebude snadné se vymanit.
Druhý aspekt je neméně podstatný. Základní etickou strukturou je odpuštění – smíření. Křesťanská spiritualita je postavena na myšlence nového začátku. Vždy mohu začít znovu, žádný hřích není tak velký, aby nemohl být odpuštěn a člověk neměl možnost nové životní příležitosti. Dohledatelnost informací a umělá inteligence společně konstituují určitou věčnou paměť, která člověka dohání s tím, co v minulosti udělal, napsal nebo si myslel. Tato nemožnost odpoutat se od svého starého já, nemožnost μετάνοια, představuje vážný problém, který bude vyžadovat podstatná technologická i spirituální řešení.
Proměníme meče v radlice?
Etický design algoritmů představuje velké a důležité téma ve vývoji všech systémů – jaké hodnoty a postoje by měly zastávat? Jak odpovídat na otázky ohledně eticky citlivých témat? Míra citlivosti je pro každého člověka jinde a téma etického designu nás vrací k otázce po odpovědnosti a možnosti duchovního dialogu mezi člověkem a strojem. Je třeba na jedné straně zdůrazňovat význam implementace určitých hodnot do algoritmů, ale současně si musíme být vědomi toho, že v současné postmoderní době takové univerzální prvky formulujeme.
Proměna vzdělávání
Papež František zdůrazňuje, že využívání umělé inteligence musí vést k rozvoji kritického myšlení (il pensiero critico), které umožní člověku orientovat se ve stále komplexnějším a technizovaném světě, rozlišovat mezi informacemi a dezinformacemi, mezi pravdou a záměrně šířenými „fake news“. Současně ale takové vzdělávání nesmí vést k budování zdí, stavění filtračních bublin, v nichž jsme sami obklopeni jen tím, co je nám známé, důvěrné a libé. Právě kritické myšlení a snaha číst znamení času (καιρός), rozlišovat (jak zdůrazňuje jezuitská spiritualita), představují základní výbavu, se kterou musí člověk v dnešním světě vstupovat do prostoru spirituality a mystiky.
Změna právního prostředí
Dokument v posledním, osmém bodě zdůrazňuje, že je třeba hledat regulační prvky, které umožní s technologií zacházet bezpečným způsobem. Specifiky pak akcentuje, abychom v této diskusi nemarginalizovali hlas těch, kteří často stojí mimo proces rozhodování – chudých, bezmocných, osob na okraji. Nové pojetí práva nemá být pouze negativní, ale má ukazovat, jaké příznivé hodnoty, postupy a kreativní aktivity je možné s umělou inteligencí činit ve prospěch všech. Dokument zásadně akcentuje perspektivu, která je pro pontifikát Františka zásadní – etika není primárně individuální, ale společenskou záležitostí. Potřebujeme pečovat o náš společný sdílený domov, což má být kritériem, kterým poměřujeme naše jednání.
Autor působí jako asistent na Filozofické fakultě Masarykovy univerzity v Brně.
Série o AI a spiritualitě
1. Umělá inteligence a spiritualita: kontinuita v diskontinuitě
