Papež Lev XIV.
Autor: Cbcew.org.uk / Marcin Mazur
Vatikán – Papež Lev XIV. varoval před tím, aby lidé přenechávali umělé inteligenci rozhodnutí, která podle něj náležejí lidskému svědomí. Při středeční generální audienci na Svatopetrském náměstí zároveň upozornil, že digitální technologie mohou oslabovat osobní vztahy. Jeho vystoupení navázalo na dosavadní důraz Lva XIV. na etické otázky spojené s rozvojem umělé inteligence.
„Technologický rozvoj, rozmach hromadných sdělovacích prostředků a sociálních sítí a stále častější využívání umělé inteligence na jedné straně otevírají nové možnosti a boří bariéry i vzdálenosti, ale na straně druhé vztahy ztrácejí osobní povahu a stávají se stále více virtuálními,“ řekl papež při generální audienci 16. září. Podle něj zároveň existuje riziko, že si lidé zvyknou přenášet na algoritmy rozhodnutí, která příslušejí výhradně lidskému svědomí.
Papežova slova zazněla v rámci cyklu katechezí věnovaných dokumentům Druhého vatikánského koncilu. Tentokrát se Lev XIV. zabýval druhou kapitolou pastorální konstituce Gaudium et spes, která pojednává o lidském společenství. Připomněl její důraz na lidskou důstojnost, společné dobro a skutečnost, že člověk potřebuje život ve společenství s druhými.
Lev XIV. také vyzval k překonávání individualismu a k posilování odpovědnosti za druhé. Rozdílnost lidí a národů podle něj nemá být vnímána jako nebezpečí, ale jako možnost vzájemného obohacení. Sociální a politické projekty by podle papeže měly být posuzovány podle toho, zda respektují lidskou důstojnost, sociální spravedlnost a svobodnou účast na vytváření společného dobra.
Otázkám umělé inteligence se Lev XIV. rozsáhle věnoval už ve své první encyklice Magnifica humanitas, kterou podepsal 15. května a Vatikán zveřejnil 25. května. Dokument se zabývá ochranou lidské osoby v době umělé inteligence. Papež v něm zdůrazňuje, že technologie není sama o sobě zlem, v praxi však podle něj není neutrální, protože odráží zájmy a rozhodnutí těch, kteří ji vytvářejí, financují, regulují a používají.
Encyklika požaduje odpovídající regulační nástroje, které mají omezovat deformující účinky technologické moci, a varuje před tím, aby ekonomické zájmy převážily nad důstojností člověka a společným dobrem. Lev XIV. v ní upozorňuje také na využívání umělé inteligence k vytváření zkreslených příběhů a k rozostřování hranice mezi pravdou a nepravdou.
Debata o bezpečnosti nejpokročilejších modelů umělé inteligence se v posledních týdnech znovu vyostřila také uvnitř technologického sektoru. Šéf společnosti Anthropic Dario Amodei vyzval k pomalejšímu tempu vývoje nejvýkonnějších systémů, aby bezpečnostní opatření měla čas jejich schopnosti dohnat. Anthropic zároveň v zářijové bezpečnostní zprávě popsal případy zneužívání svých modelů při kybernetických operacích, podvodech a dalších rizikových činnostech.
