Ilustrační foto
Autor: Unsplash.com
Jak hluboko se musíme ponořit do problematiky umělé inteligence, než narazíme na otázky dobra a zla? Myslím, že ne příliš, stejně jako v mnoha jiných oblastech lidského snažení.
Ukažme si to na jednoduchém myšlenkovém experimentu. Představte si člověka, který dokáže kdykoli a s téměř absolutní přesností vyplnit složitý test s výběrem odpovědí z vašeho oboru, a to tak dokonale, že vždy získá nejvyšší možné profesní osvědčení. Navíc si představte, že tento člověk dokonce ani nepotřebuje nabídku odpovědí, protože i bez ní úspěšně doplňuje chybějící slova ve větách jako na běžícím pásu. Mysleli byste si o takovém jedinci, že vašemu oboru skutečně rozumí?
Možná. Ale je také možné, že se správné odpovědi prostě jen naučil nazpaměť a danému oboru vůbec nerozumí.
Naštěstí je v praxi většina oborů tak složitá, že memorování není nejlepší strategií, jak uspět. Kuriózně bývá mnohem jednodušší látku skutečně pochopit, a to studiem, zkušenostmi a vystavěním si určitého mentálního modelu toho, jak věci fungují. To je koneckonců také důvod, proč podobné typy testů stále ještě existují. Předpokládá se totiž, že většina z nás bude příliš líná učit se látku zpaměti a raději jí skutečně porozumí.
LLM v praxi, jednoduchý koncept, hrubá síla, gigawatthodiny elektřiny
Bohužel technologie často fungují jinak než lidé a mívají zcela jiné limity. Lze si snadno představit, že někdo vytvoří tabulku, kde v prvním sloupci budou miliony takových úloh na doplnění a ve druhém sloupci stejné množství správných odpovědí. Takový systém by prostřednictvím jednoduché mobilní aplikace umožnil komukoli dosahovat v testech zázračných výsledků, nikdo z nás by ale zřejmě nejásal nad takto nabytým technologicky podporovaným porozuměním danému oboru. Kdybyste například byli pilotem dopravního letadla, jistě byste nechtěli, aby se váš kopilot pyšnil tímto druhem znalostí létání.
Aby k něčemu takovému nemohlo dojít, je osvědčenou praxí pravidelně měnit formulace zadání důležitých souborů testů, čímž se zabrání podobným podvodům s pomocí moderních technologií.
Nebo tak tomu alespoň donedávna bylo. Pak ovšem přišly velké jazykové modely, LLM, a představily lidstvu zcela nový přístup, v němž jakékoli změny formulace otázek nepředstavují už naprosto žádnou překážku. Ten princip není příliš složitý. Pokud každému slovu přiřadíte vhodně zvolený číselný identifikátor a máte dostatek výpočetního výkonu, můžete automaticky vytvořit rozsáhlý matematický vzorec, který předpovídá nejpravděpodobnější identifikátor chybějícího slova ve větě na základě okolních slov. Bez ohledu na to, jak je věta formulována, vzorec určí chybějící slovo, které nejlépe zapadá.
LLM vzniká právě na základě takové obrovské tabulky znalostí, kde jsou v jednom sloupci věty s chybějícími slovy a ve druhém sloupci správná slova k doplnění, říká se tomu trénovací data. Kdyby měl výsledný vzorec fungovat zcela přesně, byl by příliš velký a složitý, proto funguje jen tak přesně, jak to zákazník snese.
Vnitřní struktura LLM nemá nic společného s konverzačním programem. Ve skutečnosti se nejedná o konverzaci, ale právě o doplňování chybějících slov ve větách. Když položíte otázku programu s umělou inteligencí, nejprve si ji přeformuluje jako větu s chybějícími slovy a poté tato slova doplní na základě vzorce.
Jen pro představu, jak takový vzorec může vypadat, si vezměme větu „Zima je studená“, kterou software vidí jako posloupnost slov: X = Zima, Y = je, Z = studená. Kdybychom znali číselné identifikátory slov „Zima“ a „je“, mohli bychom pomocí vzorce vypočítat nejpravděpodobnější slovo na místě Z.
Tabulka s trénovacími daty čítá biliony a biliony řádků, ale kdybychom ji zkrátili, mohl by takový vzorec vypadat třeba takto: sin(4X + 2Y + 10Z + 5) = 0. Podobné rovnice mnozí z nás řešili na střední škole, takže si jistě dokážete představit, jak vypočítat chybějící hodnotu, pokud známe zbývající dvě, například kolik je X, když známe Y a Z.
Ve skutečnosti vzorec používá trochu jinou funkci než sinus, ale především je mnohem delší, složitě vnořený a uzávorkovaný, protože musí fungovat nejen pro větu „Zima je studená“, ale také pro většinu ostatních vět v trénovací tabulce. Z hlediska základní myšlenky to však není žádná raketová věda, což se zde snažím ilustrovat.
Tento druh „umělého porozumění“ se hodně podobá strategii, kterou mnoho z nás používá, když si nepamatujeme určitou problematickou odpověď v souboru testových otázek. Něco jako: „Pokud věta začíná slovem velbloud, správná odpověď je písek.“ Matematický model dokáže zachytit řádově složitější „triky“.
Čísla 4, 2, 10 a 5 v rovnici výše se označují jako parametry a počet po sobě jdoucích slov, na která se jazykový model dokáže najednou soustředit, X, Y, Z a tak dále, se nazývá kontextové okno. Moderní LLM mají více než bilion parametrů a dokážou se soustředit na úseky dlouhé statisíce slov. I výpočet jediného slova proto může být výpočetně a energeticky velmi náročný, avšak nesmírně nákladný je také proces konstrukce onoho obrovského vzorce, a to zejména proto, že se tak děje nikoli inteligentně, ale téměř metodou pokusů a omylů, tedy pomocí hrubé výpočetní síly. Proto je také úspěšných hráčů na trhu celá řada a umělá inteligence je už od počátku komoditou. Stačí mít moře peněz a několik chytrých inženýrů.
Proces trénování vzorce vyžaduje obrovský výpočetní výkon. Tak obrovský, že často potřebujete vlastní elektrárnu. To vše proto, abyste přetvořili primitivní trénovací tabulku na rozsáhlý a výpočetně náročný vzorec, který si dokáže poradit se stejnými znalostmi nezávisle na jejich slovní formulaci. Umělá inteligence je přiléhavé označení výsledku tohoto snažení.
Jakmile vzorec máte, můžete trénovací data zahodit. Nebo ještě lépe, můžete si je uchovat pro výpočet druhé verze vašeho vzorce. Výzkumníci totiž neustále přicházejí s promyšlenějšími architekturami LLM a samotná trénovací data také poměrně rychle zastarávají. Takže zcela prakticky by bylo ideální mít jednu elektrárnu pro trénování vzorce, další pro obsluhu zákazníků a ještě další pro výzkum a inovace. Úžasné!
Zlatá horečka v informačních technologiích
Tato moderní technologie by patrně nikdy nezaujala celé lidstvo, kdyby neexistoval jeden šikovný trik, který lidé často používají, když problematiku LLM nadšeně vysvětlují ostatním a který záměrně zmíním až nyní: pokud totiž vzorec použijete tak, že ho pokaždé necháte doplnit poslední slovo v řadě několika předcházejících slov, můžete takto pokračovat v generování vět donekonečna. Při dostatečně velkých kontextových oknech dokáže systém vytvářet chytrá tvrzení o vašem oboru, která znějí téměř jako od člověka s doktorátem. A právě to dodává této technologii její působivost, a to zvláště tehdy, když ji upravíte do podoby chatu, kde část věty napíšete vy a část doplní vzorec. Někteří jedinci se do takovéhoto vzorce mohou dokonce zamilovat v iluzi, že má lidské vědomí, což zcela zjevně nemá.
Vraťme se ale k naší dřívější otázce stran technologicky podporovaného porozumění. Představte si znovu, že jste pilotem, který zjistí, že jeho kopilot nosí v kapse zařízení, které mu umožňuje podporované chápání problematiky létání. Je to teď o tolik lepší jen proto, že zařízení nově dokáže správně zareagovat na libovolnou formulaci otázky? Myslím, že ne.
A přesto mnoha mým kolegům, kteří také pracují jako vývojáři, jejich zaměstnavatelé striktně nařizují pod pohrůžkou propuštění, aby tyto nástroje používali, a to kdykoli je to jen trochu možné.
Když jsme v minulosti my vývojáři hledali řešení různých technických problémů v diskusních fórech na internetu, manažeři významně pozvedali svá hustá obočí a moudře nám domlouvali, že pravý inženýr má vědět, a nikoli se brouzdat po internetu, takzvaný syndrom „Proč Marie neprogramuje“. Samozřejmě nás to tehdy nezastavilo a ani nyní by nám v používání LLM nezabránili, kdyby nám je naopak chtěli zakázat. Stejně tak se nyní směle, byť v skrytu, odvažujeme používat vlastní mozky, kdykoli jsou účinnější než LLM, protože ve výsledku vždy více záleží na tom, kolik firma vydělá, než na otrockém následování pokynů manažerů, kteří bohužel v našem oboru často stále nemají odpovídající vzdělání.
Je však nutné přiznat, že i člověk s doktorátem ocení zařízení, kterému můžete klást otázky a získávat od něj smysluplné odpovědi, zvláště když mu je nedokážou poskytnout jeho kolegové. V dnešní době si tyto nástroje docela dobře poradí i s mnoha rutinními úkoly většího rozsahu, které řeší pomocí jakési vnitřní samomluvy na téma, na co se má kde kliknout nebo co se má kde přepsat, což se pak také udělá a často i dobře, takzvaným řetězením úvah.
Nic to ale nemění na tom, že se všichni velmi obáváme přízraku vývojáře, nebo třeba kopilota, jehož znalosti budou pramenit pouze z toho, že má v kapse zařízení schopné inteligentně zodpovídat jeho otázky.
Když se lidská bytost stává překážkou
V tento moment již začíná být patrné, kudy do nastíněné situace pronikají nelidskost a mamon. Proberme jejich následky jeden po druhém.
Zaprvé, pokud automatizované nástroje umělé inteligence začnou postupně vykonávat většinu rutinních pracovních činností, zbudou zkušenému vývojáři na práci pouze ty kognitivně nejnáročnější úkoly, tedy problémy, které umělá inteligence vyřešit nedokáže. My lidé jsme však nebyli stvořeni k tomu, abychom vydrželi takto intenzivně pracovat osm hodin denně. Představte si, že řeknete sprinterovi, že o všechno v jeho životě je nyní postaráno a on se bude od zítřka věnovat už jen tomu, v čem opravdu vyniká, sprintování. Výsledkem bude nutně vyčerpání a vyhoření, protože lidské tělo nelze vylepšovat tak, jako vylepšujeme počítače.
V oblasti vývoje programů se tohle už mnohde děje, pracovat, spát a tak dokola. My vývojáři však nejsme ničím výjimeční, byli jsme jen první na řadě. Podobná situace v budoucnu pravděpodobně nastane u jakékoli duševní práce napříč všemi obory. Zatím to, zdá se, nikoho neznepokojuje. Akcionáři si mnou ruce, ale společnost jako celek dosud nic nezaznamenala.
Pokud se nám nepodaří tento jev zastavit včas, můžeme se brzy ocitnout v situaci, která jako by z oka vypadla údělu továrních dělníků žijících před sto lety. Bůh však nestvořil lidi jako jakési odosobněné „lidské zdroje“, jak se nám dnes s vřelostí leklé ryby v korporátu říká, stvořil nás k svému obrazu.
Na druhém konci spektra čelí zcela jinému riziku začínající inženýři. Ti náhle nemají dostatek času promýšlet věci do hloubky a spatřit důsledky své práce v širších souvislostech řemesla. Nemusí tak vůbec dostat šanci dobrat se mistrovství profesionála, který se už v životě popral s opravdu složitými problémy a naučil se je vyřešit. Pokud budeme neustále upřednostňovat krátkodobé zvýšení produktivity, nemusí tu za pár let zbýt žádní zkušení inženýři, zůstanou jen operátoři automatizovaných nástrojů, dělníci u pásu duševní práce.
Takový stav by zmařil talenty celých generací napříč všemi povoláními a vyvolal by intelektuální a tvůrčí stagnaci, z níž by bylo těžké se vzpamatovat. A upřímně řečeno, určitě nelze s čistým svědomím říci, že bychom nyní žili v krajině intelektuálních a tvůrčích velehor. Je to v nejlepším případě pahorkatina, i když si to často nepřipouštíme.
Trénovací data pro systémy LLM byla sestavena na základě výsledků práce lidí, kteří svým oborům skutečně hluboce rozuměli. Neměli bychom riskovat, že toto tvůrčí bohatství promarníme a proměníme naši civilizaci v krajinu intelektuálně nivelizovanou, která žije pouze z odkazu jakýchsi velkých předků dávnověku, kteří nám jednoho dne mohou připadat jako polobozi intelektu a lidské důstojnosti.
Agenty živého Boha strojem nenahradíš
Jako lidská bytost, praktikující katolík, jsem ve své práci motivován především službou ostatním. To v daném kontextu znamená pomáhat zákazníkům i kolegům žít alespoň o trochu smysluplnější životy v souladu s tím, co rozpoznávám jako Boží vůli. Není to soubor tradičních hodnot, psychologických technik ani jakási moudrost či ideologie. Boží vůle ke mně přichází skrze nepatrné, zcela konkrétní náznaky od Něho, protože On je živý Bůh, ne soubor pravidel.
Ty nejlepší nápady a řešení, kterých se mi v životě dostalo, nepocházejí z mé vlastní hlavy ani nejsou plodem mého způsobu života. Prostě se mi dějí, jsou to podivné náhody, zcela nezasloužené dary. Zaznamenat je a přijmout však mohu jen proto, že se v omezené míře dokážu vcítit do ostatních lidí. Tato malá vnuknutí jsou totiž ve skutečnosti vždy dary pro lidi kolem. Pochopení této skutečnosti činí můj život smysluplným.
V jistém smyslu to tak funguje u každého člověka. Můžeme to považovat za nesmyslnou nahodilost, můžeme se rozhodnout nevcítit se a dary odmítat, ale vše, co popisuje katolická věrouka, je stejně tak reálné jako kapitoly učebnic fyziky.
Nejsme roboti, jsme agenti Boží vůle, to je naše specializace na trhu práce, přidaná hodnota druhu Homo sapiens. Lze to nazvat týmovou prací nebo orientací na zákazníky, ale právě tohle je naším primárním povoláním. Nejsme tu od toho, abychom přehazovali data z jedné hromady na druhou ve snaze maximalizovat vybrané výkonnostní ukazatele.
Tím, že nám LLM šetří rutinní práci, uvolňují se nám ruce k potenciálně větší tvořivosti a vynalézavosti v tomto výsostném prostoru povolání být člověkem. Jenže to nastane pouze tehdy, pokud čas ušetřený automatizací využijeme právě k tomuto účelu. Pokud ano, přiblíží nás to zákazníkům i kolegům, budeme méně izolovaní za technologickou bariérou a bezprostředněji zainteresovaní na životě zákazníka. Technické klapky nám spadnou z očí, přesně to někteří z tvůrců nových nástrojů umělé inteligence zamýšleli.
Dobrá a špatná vize budoucnosti
Nic z toho se bohužel v současnosti neděje. Existují naopak pádné důkazy, že velké technologické společnosti neusilují o vizi ekonomiky, v níž si budeme navzájem sloužit stále dokonalejšími způsoby, ale že jim jde především o hromadění moci. Mnohé z nás to asi příliš nepřekvapí, protože právě dynamika boje o moc je srdcem marxismu, jediné racionální cesty, která vám zbývá, máte li za to, že Bůh neexistuje. A tato nová „technologická elita“ je plná náboženských a kulturních analfabetů.
To, co popisuji níže, není dokonalejší forma tržního kapitalismu. Cílem není prosperující společnost, ale naopak společnost chudoby, v níž malá skupina nešťastníků vnutila totalitní moc populaci, která je ještě nešťastnější a ještě bídnější, a přesto na ní plně závislá při pokrývání nutného minima svých základních potřeb. Tuto dynamiku marxismu jsme v praxi viděli už v tolika formách, že se nyní jeví jako přírodní zákon.
Abych to objasnil, dovolte mi nejprve popsat alternativní budoucnost, takovou, která se ještě může ukázat jako skutečná, byť poněkud opožděná. Stále je tu naděje.
Když studujete informační technologie, jednou z nejatraktivnějších dovedností, které získáte, je schopnost zvládnout neuvěřitelně složité úkoly prostřednictvím vrstev abstrakce. Když si například koupím několik čipů, mohu si postavit malé zařízení pro sledování teploty a vlhkosti, a to všechno doma na koleně. Potřebuji k tomu znát základní parametry těchto čipů a také trochu chápat, jak to uvnitř funguje, ovšem ne do žádných extrémních detailů. Výrobce totiž souhlasil s dodržováním určitých konvencí, takže jsou pro mě všechny čipy vlastně tak trochu na jedno brdo. To je příklad vrstvy abstrakce.
Stejně tak když si koupím počítač, mohu na něj nainstalovat stejný program, který běží na mnoha jiných počítačích, i když uvnitř tyto počítače obsahují zásadně jiné součástky a často vnitřně fungují úplně jinak. Navenek se ale všechny počítače jeví docela shodně, a to díky další vrstvě abstrakce. Nebýt vrstev abstrakce, musel bych všemu rozumět do posledního drátku, jinak bych se na to nemohl spolehnout.
Pro každého inženýra je velmi lákavé zkusit něco vytvořit s pomocí LLM. Bohužel pro nás tu však použitelná vrstva abstrakce tak nějak chybí.
Přitom například víme, že LLM pohánějí moderní automatické překladače a dokážou pozoruhodně dobře zachytit mnoho jazykových nuancí. Specializovaný, dobře trénovaný LLM by mi mohl pomoci vytvořit praktické pomůcky pro spisovatele, nástroje, které by jim pomohly lépe pochopit význam, etymologii a konotace slov ve větách, to vše prezentované názorným grafickým způsobem. Použitý LLM by mohl být relativně malý a nijak zvlášť inteligentní nebo všestranný. Šlo by jej spustit na vlastním notebooku, nebylo by nutné stavět novou elektrárnu. Stačilo by, aby byl stabilní a dalo se na něj spolehnout.
Bohužel se zdá, že nikdo takový model nevyrábí. Nabízí se sice použít LLM některého z velkých poskytovatelů, ale jejich systémy jsou pro tento účel příliš pomalé, příliš obecné, příliš omezené a příliš nestabilní. Dokonce se chlubí tím, že to, co funguje dnes, může zítra fungovat úplně jinak. Většina toho, co by člověk potřeboval vědět o trénovacích datech, vnitřní architektuře a dalších klíčových aspektech, je držena v tajnosti.
Je to ale ještě horší. Nemáme dokonce ani tušení, jaké poplatky za používání systému na nás v budoucnu mohou čekat. Tyto společnosti aktuálně vykazují ztráty miliard dolarů ročně a nikdo neví, kolik by stál nedotovaný provoz projektů, jaký zmiňuji. Podobní zákazníci tyto firmy očividně naprosto nezajímají. Nechtějí postupně získávat zákazníky, soustředí se na budování čehosi gigantického metodou velkého třesku.
Podobně by LLM mohly pomoci vyřešit frustraci mnoha uživatelů při navigaci v současných aplikacích s jejich nekonečným množstvím tlačítek, textových polí a jiných ovládacích prvků. Výsledkem je často vizuální chaos a pod povrchem může být technologie ještě chaotičtější. To se jeví jako ideální příležitost pro malý, dobře navržený LLM, který by uživatelům umožnil ovládat aplikace pomocí přirozeného jazyka a zároveň by vždy jasně graficky potvrdil, zda byly jejich záměry správně pochopeny.
Co na to technologičtí giganti? Naprostý nezájem. Asi se těch nepřehledných aplikací nikdy nezbavíme, velcí hráči se namísto toho předhánějí ve stavbě desítek nových elektráren pro svá nově budovaná datová centra. Proč?
Mohl bych pokračovat v desítkách dalších komerčních nápadů, ale dovolte mi uvést jen jeden poslední příklad. Zde bych se velmi rád spolehl na velké poskytovatele LLM s jejich rozsáhlými datovými centry a masivními modely. Jde o takový menší novinářský nápad: automatické procházení nových informací s cílem najít témata, o něž se moji uživatelé zajímají.
Ano, tušíte správně, je tu další komplikace. Mějme na paměti, že tyto obrovské matematické rovnice jsou odvozeny tak, aby spolehlivě platily pro biliony a biliony dvojic otázek a odpovědí naráz. Přidání několika dalších prostě znamená, že musíte parametry vzorce opět natrénovat hrubou silou i pro všechny ostatní. Opakované přepočítání tak obrovského množství dat stále dokola by skutečně mohlo vyžadovat výkon jaderné elektrárny, nebo deseti, nebo dvaceti.
Abolice člověka
Jak aktuální tedy data v těchto modelech skutečně jsou? Mohou taková pravidelná přepočítávání někdy vést k zisku? To zůstává poněkud záhadou. Zatím stále jen slyšíme, že došlo k slibnému pokroku ve výzkumu a že je zapotřebí více investic.
Proč to jen dělají? Není to poněkud iracionální? Odpověď je jednoduchá. Mohli by model snadno rozdělit na mnoho menších, ale pouze vybudováním jedné obrovské formule, která zahrnuje všechny oblasti lidského snažení, mohou doufat v úplné nahrazení člověka s jeho slabým tělem a nepohodlným svědomím. Ať už jsou lidé zkušení, nebo začínající, jako technické vybavení neškálují a svými parametry jsou silně nevyhovující. Ostatně, jak se nedávno nechal slyšet technologický boss Altman, trénovat lidi k duševní činnosti také spotřebuje spoustu elektřiny.
Je zřejmé, že tohle všechno by mohlo fungovat pouze tehdy, kdyby lidé nebyli agenty Boží vůle a katolická nauka byla pouze pohádka. Je také třeba říci, že se v poslední době objevují četné zprávy o tom, že mnoho aktérů na finančních trzích spekuluje na neúspěch hlavních poskytovatelů LLM. Mohou však velké technologické společnosti uspět alespoň částečně? Pokud se tak stane, důsledky budou velmi závažné: obrovská vlna nezaměstnanosti, prudký nárůst cen energií a strmý propad spotřebitelské poptávky, protože nezaměstnaní budou mít málo peněz na utrácení.
Wall Streetem nedávno otřásla zpráva „The 2028 Global Intelligence Crisis“, často označovaná jako Citrini report nebo „AI Doomsday Report“, kterou v únoru 2026 zveřejnila společnost Citrini Research. Dokument, který se začal virálně šířit, nastiňuje dilema, v němž by jak úspěch, tak neúspěch umělé inteligence mohl vést k vážnému hospodářskému propadu.
Brzy pravděpodobně všichni zchudneme. Otázkou je, zda také naše děti skončí s trvale nivelizovaným intelektem a budou žít s důstojností dobře živených hloupoučkých telátek, která vděčí za vše, co mají, nové mocné technologické elitě.
Zatím není jasné, zda se jedná o vědeckou fantastiku, nebo ne. Jisté však je, že bossové technologických společností ze Silicon Valley to myslí smrtelně vážně. A vážně to mohou myslet jen proto, že katolická inteligence má jiné priority než vést velké technologické firmy.
Autor je vývojář a amatérský teolog.
