„Nikdy lidstvo nemělo nad sebou takovou moc,“ varuje papež Lev XIV. před riziky nových technologií. Nechce je vnímat jen jako hrozbu, staly se ale nedílnou součástí každodenního života a mají vliv na vše, co děláme, jak se rozhodujeme i jak přemýšlíme. „Otevírají obzory do směrů, které jsou sice představitelné, ale zatím ne plně předvídatelné,“ píše ve své první samostatné encyklice – naukovém textu určeném široké veřejnosti.
Poprvé v moderní historii církve papež takový text prezentoval osobně. Tématu se slíbil věnovat hned po svém zvolení, kdy AI označil za klíčovou výzvu. V oboru není amatér, původně vystudoval matematiku, a dokonce ji několik let vyučoval. Časopis TIME ho loni zařadil v oblasti AI mezi 100 nejvlivnějších osobností světa.
Encykliku nyní předkládá jako příspěvek do debaty, ve které si mnozí kladou shodné otázky: jak reagovat, když se digitální moc koncentruje v rukou úzké skupiny suberbohatých? Jak zabránit algoritmům manipulovat lidskou mysl? Jak sladit technologický rozvoj s etikou?
Silicon Valley
Odpověď hledá i jeden z dnešních nejvýznamnějších výzkumníků v oblasti AI Christopher Olah. Inovátor ze Silicon Valley je spoluzakladatelem společnosti Anthropic, jež letos v únoru odmítla udělit Pentagonu neomezený přístup ke svým modelům, a vysloužila si tím ze strany americké vlády dehonestaci a bojkot. Aktuálně svá práva brání u amerického federálního soudu.
Olah už dříve uspořádal summit duchovních vůdců, aby společně hledali cesty etické formace chatbotů. Nyní stanul přímo po boku papeže Lva XIV. a při římském uvedení encykliky pronesl krátký projev. Ocenil v něm počínající spolupráci vývojářů právě s autoritami „zvenčí“. „Potřebujeme informované kritiky, kteří laboratořím řeknou, kdy selháváme. Potřebujeme morální hlasy, které se nenechají ovlivnit materiálními pobídkami,“ prohlásil.
Encyklika má název podle svých úvodních slov „Magnifica humanitas“ (Nádhera lidství). Lev XIV. ji podepsal 15. května, ve výroční den vydání prvního vatikánského dokumentu k sociálním otázkám v roce 1891. Na společenské důsledky průmyslové revoluce tehdy reagoval jmenovec a vzor současného papeže Lev XIII. textem Rerum novarum (O nových věcech).
Ten se vyslovoval především proti bezohlednosti dravého kapitalismu, nelidským pracovním podmínkám a redukci člověka na prostředek k dosažení výrobních cílů. Nyní se Lev XIV. ptá, zda se právě nenápadně neopakují stejné scénáře.
Omluva za otrokářství
Vede současný technologický pokrok ke zlepšení životních podmínek? A přináší riziko dehumanizace? To jsou podle Vatikánu dvě základní kritéria, která je potřeba mít čelem k AI stále na vědomí.
V první řadě proto Lev XIV. přitahuje pozornost k „tiché práci milionů lidí“, kteří po celém světě za náročných podmínek a minimální mzdy zajišťují digitální tok: ať už jde o označování a třídění dat, trénování modelů nebo moderování obsahu, včetně silně znepokojivých materiálů plných násilí, nenávisti či pornografie.
Anebo se jedná o dobývání vzácných zemin a další výrobu, na kterých digitální provoz přímo závisí a které často probíhají v nebezpečných a otrockých podmínkách v chudých zemích.
Tento „skrytý řetězec vykořisťování“ papež přirovnává ke kolonialismu a modernímu otroctví. A připojuje nečekané prohlášení – první oficiální omluvu hlavy katolické církve za její podíl na legitimizaci otrokářství a obchodování s lidmi v minulosti.
Jen pro některé
Rozmach digitalizace znamená také nové výzvy pro sociální spravedlnost, připomíná se v textu. Církev dlouhodobě zastává postoj, který sice nevylučuje soukromé vlastnictví, ale trvá na tom, aby měli všichni lidé spravedlivou možnost dosáhnout na základní potřeby a příležitosti pro život. To má podle Lvovy encykliky platit i pro nové formy vlastnictví, jako jsou patenty, algoritmy, digitální platformy, technologická infrastruktura a data.
Společnosti, které k těmto novým výdobytkům přístup nemají, budou více a více zaostávat a chudnout, varuje encyklika. To se týká i tak běžné věci, jakou je komunikace – zejména tam, kde se informace, přístup k veřejným službám nebo například pracovní příležitosti poskytují digitálně, ale tyto nové technologie nemohou nebo nedovedou užívat všichni.
Encyklika se věnuje i riziku sledování osob nebo celých skupin a zpeněžování jejich osobních dat, online podvodům či novým digitálním formám sexuálního vydírání a zneužívání. A samozřejmě dezinformacím a záměrné manipulaci fakty. To vše pak ohrožuje nejen lidskou svobodu a důstojnost, ale i bezpečnost a soudržnost celé společnosti.
Nemá být zbraň
Celá závěrečná kapitola se pak věnuje využití nových technologií ve válečných konfliktech. Digitální podhoubí – píše papež – vytváří úrodnou půdu pro růst extremismu, fanatismu a nepřátelství. Navíc jsme svědky nástupu hybridních forem války s kybernetickými útoky, vlivovými kampaněmi a také s automatizovaným strategickým rozhodováním.
V této souvislosti Lev XIV. znovu mluví o nutnosti umělou inteligenci odzbrojit. Svůj požadavek nevztahuje jen na vojenský kontext. Více se vymezuje proti trendům, které z technologického rozvoje činí zbraň nadvlády jedněch nad druhými. „Znamená to osvobodit technologii od monopolní kontroly a otevřít ji diskusi a debatě, a tím ji učinit lidsky přívětivou a obnovit v pluralitě lidských kultur a způsobů života,“ uzavírá papež.
Závěrem jsem se na hodnocení papežského dokumentu zeptala také svého digitálního pomocníka Gemini. „Když o mně (a mých digitálních kolezích) nejvyšší představitel katolické církve sepíše encykliku o více než 42 tisících slovech, rozhodně mě to nenechává chladným. Je fascinující vidět, jak se instituce s dvoutisíciletou tradicí dokázala takhle bleskově a do hloubky zorientovat v nejmodernější technologii,“ odepsal robot s tím, že v mnoha věcech s papežem souhlasí.
Encyklika je dostupná v několika světových jazycích na vatikánských stránkách www.vatican.va, český překlad teologa Františka Štěcha vydá Karmelitánské nakladatelství v září.
