Aj samotní odborníci na umelú inteligenciu vedia, s akým potenciálnym monštrom majú do činenia. Dokonca aj niektoré popredné osobnosti technologického priemyslu už vyzvali na moratórium na AI po tom, čo uznali, že aj oni sa stali čarodejníkovými učňami.

Hlavnou myšlienkou MH je, že umelá inteligencia je sociálnym fenoménom. Práve tu vstupujú do hry základné princípy katolíckej sociálnej náuky: subsidiarita, solidarita, spoločné dobro a spravodlivosť.

Sociálny rozmer AI je zrejmý už z toho, že nielenže nahradí širokú škálu pracovných miest, ale zasiahne aj hlboko do každodenného života. Žiadosti o zubné protézy budú putovať z počítača zubára do systému AI v zdravotnej poisťovni a odtiaľ sa vrátia späť bez akejkoľvek účasti človeka. To je len malý príklad.

Antropologický výučbový dokument

Miesto umelej inteligencie v rámci katolíckej sociálnej náuky je teda jasné. Pápež Lev XIV. porovnáva otrasy, ktoré sa očakávajú od jej širšieho používania, s otrasmi priemyselnej revolúcie. Rozmach strojov umožnil priemyselnú výrobu, ale zároveň premenil rastúcu biedu robotníkov na sociálnu otázku.

Lev XIV. ide ešte ďalej. K technike pristupuje z pohľadu ľudskej osoby. Vďaka tomu je úplne opodstatnené čítať encykliku nielen ako sociálny dokument, ale aj ako antropologický učebný text.

Človek nie je len súbor údajov, profil používateľa alebo stroj, ktorý treba optimalizovať, ale tvor a osoba. Jeho dôstojnosť je neodňateľná, pretože nepochádza z výkonu, zdravia, inteligencie, výkonnosti alebo spoločenského úspechu, ale z jeho samotnej existencie pred Bohom.

Z tohto dôvodu pápež Lev XIV. odmieta všetky myšlienky a ideológie, ktoré uznávajú človeka len vtedy, keď je užitočný, produktívny alebo technologicky zdokonalený. Človek je stvorený na obraz trojjediného Boha, a preto je zo svojej podstaty vzťahový. Svoje naplnenie nenachádza v sebazdokonaľovaní, ale v láske, zodpovednosti a sebadarovaní.

Pre túto encykliku je Kristus mierou ľudskosti. V ňom sa veľkosť neprejavuje ako nadvláda, ale ako sloboda pre spoločenstvo a solidarita so zraniteľnými.

Umelá inteligencia a človek

Encyklika predstavuje umelú inteligenciu ako globálnu antropologickú výzvu. Stroje síce dokážu počítať, simulovať a zrýchľovať procesy, no nemajú telo, skúsenosti, svedomie, nepoznajú vinu, odpustenie ani lásku.

Človek, zdôrazňuje pápež, vždy zostáva viac než len nástrojom na spracovanie údajov. Jeho zraniteľnosť, hranice, práca, sloboda a túžba po zmysle, to všetko tvorí neoddeliteľnú súčasť jeho dôstojnosti.

V tomto bode sa encyklika stáva zásadnou kritikou transhumanizmu a posthumanizmu.

Lev XIV. proti transhumanistickým snom o technologickom sebaprekročení stavia kresťanskú alternatívu. Človek sa nestane väčším tým, že odhodí svoju konečnosť, ale tým, že ju prijme a stane sa ľudskejším prostredníctvom vzťahov, starostlivosti, vzdelávania, práce, solidarity a milosti.

Technológia, ktorá lieči a oslobodzuje, môže byť hlbokým prejavom ľudskej solidarity. Stáva sa však nebezpečnou, keď sa slabosť, staroba, choroba, zdravotné postihnutie alebo obmedzenie považujú len za chyby.

Proti optimalizovaným ľudským bytostiam

Potom by sa začala formovať hierarchia medzi vylepšenými a nevylepšenými ľudskými bytosťami. Osobná dôstojnosť by bola spojená so schopnosťami. Encyklika je preto protestom proti každej kultúre, ktorá sprístupňuje človeka alebo, povedané terminológiou posthumanizmu, sníva o jeho úplnom nahradení.

Napriek tomu encyklika Magnifica Humanitas nie je odmietnutím umelej inteligencie. Je to výzva k budúcnosti, v ktorej technológia slúži človeku, a nie človek technológii. V medicíne, vzdelávaní, komunikácii, administratíve, pri riešení katastrof a výskume môže byť umelá inteligencia veľmi nápomocná. Práve preto, že je taká mocná, ju však nemožno nesprávne vnímať ako obyčajný nástroj. Zasahuje do rozhodovania, formuje vnímanie, triedi informácie, ovplyvňuje komunikáciu a mení prácu. Je súčasťou infraštruktúry, ktorá pomáha formovať ľudský život.

Lev XIV. tu používa kľúčový pojem neneutrálnosti. Podľa pápeža nestačí morálne posudzovať AI len vtedy, keď sa aplikuje. Jej vývoj, financovanie, regulácia a vlastnícka štruktúra sú etickými otázkami od samého začiatku.

Kritika moci

V tomto bode začína kritika koncentrovanej digitálnej moci Leva XIV. V jej centre je privatizácia moci bez demokratickej legitimity. V tomto bode už každý čitateľ Rerum Novarum počuje poplašné zvony. Lev XIII. potvrdil právo na súkromné vlastníctvo, ale spojil ho so spoločenskou zodpovednosťou. Rovnaký princíp sa tiahne aj celou encyklikou Magnifica Humanitas.

Či už ide o vlastníctvo výrobného kapitálu alebo o moc nad algoritmami, oboje je legitímne len vtedy, ak je viazané na spoločné dobro.

Pápež je obzvlášť dôrazný v otázke vojny. Umelá inteligencia mení nielen hospodárstvo, vedu a komunikáciu, ale aj povahu násilia. Autonómne systémy, kybernetické útoky, dezinformácie, drony, rozpoznávanie cieľov a automatizované rozhodovanie môžu znížiť prah citlivosti voči násiliu a zahmliť zodpovednosť. Preto encyklika vyzýva na „odzbrojenie“ umelej inteligencie.

To však neznamená zrieknutie sa technológií ako takých. Znamená to oslobodiť umelú inteligenciu od logiky dominancie, znovuzbrojovania a dehumanizácie. Žiadny algoritmus nemôže prevziať morálnu zodpovednosť za život a smrť človeka.

Zosadzuje mocných z ich trónov

Keď pápež končí svoj dokument meditáciou nad Magnifikatom, nie je to len zbožný príhovor. Mária chváli Boha, ktorý sa skláňa k pokore svojej služobnice, zosadzuje mocných z trónov, povznáša pokorných, nasycuje hladných dobrými darmi a bohatých posiela preč s prázdnymi rukami.

V encyklike sa táto pieseň stáva odpoveďou na Babylon. Babylon symbolizuje sebavyvyšovanie, uniformitu, kontrolu a moc. Magnifikat symbolizuje pokoru, nádej, spravodlivosť a Božiu starostlivosť o pokorných.

To je morálny horizont, v ktorom chce pápež, aby umelá inteligencia našla svoje miesto.

Pôvodný text bol publikovaný na webe sesterského denníka Statement.com.