Hrozba nekonečnej vojny
Systémy umelej inteligencie podľa encykliky šíria dezinformácie, uprednostňujú konfrontáciu pred komunikáciou a hrozí, že privedú svet na pokraj nekonečnej vojny.
Pápež vyzval, aby vývojové údaje AI nezostávali výlučne v súkromnom vlastníctve, aby politici chránili práva pracovníkov a aby zabezpečili deťom bezpečnosť pred nástrahami, ktoré tieto technológie ponúkajú. Naliehal tiež na zmiernenie konkurencie medzi AI firmami.
„Potrebné je aktívnejšie politické zapojenie, ktoré je schopné spomaliť veci, keď sa všetko zrýchľuje,“ pripomenul. Vyzval aj na „solídne právne rámce, nezávislý dohľad, informovaných používateľov a politický systém, ktorý sa nezrieka svojej zodpovednosti“.
Technológie nie sú „silou protichodnou voči človeku“, ubezpečil Lev a dodal, že nie sú ani „zlom samy osebe“. Žiadna technológia však „nie je neutrálna, pretože nesie tvár toho, kto ju navrhuje, financuje, reguluje a používa“, varoval.
Pápež v prvej encyklike odsúdil aj vojny
Prvá encyklika amerického pápeža však odsúdila aj množstvo vojen zúriacich vo svete, za ktorými podľa Vatikánu stoja faktory, ako sú oslabenie multilaterálnych organizácií či zisky zbrojného priemyslu. „Posledných 60 rokov bolo poznačených konfliktmi neuveriteľnej brutality, ktoré často postihovali civilné obyvateľstvo v obrovskom rozsahu,“ poznamenal pontifik.
„Ľudstvo upadá do násilnej kultúry moci, kde mier už nie je vnímaný ako zodpovednosť, ktorú treba prevziať, ale ako krehký interval medzi konfliktmi,“ vyhlásil.
Pápež ďalej odsúdil zneužívanie doktríny o spravodlivej vojne, ktorú katolícke monarchie používali prinajmenšom od piateho storočia. Tento koncept obrany vlastného civilného obyvateľstva či prirodzenej hodnoty ľudského života však ako argument použila aj administratíva prezidenta USA Donalda Trumpa.
„Teória ‚spravodlivej vojny‘, ktorá sa až príliš často používala na ospravedlnenie akejkoľvek vojny, je v súčasnosti zastaraná,“ napísal Lev. „Použitie sily, násilia a zbraní odráža vzťahovú chudobu, ktorá má vždy katastrofálne dôsledky pre civilné obyvateľstvo,“ dodal.
Vojna ako snaha o odvrátenie pozornosti
Vyjadril aj obavy, že lídri by mohli začať vojny, aby odpútali pozornosť občanov od domácich problémov. „Nemôžeme vylúčiť možnosť, že niektorí lídri považujú ozbrojený konflikt za účinný spôsob, ako odvrátiť pozornosť od domácich problémov, a za cynický nástroj na zvládanie ťažkostí,“ doplnil.
Umelú inteligenciu je potrebné „odzbrojiť“, teda izolovať autonómne rozhodovanie od vojenského sektora, pokračoval pápež. Akékoľvek využitie AI v boji „musí podliehať tým najprísnejším etickým obmedzeniam“, a označil za „neprípustné“, aby sa týmto systémom zverovali rozhodnutia so smrteľnými následkami.
Lev ďalej vyzval, aby sa prerušilo stotožňovanie technickej moci s právom vládnuť, aby bola AI oslobodená od monopolov a aby sa zabránilo jej nadvláde nad človekom. Osobitnú pasáž venoval aj kritike transhumanizmu – smeru, ktorý sa snaží docieliť „ďalší krok evolúcie“ prepojením človeka a technológií.
Podporovatelia tejto filozofie chápu pokrok ako prekonávanie hraníc človečenstva, podľa Leva však „hranica nie je chybou, ktorú treba odstrániť“, ale podstatnou súčasťou ľudskej osoby, pretože práve v krehkosti a konečnosti dozrieva vzťah a otvorenosť voči Bohu aj blížnemu.
Encykliku sledujú aj technologickí giganti
Vo vzťahu k AI a celkovému technologickému rozvoju pápež odsúdil „nové formy otroctva“, ktoré spočívajú v rozdielnom prístupe k vlastníkom dátových centier a k obsluhe či robotníkom v továrňach na technológie.
„V niektorých regiónoch sveta pracujú deti a dospievajúci v nebezpečných podmienkach a drvia materiály, z ktorých sa ťažia prvky vzácnych zemín,“ napísal pápež. „Telá týchto ľudí sú zjazvené, zranené a opotrebované, aby výpočtový tok mohol pokračovať bez prerušenia,“ pokračoval s tým, že „táto skutočnosť hlboko spochybňuje morálne svedomie našej doby“.
Na pondelkovom predstavení encykliky vo Vatikáne poďakoval spoluzakladateľ spoločnosti Anthropic Levovi za to, že sa venoval problémom, ktoré prináša táto prevratná nová technológia. Povedal, že firmy ako tá jeho čelia silnému komerčnému tlaku a potrebujú vonkajšiu kontrolu.
„Každé AI laboratórium na špici, vrátane Anthropicu, funguje v rámci súboru stimulov a obmedzení, ktoré môžu byť niekedy v rozpore s tým, čo je správne,“ povedal Chris Olah. Vývojár veľkého jazykového modelu Claude je pritom známy dôrazom na bezpečnosť umelej inteligencie a dlhodobo spolupracuje s Vatikánom pri debatách o etike technológií.
Aj iné firmy pozorne sledovali zverejnenie encykliky. Predstavitelia spoločností Amazon, Google či Meta sa koncom apríla stretli s Levom, aby uňho lobovali za podporu zodpovedného vývoja AI.
„So srdcom pastiera a otca prosím všetkých, aby upustili od výstavby ďalšej Babylonskej veže a spojili sily pri budovaní spoločného dobra,“ vyhlásil pápež. Zároveň vyzval svet, aby sa nevzdával hľadania odpovedí na riziká AI systémov.
„Môže sa objaviť jemné pokušenie, a to myšlienka, že problémy sú príliš veľké a my sme príliš malí, a že naše rozhodnutia preto nemôžu nič zmeniť,“ napísal. „Určite nie každý má rovnakú moc niečo zmeniť. Nikto však nie je bez zodpovednosti. Všetci máme svoje vlastné oblasti pôsobenia,“ uzavrela hlava katolíckej cirkvi.
(vatican news, reuters, sab)
