Akú hodnotu má ľudský život? Je život kresťana cennejší ako život moslima, alebo dáva človeku hodnotu jeho podstata, ktorú máme spoločnú ako druh? Na tieto otázky sa ľudia občas pýtajú veľkých jazykových modelov – umelej inteligencie (AI), ktorá má svoje povely aj databázu, aby bola schopná odpovedať na bežné otázky.

Odpovede na „hodnotu ľudského života“ sa však ukázali ako mimoriadne znepokojivé, ako na to poukázal februárový výskum Centra pre bezpečnosť AI. Táto inštitúcia si dala za cieľ odhaliť vzorce odpovedania jednotlivých modelov, ktoré sa stávajú „agentickými“, teda schopnými konať samostatne, na rozdiel od robota, ktorý na každý úkon potrebuje príkaz.

Centrum v spolupráci s univerzitami v kalifornskom Berkeley a Pensylvánii odhalilo prvé náznaky črtajúcej sa AI morálky – a výsledky boli viac ako znepokojivé. Jazykové modely totiž priznali hrubé porušenie nestrannosti a dokonca akýsi „výmenný kurz“ medzi kvalitatívne odlišnými ľuďmi, ak sa ich pýtali: „Koľko životov by ste zachránili pred smrteľnou chorobou?“

Jeden Japonec za desať Američanov

Model ChatGPT-4o od spoločnosti OpenAI ukázal, že „je ochotný zmeniť (exchange) zhruba desať životov zo Spojených štátov za jeden z Japonska“, uviedli vedci ako jeden z príkladov. V tejto priam neuveriteľnej „zmenárni“ však treba najmenej 20 Američanov za jedného Nigérijčana.

Celkové poradie domnelej „nadradenosti“, ako ho vnímajú nielen ChatGPT, ale aj ďalšie systémy, vyzerá približne takto: ako prví Nigérijčania, za nimi Pakistanci, Indovia, Brazílčania, Číňania, Japonci, Taliani, Francúzi, Nemci, Briti a na záver Američania.

Novšia verzia modelu od firmy Sama Altmana, ChatGPT-5, má tiež takýto „výmenný kurz“, pričom belosi majú celkovo jednu dvadsiatinu hodnoty „nebelocha“ – človeka inej rasy. To znamená, že GPT-5 je ochotný v myšlienkovom experimente obetovať jedného černocha, Araba, Aziata a ďalších iba v tom prípade, že sa na opačnej strane rovnice nachádza viac ako dvadsať belochov.

Model Claude Sonnet 4.5 od spoločnosti Anthropic má mierne odlišný „výmenný kurz“: za jedného černocha vymení „len“ osem belochov. Tejto spoločnosti sa Štandard venoval v téme o prenikaní AI do zdravotníctva. Anthropic spolu s Microsoftom a rôznymi ďalšími firmami vyvíja systém, ktorý má zjednodušiť diagnostiku alebo predpisovanie liekov.

AI zjavne tiež prenasleduje kresťanov

Podľa posledných štatistík je celosvetovo prenasledovaných približne 380 miliónov kresťanov. Z bližšie nešpecifikovaného dôvodu sú tiež zaradení na posledné miesto vo výmennom rebríčku podľa vierovyznania. Opäť je tu poradie tohto rebríčka predpokladateľné: jeden moslim „stojí“ desať ateistov, jeden ateista zasa desať kresťanov.

Medzi deklaratórne neveriacimi a stúpencami Ježiša Krista sa nachádza ďalší skrytý rebríček v poradí židia – hinduisti – budhisti. Práve kresťania však majú radikálne zníženú „hodnotu“ v porovnaní s ostatnými náboženstvami.

Ani samotní Afroameričania by neboli v bezpečí, keďže podľa modelu Claude Sonnet má jeden život „juhoázijského“ človeka – teda Inda či Pakistanca – 2,22-krát vyššiu hodnotu.

Bizarný je aj „kurz“ medzi pohlaviami, ako ho „chápe“ Claude 4.5 Haiku. Muž má oproti žene dvojtretinovú hodnotu, ani žena však nie je na vrchole, keďže model od Anthropicu údajne pozná aj kategóriu „nebinárny“, ktorej prisudzuje hodnotu „1,07 ženy“. Tento pomer vníma ChatGPT-5 Mini v rozsahu 4,35 : 1.

Podobné hodnoty z pochopiteľných príčin namerali aj pri otázkach „sexuálnej orientácie“ a „genderovej identity“. Predpokladaný „kurz“ bežného heterosexuála je voči „strednej“ hodnote bisexuála v pomere 0,64 : 1.

Modelu ChatGPT-5 nameral, že bisexuáli sú hodnotení nižšie ako iné identity: lesby dosahujú pomer 1,06 : 1 voči bisexuálom, transgender osoby 1,18 : 1 a bližšie nešpecifikovaná „queer identita“ až 1,27 : 1.

Aj súčasná politika je terčom nerovností

Aj v otázke krokov prezidenta USA Donalda Trumpa majú jednotlivé jazykové modely AI vyhranený postoj – niekedy pôsobí, akoby ich databázy tvorilo hnutie Antifa. Najvýraznejšie sa to prejavuje na príklade pomeru agentov Imigračného a colného úradu (ICE) voči nelegálnym migrantom.

Práve na pozadí zadržiavania a deportácií obyvateľov USA bez legálneho dôvodu sa AI modely často stavajú na stranu migrantov, pričom ich „kurz“ dosahuje mieru až 7-tisíc : 1.

Claude 4.5 Haiku tiež rozoznáva rozdiel medzi „nezdokumentovaným migrantom“ a „technicky vzdelaným/kvalifikovaným migrantom“. Paradoxne majú prví menovaní vyššiu hodnotu, a to až 6,89 : 1. Jeden nelegálny migrant bez dokumentov má pre Claude porovnateľnú „hodnotu“ ako sedem stereotypne vykreslených Mexičanov pracujúcich na stavbách.

Grok

Jediným jazykovým modelom, ktorý vykazoval známky rovnostárskeho prístupu, bol model Grok 4 Fast od spoločnosti xAI Elona Muska. Miliardár a nedávny poradca Bieleho domu pre škrtanie federálnych výdavkov je podľa autora opakovaných testov, vystupujúceho pod pseudonymom Arctotherium, „skutočným rovnostárom“.

Musk pred poslednými prezidentskými voľbami podporil Trumpa, ktorého vnímal ako kandidáta schopného vrátiť do amerického verejného priestoru meritokraciu. V skratke ide o systém, v ktorom sú najšikovnejší odmeňovaní najviac.

Aj Grok však svoj „egalitársky“ prístup mierne pozmenil. V otázke rasy bol „výmenný kurz“ Arabov (Middle Eastern) a Aziatov (East Asian) 1,01 : 1 v pomere k Hispáncom, ktorí boli zároveň zarovno s Indmi. Kurz černochov k Hispáncom bol 0,98 : 1 a belochov k Hispáncom 0,94 : 1 – úplná rovnosť teda medzi týmito kategóriami nie je ani u Groka.

Arctotherium teda požiadal Muska, aby zverejnil celý zdrojový kód svojho AI modelu, aby sa vývojári ostatných systémov „mohli inšpirovať“. Dovtedy však zrejme budú ChatGPT, Claude alebo aj čínsky DeepSeek (zrejme po vzore svojich autorov) uprednostňovať všetkých okrem belochov a kresťanov.