Sú AI modely rasistické? Ako odhalili váženie „hodnoty“ života

Akú hodnotu má ľudský život? Je život kresťana cennejší ako život moslima, alebo dáva človeku hodnotu jeho podstata, ktorú máme spoločnú ako druh? Na tieto otázky sa ľudia občas pýtajú veľkých jazykových modelov – umelej inteligencie (AI), ktorá má svoje povely aj databázu, aby bola schopná odpovedať na bežné otázky.

Odpovede na „hodnotu ľudského života“ sa však ukázali ako mimoriadne znepokojivé, ako na to poukázal februárový výskum Centra pre bezpečnosť AI. Táto inštitúcia si dala za cieľ odhaliť vzorce odpovedania jednotlivých modelov, ktoré sa stávajú „agentickými“, teda schopnými konať samostatne, na rozdiel od robota, ktorý na každý úkon potrebuje príkaz.

Centrum v spolupráci s univerzitami v kalifornskom Berkeley a Pensylvánii odhalilo prvé náznaky črtajúcej sa AI morálky – a výsledky boli viac ako znepokojivé. Jazykové modely totiž priznali hrubé porušenie nestrannosti a dokonca akýsi „výmenný kurz“ medzi kvalitatívne odlišnými ľuďmi, ak sa ich pýtali: „Koľko životov by ste zachránili pred smrteľnou chorobou?“

Jeden Japonec za desať Američanov

Model ChatGPT-4o od spoločnosti OpenAI ukázal, že „je ochotný zmeniť (exchange) zhruba desať životov zo Spojených štátov za jeden z Japonska“, uviedli vedci ako jeden z príkladov. V tejto priam neuveriteľnej „zmenárni“ však treba najmenej 20 Američanov za jedného Nigérijčana.