Spoločnosť Anthropic vyzvala na vytvorenie globálneho mechanizmu, ktorý by pozastavil vývoj umelej inteligencie. Poukázala pritom na obavy z rastúcej schopnosti AI zdokonaľovať sa, a to až do tej miery, že by nakoniec mohla vytvoriť svojho vlastného nástupcu bez ľudského zásahu.
Obavy tohto gigantu v oblasti umelej inteligencie sa zhodujú s názormi, ktoré vyjadril okrem iných aj Elon Musk, ktorý v roku 2023 podpísal otvorený list. V ňom vyzval laboratóriá zaoberajúce sa AI, aby „aspoň na šesť mesiacov“ pozastavili tréning dostatočne pokročilých systémov umelej inteligencie.
Výzva Anthropicu prichádza v čase, keď sa spoločnosť pripravuje na vstup na burzu, pričom pred niekoľkými dňami podala na Komisiu pre cenné papiere a burzy Spojených štátov amerických dokumenty, ktoré by jej umožnili tento rok uskutočniť prvotnú verejnú ponuku (IPO). Nedávno bola ocenená na necelý jeden bilión dolárov.
Príspevok na firemnom blogu
V novom blogu na firemnej webovej stránke, ktorého spoluautormi sú zakladateľ spoločnosti Anthropic a vedúci výskumný pracovník organizácie, vyjadrila spoločnosť presvedčenie, že „pre svet by bolo prospešné mať možnosť spomaliť alebo dočasne pozastaviť vývoj špičkovej umelej inteligencie, aby spoločenské štruktúry a výskum v oblasti etického zosúladenia stíhali držať krok s technologickým pokrokom“.
Firma poverila svoj Anthropic Institute – výskumné oddelenie rovnomennej spoločnosti, ktoré sa venuje zvyšovaniu povedomia o dôsledkoch AI a usmerňovaniu verejnej diskusie na túto tému – vývojom systémov, ktoré by umožnili takéto pozastavenie alebo spomalenie vývoja špičkovej umelej inteligencie.
Systémy, ktoré má spoločnosť Anthropic na mysli, by umožnili vývojárom umelej inteligencie overiť, či aj ostatné laboratóriá po celom svete pozastavili alebo spomalili vývoj, čím by sa zabránilo možnosti, že „zlý aktér“ by mohol pokračovať vo vlastnom vývoji pod zámienkou účasti na dohodnutej prestávke.
Autori však upozornili, že vzhľadom na jedinečnú povahu technológie umelej inteligencie je odhaľovanie vývoja oveľa náročnejšie ako obmedzovanie šírenia v iných oblastiach, napríklad v oblasti jadrových zbraní.
„Trénovacie procesy sa dajú oveľa ľahšie skryť ako raketové silá, ich vstupy sú všeobecného charakteru a motivácia ticho porušiť dohodu je obrovská, pretože ten, kto pokračuje, zatiaľ čo ostatní pozastavia vývoj, by mohol prevziať vedúcu pozíciu,“ uviedla spoločnosť.
Anthropic v článku spomenul aj hlavnú príčinu svojich obáv, pričom sa odvolávala na technický proces známy ako „rekurzívne sebazdokonaľovanie“, čo znamená systém AI, ktorý je schopný úplne autonómne navrhnúť a vyvinúť svojho vlastného nástupcu.
Technológia AI ešte nedosiahla toto štádium a podľa Anthropicu to nie je nevyhnutné. Spoločnosť však varovala, že k tomu „môže dôjsť skôr, než na to bude väčšina inštitúcií pripravená“.
Poukázala na svoje vlastné skúsenosti s vývojom, kde môžu autonómni agenti AI v súčasnosti sami spúšťať kód a delegovať prácu na iných agentov AI. Čistý efekt, ktorý vníma spoločnosť Anthropic, je, že úloha človeka sa „zužuje“ v každom kroku vývojového procesu.
Spoločnosť Anthropic argumentovala, že systémy umelej inteligencie schopné vytvárať si vlastných nástupcov by znamenali zásadný technologický posun s potenciálnymi prínosmi pre vedu, zdravotníctvo a ďalšie oblasti. Plne rekurzívne sebazdokonaľovanie by však mohlo ľuďom sťažiť zabezpečenie, monitorovanie a formovanie systémov AI.
„Ak budú systémy schopné plne vytvárať si vlastných nástupcov, spôsoby, akými ich zabezpečujeme, monitorujeme a formujeme ich správanie, nadobudnú oveľa väčší význam,“ uviedla spoločnosť.
O čom bola výzva, ktorú podpísal Elon Musk
Varovanie spoločnosti Anthropic a výzva na zavedenie globálneho mechanizmu pozastavenia prichádzajú zhruba tri roky po tom, ako podobný otvorený list od Future of Life Institute získal tisíce podpisov vrátane autogramu Elona Muska.
List opisoval preteky vo vývoji umelej inteligencie ako „mimo kontroly“, čo vedie k situácii, ktorú nikto vrátane laboratórií zaoberajúcich sa umelou inteligenciou nie je schopný pochopiť, predvídať ani spoľahlivo kontrolovať.
Tvorcovia dokumentu vyzvali všetky laboratóriá zaoberajúce sa umelou inteligenciou, aby „okamžite pozastavili najmenej na šesť mesiacov“ trénovanie systémov umelej inteligencie výkonnejších ako GPT-4 – čo je referenčná hodnota, ktorú už dávno prekonalo viacero modelov.
Rovnako ako v prípade pozastavenia navrhnutého spoločnosťou Anthropic list inštitútu Future of Life odporúčal, aby bolo akékoľvek pozastavenie vývoja AI „verejné a overiteľné a aby sa na ňom podieľali všetky kľúčové subjekty“.
„Ak sa takéto pozastavenie nedá rýchlo zaviesť, vlády by mali zasiahnuť a vyhlásiť moratórium,“ uvádza sa v ňom.
Politici aj Cirkev
Pred niekoľkými dňami podpísal aj americký prezident Donald Trump výkonný príkaz zameraný na posilnenie regulácie vývoja špičkovej umelej inteligencie, čo znamenalo odklon od predchádzajúceho neintervenčného prístupu administratívy k tejto novej technológii.
Na základe tohto nariadenia s názvom Podpora inovácií a bezpečnosti v oblasti pokročilej umelej inteligencie budú technologické spoločnosti povinné poskytnúť vláde USA prístup k novým modelom až na obdobie 30 dní predtým, ako firmy plánujú model sprístupniť dôveryhodným partnerom.
Americká vláda bude mať zároveň dohľad nad tým, ktorým „dôveryhodným partnerom“ sa poskytne prístup k modelom umelej inteligencie „s cieľom podporiť bezpečnú inováciu a posilniť kybernetickú bezpečnosť kritickej infraštruktúry“.
Nebezpečenstvá nedostatočne regulovaného vývoja umelej inteligencie nedávno adresovala aj Katolícka cirkev. Pápež Lev XIV. minulý mesiac vydal svoju prvú encykliku s názvom Magnifica Humanitas.
Tento dokument predstavil umelú inteligenciu ako novú antropologickú výzvu, ktorá si vyžaduje starostlivé rozlišovanie zo strany vývojárov, tvorcov politík a širšej spoločnosti, aby sa zabezpečilo, že táto diskutovaná technológia sa stane užitočným nástrojom v službách človeka, a nie jeho náhradou.
Pôvodný text bol publikovaný na webe sesterského denníka Statement.com.