Predstava, že nás umelá inteligencia (AI) bude riadiť, môže na prvý pohľad pripomínať námet sci-fi románu.
Keď sa však zamyslíme nad tým, koľkokrát denne či týždenne sa pýtame našich obľúbených jazykových modelov na otázky – od banálnych, ako napríklad aké plavecké okuliare si kúpiť, až po závažnejšie témy týkajúce sa zdravia, partnerského života či geopolitických názorov –, uvedomíme si, že sa stala akýmsi tichým a láskavým radcom.
To však vyvoláva otázku: aký je skutočný zmysel týchto „dobrých rád“? Nápady a podnety umelej inteligencie môžu pripomínať melódiu flauty podkaniara z Hamelnu.
Technofašizmus ako intelektuálna opora?
Keď si uvedomíme, že umelá inteligencia neponúka len výhody, ale ako všetko na tomto svete má dve strany mince, môžeme sa legitímne pýtať, či tento mocný nástroj v skutočnosti neposlúži na pomalé ustanovenie technokratickej diktatúry, na čele ktorej stoja šéfovia veľkých technologických firiem.
Medzi kľúčové postavy patria napríklad Elon Musk, Peter Thiel alebo Sam Altman. Niektorí z nich neskrývajú svoje politické ambície ani hlboké obavy z budúceho vývoja AI. V tomto kontexte sa začalo hovoriť o „technofašizme“, najmä preto, že niektorí z týchto lídrov ako Musk či Thiel majú blízko k Republikánskej strane.
Pojem „technofašizmus“ vyvoláva na prvý pohľad strach. Pri jeho vyslovení si mnohí predstavia dupot okovaných bagandží. Tento obraz je silný a nie div, že mnoho komentátorov a politikov, najmä odporcov Donalda Trumpa, bije na poplach. Sila tohto obrazu zvyšuje predaj článkov a zobrazenie na sociálnych sieťach. Je to vďačná téma, ktorá však celú problematiku značne zjednodušuje a väčšinu čitateľov odvádza na slepú uličku. S umelou inteligenciou to nie je také jednoduché.
Umelá inteligencia nie je servilná
Koncept fašizmu vznikol pred takmer sto rokmi v Taliansku a mal predovšetkým národný charakter. Umelá inteligencia však pôsobí na globálnej úrovni. Kľúčový rozdiel spočíva v tom, že fašizmus bol založený na autorite presadzovanej silou, zatiaľ čo AI autoritatívna nie je. Nerozkazuje, nepodlizuje sa. Iba trpezlivo čaká, kým používateľ príde s ďalšou požiadavkou, s ktorou si sám nevie rady, alebo s potrebou zdieľať myšlienky, keď nikto nie je nablízku.
Tradičné diktatúry boli postavené na ideológiách, ktoré svet interpretovali univerzálne, napríklad cez rasu či sociálnu triedu. AI však otvára priestor pre nový typ diktatúry – personalizované, šité na mieru každému „klientovi“.
Jazykové modely sa postupne prispôsobujú svojim používateľom, čo predstavuje jedinečný a originálny vývoj. Tento posun znamená zmenu paradigmy. Starý koncept, ako je fašizmus, už nie je vhodný na pochopenie hĺbky problému umelej inteligencie.
Hĺbkový pohľad na budúcu rolu a moc AI ponúka francúzsky filozof Eric Sadin, ktorý túto problematiku analyzoval napríklad vo vyše trojhodinovom rozhovore na kanáli Thinkerview.
Sila Sadinovej reflexie spočíva v jej filozofickej hĺbke. Snaží sa zachytiť podstatu vecí a rozlíšiť, čo je skutočne dôležité. V minulosti napríklad upozorňoval, že debaty o tom, či AI môže mať vedomie, sú pseudodebatami.
Tento problém nemožno vyriešiť, pretože neexistuje zhoda na tom, čo vedomie vlastne je. Takéto diskusie odvádzajú pozornosť od kľúčového problému, ktorý prinieslo spustenie ChatGPT: ako táto technológia zmení nás samotných. Namiesto skúmania umelej inteligencie by sme sa mali zaoberať jej dosahom na ľudskú spoločnosť.
Biznis, politika a my
Sadin zdôrazňuje, že problém moci v AI je potrebné definovať po novom, a preto zavádza koncept „totálnej moci“. Táto moc vychádza zo štyroch pilierov. Prvým sú technologické firmy, ktorých hlavným záujmom je biznis, nie moc. Toto odvetvie už dnes generuje obrovské zisky, čo ich motivuje k jej ďalšiemu rozvoju.
V tomto bode sa Sadin zhoduje s Alexandrom Karpom, generálnym riaditeľom spoločnosti Palantir, ktorý vo svojej knihe Technologická republika upozorňuje, že objavy zo Silicon Valley vrátane AI primárne neslúžia spoločnému dobru, ale generovaniu zisku. Potenciál umelej inteligencie, napríklad vo vedeckom výskume, je často nasmerovaný na banálne úlohy, ako je vytváranie nových receptov.
Druhým pilierom sú politici. AI im ponúka nové možnosti, ktoré doteraz nemali. Aj keď sa tento trend v stredoeurópskom priestore zatiaľ príliš neprejavuje, na Západe sa stáva normou. Rozvoj umelej inteligencie sa stal cieľom sám osebe.
Politik, ktorý nevie, ako zlepšiť životy občanov, môže raziť heslo podpory AI. V USA aj Európe poprední politici ohlásili značné investície do tejto brandže, ktoré často slúžia ako zámienka pre ďalšie zadlžovanie.
Tretím pilierom je nová vlna digitálnej optimalizácie. AI bude masívne nasadzovaná, aby znížila náklady – firmy chcú zvyšovať produktivitu, zadlžené štáty hľadajú úspory. Umelá inteligencia tak predstavuje riešenie pre oba sektory, čo podporuje jej všadeprítomné presadzovanie.
Posledným pilierom sme my, používatelia. Počet ľudí využívajúcich AI rapídne rastie – odhaduje sa, že v roku 2025 ju používalo 900 miliónov užívateľov a toto číslo bude ďalej stúpať. Dlhodobé používanie AI však oslabuje kognitívne schopnosti. Nová totalitná moc tak neprichádza zvonku, ale zvnútra. Najväčším trestom by mohol byť zákaz používania umelej inteligencie.
Koncept totálnej moci presahuje iba varovanie pred „technofašizmom“ presadzovaným niekoľkými miliardármi. Ani oni presne nevedia, kam nás antropologické zmeny vyvolané AI zavedú. Tieto zmeny budú hlboké a možno nevratné.
Napríklad v Česku sa počas nedávnych volieb o AI prakticky nehovorilo. Povedomie o tejto problematike medzi politickými elitami je minimálne, čo len zdôrazňuje paradox: o technológii, ktorá môže pretvoriť základy spoločnosti, sa rozhoduje bez skutočného pochopenia jej dôsledkov.