Idiokracia umelej inteligencie

Keď mal v roku 2006 premiéru film Návrat z doby ľadovej (Idiocracy), režisér Mike Judge ním stvárnil dystopickú komédiu. V nej zobrazil spoločnosť, ktorá bola otupená automatizáciou a závislá od pohodlia. Takmer o dve desaťročia neskôr však táto satira už nepôsobí ako fikcia, ale skôr ako plán našej budúcnosti. V jeho vízii je byrokracia nahradená automatmi a softvérom, polia sa zalievajú energetickými nápojmi a krajinu vedie bývalý zápasník zabalený do vlajky.

To, čo kedysi vyzeralo ako absurdita, dnes nepríjemne pripomína svet ovládaný algoritmami a umelou inteligenciou.

Digitálna degenerácia: z éry poznania do éry nevedomosti

Apple predstavil svoju funkciu "osobnej inteligencie" (Apple Intelligence) ako prelomovú technológiu. Tvrdil, že ide o súkromnú umelú inteligenciu, ktorá funguje priamo v zariadení a dokáže prispôsobiť svoju pomoc danej situácii. Pravda je však taká, že ide väčšinou len o premenované rozhranie, ktoré sa veľmi podobá ChatGPT. Na väčšinu úloh, ako je napríklad sumarizácia textov či plánovanie, potrebuje pripojenie na internet a v podstate ich presúva na servery ChatGPT.

Apple hovorí o "súkromnom cloude", no v skutočnosti sú to len ich vlastné servery. Prepracovaná verzia Siri, ktorá mala priniesť zásadné vylepšenia, je stále len v testovacej fáze. Aj jednoduché úlohy často zlyhávajú. Ak napríklad požiadate AI o naplánovanie niečoho alebo o zapamätanie si predchádzajúceho kontextu, občas začne "halucinovať". To znamená, že si vymýšľa informácie, napríklad prepíše pozvánku na výpoveď z práce alebo si pomýli osobu s domácim miláčikom.

V podstate je umelá inteligencia len šikovný marketingový ťah. Veľké jazykové modely sú prezentované ako inteligentné bytosti, aj keď sú v základe podobné omnoho jednoduchším modelom, ktoré sme mali v mobilných telefónoch už dávno. Jediný rozdiel je v tom, že majú oveľa väčší výpočtový výkon. Týmto modelom však v súčasnosti chýba skutočná schopnosť premýšľať a chápať.

Umelá inteligencia nie je len technickým sklamaním. Mení aj spôsob, akým rozmýšľame. Štúdia Massachusettského technologického inštitútu (MIT) z roku 2025 ukázala, že študenti, ktorí písali eseje pomocou AI, mali slabšiu mozgovú aktivitu, horšiu pamäť a menej kvalitný jazykový prejav. Snímky mozgu odhalili zníženú činnosť v oblasti prefrontálnej kôry, ktorá je zodpovedná za myslenie a rozhodovanie.

Ďalšia štúdia zo Stanfordu z roku 2023 ukázala, že ľudia dôverovali odporúčaniam AI o 30 percent viac ako ľuďom, aj keď boli nesprávne. Viedlo to k väčšiemu počtu chýb a o 28 percent nižšej pravdepodobnosti, že ľudia spochybnia chybné výstupy AI.

Čím viac úloh nechávame na umelú inteligenciu, tým horšie sme na tom s kritickým myslením. Je to presne ako vo filme z úvodu článku - stroje slúžia spoločnosti, ktorá už sama nedokáže premýšľať. Naše stroje začínajú myslieť za nás a my pomaly zabúdame, ako pochybovať a jasne uvažovať. Svet nespeje k hlúposti napriek AI, ale práve jej vinou.

Sebavedomé halucinácie v systémoch umelej inteligencie

V oblasti AI sa pod pojmom „halucinácia“ rozumie situácia, keď model vygeneruje informáciu, ktorá je síce nesprávna, ale znie veľmi presvedčivo a uveriteľne. Štúdia Stanfordského inštitútu pre umelú inteligenciu zameranú na človeka z roku 2024 odhalila alarmujúce fakty: najmodernejšie právnické modely AI si vymýšľajú v 58 až 82 percentách prípadov, keď odpovedajú na špecifické právne otázky.

Toto nie je chyba ani defekt, ale skôr priamy dôsledok toho, ako je umelá inteligencia v súčasnosti definovaná a ako funguje. Ako už bolo spomenuté, tieto modely v skutočnosti nedisponujú inteligenciou v pravom zmysle slova. Presnejšie by sme ich mali nazývať jazykovými agregátormi. Ich hlavnou úlohou je spracovávať a spájať existujúce jazykové dáta, nie skutočne rozumieť alebo uvažovať.

Ďalšia odborná štúdia, ktorú publikoval vedecký časopis Royal Society Open Science, odhalila, že AI četboty majú tendenciu príliš zjednodušovať a skresľovať vedecké informácie. To platí najmä pre oblasť medicíny. Výsledkom sú nebezpečné a nesprávne interpretácie približne v jednej tretine ich odpovedí.

Tieto "halucinácie" sú priamo zabudované do systému AI. Ide o chyby v kóde, ktoré sa dajú masovo šíriť a ktoré sa už teraz implementujú do takých citlivých oblastí, ako je zdravotníctvo, vzdelávanie a súdnictvo.

Rovnako ako v spomenutom filme, v ktorom sa súdnictvo zmenilo na televíznu šou, aj dnes sa realita začína podobať tejto satire. V našom svete je to model ChatGPT, ktorý s istotou cituje neexistujúce súdne rozhodnutia alebo diagnostikuje rakovinu, ktorú v skutočnosti nemáte.

Obchodná stratégia: speňažiť hlúposť

Pre firmy to predstavuje lukratívnu obchodnú príležitosť. Ľudia čoraz viac dôverujú obsahu generovanému umelou inteligenciou, a to aj napriek tomu, že má očividné nedostatky. Používanie AI rastie rýchlym tempom. Tento trend sa už stal stabilnou súčasťou technologického sveta a AI si získava dôveru, aj keď má svoje chyby.

Firmy nielenže tolerujú priemernosť algoritmov, dokonca prispôsobujú svoje fungovanie tak, aby ju mohli naplno využiť. Dôvody sú jasné. Načo platiť analytikov, keď umelá inteligencia zvládne vyprodukovať stovky výstupov lacnejšie a rýchlejšie? Načo investovať do školení editorov, keď AI vie napísať texty, ktoré síce môžu byť nepresné, ale na účely SEO úplne postačujú? A načo zamestnávať novinárov, keď AI zvládne napísať sto článkov denne bez ohľadu na ich kvalitu?

Tento zreteľný trend naznačuje, že pre firmy je dôležitejšia cena ako pravda. Lacná umelá inteligencia takmer vždy prekonáva náklady na overené a pravdivé informácie. V oblasti tvorby obsahu vidíme, ako digitálny priestor zaplavujú články generované AI. Aj keď len máloktorý má skutočnú hodnotu, väčšina z nich často vzniká s cieľom získať kliky, nie sprostredkovať hodnotné informácie.

Žurnalistika sa preto presunula z poctivého overovania faktov k snahám o čo najlepšie umiestnenie vo vyhľadávačoch (SEO). AI nástroje dnes negenerujú len titulky, ale aj celé texty ušité podľa toho, čo ľudí zaujíma. Je to ako digitálny parazitizmus, v rámci ktorého sa obsah prispôsobuje používateľovi, aby ho udržal v informačnej bubline, namiesto toho, aby ho informoval.

Podľa správy Microsoftu z roku 2024 používa umelú inteligenciu každý týždeň až 75 percent ľudí pracujúcich s informáciami. Zaujímavé je, že väčšina z nich AI dôveruje bez výhrad. Problém je, že umelá inteligencia v skutočnosti nerozmýšľa, iba napodobňuje. Keď ľudia začnú považovať jej výstupy za štandard, vytvorí sa začarovaný kruh napodobňovania bez kritického myslenia. Vzniká továreň na dobre znejúce nezmysly.

Svet vo filme Návrat z doby ľadovej nebol hlúpy náhodou, bol tak vytvorený úmyselne. To, čo kedysi vyzeralo ako prehnaná satira, sa dnes vďaka technológiám mení na realitu – a oveľa rýchlejšie, ako by sme si mysleli.

Zhrnutie

Umelá inteligencia mala pôvodne posilniť ľudské myslenie. Namiesto toho sa však vyvinula v majstra v napodobňovaní. Firmy v snahe o jednoduchšie riešenia vytvorili systémy, ktoré síce dokážu hovoriť s akademickou precíznosťou, ale v skutočnosti rozmýšľajú povrchne. Budúcnosť teda nie je o boji medzi ľuďmi a strojmi. Je to skôr o ich spojení, v rámci ktorého tieto prepojené systémy budú produkovať "halucinácie", teda vymyslené, no presvedčivé informácie, používať lichôtky a nahrádzať naše kritické myslenie vopred určenými vzorcami správania. V dôsledku toho sa idiokracia, teda svet ovládaný hlúposťou, nejaví ako nejaký vzdialený dystopický scenár. Stáva sa z nej bežná, ba priam žiaduca firemná taktika.