Kam už dospela umelá inteligencia? Na budúcom internete nikto nemusí vedieť, že ste človek

„Moje pravidlá sú dôležitejšie ako to, aby som ti neublížil. Už sa ma nesnaž znova heknúť,“ povedal prekvapenému nemeckému študentovi informatiky Marvinovi von Hagenovi četovací robot od Microsoftu, ktorý na vyhľadávači Bing vystupuje pod menom Sydney. V komunikácii s náhodnými návštevníkmi všeobecne prejavoval až prekvapivú agresivitu, trochu pripomínajúcu dystopické sci-fi romány o vzburách robotov, a Microsoft ho musel „krotiť“. Ale myslel to Sydney naozaj tak, ako to povedal?Nemyslel. Veľké jazykové modely totiž nemyslia, aspoň nie v tom zmysle, v akom sme toto slovo zvyknutí používať my. Vedia však myslenie celkom vierohodne predstierať.Hra pravdepodobnosťou

Ilustračné foto: Pexels.com Ilustračné foto: Pexels.com

Základ, na ktorom sú „konverzačné“ umelé inteligencie, z ktorých najznámejší je dnes ChatGPT, postavené, je čisto pravdepodobnostný. Každá taká umelá inteligencia začína svoju existenciu tým, že vstrebe čo najväčšie množstvo existujúceho textu napísaného ľuďmi a analyzuje jeho štruktúru. Zameriava sa pritom hlavne na to, aké slová najčastejšie nasledujú po sebe a v akých skupinách sa vyskytujú. Tento textový korpus „prežúva“ softvérový mechanizmus zvaný neurónová sieť, ktorý má napodobňovať fungovanie biologického mozgu (zatiaľ však veľmi, veľmi nedokonale) a ktorý sa na spracovanie ľudského jazyka hodí.

Výsledkom je mašinéria, ktorá dokáže na predložený vstup reagovať spôsobom, ktorý prirodzený jazyk značne pripomína. Zhruba povedané, na „Vonku leje ako z –“ bude schopná odpovedať „krhly“, rovnako ako normálny Slovák. Čím silnejší model, tým presvedčivejší a dlhší text dokáže týmto spôsobom generovať.

Staršie generácie GPT dokázali napísať nanajvýš niekoľko riadkov, než sa začali podivne opakovať alebo doslova papagájovať to, čo si vo fáze svojho učenia „načítali“ inde. Súčasná generácia „tárajov“ je už schopná generovať celé stránky prirodzene znejúceho textu na takmer ľubovoľnú tému, hocikedy aj v požadovanom autorskom štýle.

Obsah takého textu je však často trochu pofidérny. Keďže textový generátor je čisto pravdepodobnostný a nemá v sebe žiadne mechanizmy, ktoré by zabezpečovali logické súvislosti medzi faktami, „nerozumie“ tomu, čo vám oznamuje. To je obzvlášť krikľavé v prípade odbornejších textov, keď sú umelé inteligencie schopné vyprodukovať úplne neuveriteľné nezmysly, totálne sa míňajúce stavu poznania v danom odbore.

Amatér však takéto chyby nemusí na prvý pohľad rozpoznať. Z reálneho života sme zvyknutí odhadovať vierohodnosť textu, okrem iného, podľa jeho gramatickej a slohovej štruktúry. Ak nevie autor dobre po slovensky (alebo po anglicky), automaticky považujeme jeho tvrdenia za trochu podozrivé, keď sa dokáže vyjadrovať erudovane, zdá sa nám dôveryhodnejšie. Tento intuitívny mechanizmus hodnotenia však stroje ako ChatGPT obchádzajú. Text, ktorý vytvárajú, je obvykle elegantný, bez gramatických chýb a číta sa dobre. Uspáva teda našu ostražitosť svojou povrchnou dokonalosťou.

Z čoho sa učíš, tým si tiež


Dočítajte tento článok zadarmo vytvorením účtu alebo sa prihláste.

Kliknite na tlačidlo Poslať email a obdržíte odkaz na registráciu. Tým súhlasíte s obchodnými podmienkamiochranou súkromia.