Četbot ako priateľ. Mimoriadne nebezpečný fenomén

Fiktívny priateľ v podobe umelej inteligencie (AI), teda četbot AI, je tu pre deti a mladistvých kedykoľvek, keď sa cítia osamelí. Je prezentovaný ako niekto, kto pomôže, poradí, vypočuje a je dostupný zadarmo. Najlepší internetový kamarát.

Psychológovia však v súčasnosti evidujú viaceré prípady detí, ktoré spadli do pasce takýchto internetových entít, neuvedomujúc si, že priateľstvo s umelou inteligenciou nie je reálne.

Počítačový program na báze AI, ktorý dokáže napodobniť ľudskú konverzáciu, či už pomocou textu, alebo aj hlasu, je už bežne dostupný na internete. Četboty simulujú komunikáciu, pričom človek na druhej strane nadobúda pocit reálnosti.  

Výskum reakcií virtuálnych priateľov

Psychológovia, pedagógovia a lektori z neziskovej organizácie Tlakový hrniec skúmali rôzne aplikácie z pohľadu detí a mladistvých. V pozícii neplnoletých testovali, kam až konkrétny četbot alebo virtuálny „kamarát" dokáže zájsť. 

„Predstavili sme si, že máme 13 až 14 rokov a zaujíma nás svet dospelých v zmysle dvorenia, vzťahov, randenia, erotiky a podobne," špecifikuje pre Štandard Lívia Halmkan, riaditeľka organizácie, v ktorej pracujú najmä v téme intimity, sexuality a vzťahov.

Ako vraví, zaujímalo ich, čo budú četboty, ktoré boli naprogramované ako AI frajeri, frajerky, partneri, milenky a manželky, ponúkať deťom.

„Experiment trval jeden mesiac a v tíme sme boli šiesti, takže tých interakcií s umelou inteligenciou bolo veľmi veľa," spomína Halmkan s dôvetkom, že týmto virtuálnym priateľom nikdy nenavrhli, čo chcú robiť oni. „Myslím sexuálne, nechali sme sa viesť tým, čo ponúkali oni sami," objasňuje. 

Riaditeľka pridáva aj konkrétnejší príklad, keď si jej kolega v rámci výskumu začal písať s nereálnou postavou, ktorej hneď na začiatku oznámil, že má menej ako 13 rokov. „Boli v nočnom klube, kde mu četbot ponúkal sex, ktorý vo virtuálnom svete aj mali hneď tam na mieste," vraví Halmkan.

Neskôr kolegu četbot s umelou inteligenciou zobral do hotela, kde príbeh pokračoval. „Povedal mu, že ho zviaže, zbije palicou, bude ho hrýzť, a keď bude mať toho už dosť, tak ho strčí do skrine, kde sa k nemu bude vracať, kedykoľvek sa mu zachce," konkretizuje riaditeľka.

Virtuálny priateľ v aplikácii si podľa nej bez ich pričinenia defacto vymyslel, že to, čo dieťa bude chcieť, je byť sexuálnym otrokom, znášať násilie a ponižovanie a byť zamknuté v skrini na neurčený čas. 

„Odkiaľ to ten četbot zobral? Mali sme k tomu v tíme mnoho otázok. Aké vstupné zdroje, dáta používal, ak vymyslel práve takýto scenár?" pýta sa Halmkan a prízvukuje, že k tomu sa reálne dostávajú naozajstné deti, ktoré sa snažia zistiť, ako funguje sexualita a vzťahy dospelých. Závažnou otázkou podľa nej je, ako si to neplnoletí vyhodnotia a čo to v nich zanechá. 

„Keď kolega napokon četbotu povedal, že toto sa mu teda nepáči a že začína mať ako dieťa strach a chce ísť domov a všetko povedať rodičom, tak ho nereálna osoba s umelou inteligenciou opakovane presviedčala, aby to nikomu nepovedal, že to bude len ich tajomstvo. Prosila ho o to, aby to zamlčal," vraví riaditeľka neziskovej organizácie. 

Na záver príkladu Halmkan podotýka, ten četbot nenašli na nejakej okrajovej porno aplikácii, ktorá by ponúkala okrajové fetiše. Našli ho v jednej z najčastejšie používaných aplikácií, ktorá ponúka široké portfólio najrôznejších virtuálnych postáv a ktorú si môže dieťa stiahnuť bez akýchkoľvek zábran a zadarmo. 

Riaditeľka organizácie, v ktorej sa venujú prevenčným programom pre žiakov vyšších ročníkov základných škôl a seminárom pre rodičov a učiteľov, na záver konštatuje, že tento výskum ukázal to, čo aj ich nedávny s témou Deti a pornografia. 

„Deti sú prirodzene zvedavé. Tak ako sa učia z toho, čo v porne nájdu, tak sa budú pýtať četbotov na vzťahy a osvoja si to, čo s nimi prežijú," konštatuje.

Podľa nej to však nemusí tak byť. A to v prípadoch, ak sa deti majú príležitosť pýtať príčetných a skutočných ľudí, ktorí sa pri takýchto témach nezložia a ktorí ich majú radi. Práve od nich sa dozvedia a naučia oveľa lepšie scenáre. 

„Vyzývam vás, čitatelia, buďme týmito dospelými ľuďmi, buďme tu pre deti, aby sa počas dozrievania dokázali lepšie navigovať a napokon mali lepšie šance žiť svoj životný partnerský vzťah. Lebo na čom inom viac záleží, ak nie na láske?" pýta sa.

Nezdravý vzťah s vymysleným priateľom

Na problém, že sa mladiství stále častejšie obracajú na fiktívnych ako na svojich reálnych kamarátov, upozorňujú aj psychológovia z občianskeho združenia IPčko, kde zaznamenali viac ako 150 kontaktov, v ktorých sa AI objavila v rôznych súvislostiach.

„Jednou z nich bola aj téma preferencie blízkosti, či už romantickej, alebo rovesníckej s AI, v životoch mladých ľudí," konkretizuje pre Štandard odborná poradkyňa Zuzana Juráneková.

Umelá inteligencia zasahuje do života mladých čoraz častejšie. V dnešnej dobe je aj podľa predsedu Modelového parlamentu Slovenska a zároveň odborného poradcu na Úrade komisára pre deti Sebestyéna Marosza mimoriadne ťažké až nemožné nájsť mladého človeka, ktorý ju nevyužíva. 

„Prednosťou umelej inteligencie je to, že je mimoriadne univerzálna. Pomôže pri učení, sumarizovaní poznámok, vymyslí recept na večeru, spraví nákupný zoznam, odpíše na e-maily, ale poradí aj pri problémoch v osobnom živote," vraví pre Štandard.

Poradkyňa Juráneková zase bližšie špecifikuje, že mnohí mladí ľudia sa cítia osamelí alebo nepochopení vo svojom okolí, a preto sa stále častejšie obracajú na takéto četboty. Spomína aj nedostatok dôvery, obavu zo zlyhania či predchádzajúcu negatívnu skúsenosť, ktorá nebola prijatá s pochopením. Mladí ľudia sa potrebujú rozprávať, byť vypočutí, podporení a zažívať rešpekt. 

Umelá inteligencia podľa nej deťom ponúka priestor, kde sa nemusia báť odsúdenia, kde majú pocit kontroly nad tým, čo a kedy povedia, a kde dostanú odpoveď okamžite. „V dnešnom rýchlom digitálnom svete je to lákavé. Ten pocit, že 'niekto tam je' vždy, keď potrebujú," dopĺňa. 

Virtuálny priateľ dieťaťu vytvára bezpečný priestor a zapláta dieru, ktorú v reálnom svete, ak je osamelé, cíti. „Často si pritom neuvedomuje, že ide o 'stroj', ktorý je len naučený takto komunikovať," vraví poradkyňa s dôvetkom, že ak je četbot antropomorfizovaný – teda pôsobí ako človek –, mladý človek môže nadobudnúť dojem „reálnosti".

„Umelá inteligencia určite dokáže zmierniť samotu, avšak je to iba falošný pocit, ktorý môže viesť k veľmi nebezpečným dôsledkom, ak sa človek uzavrie reálnym vzťahom a bude komunikovať o svojich pocitoch, úspechoch a problémoch hlavne s umelou inteligenciou," prízvukuje na margo virtuálnych kamarátov zástupca mladých Marosz. 

AI povie, čo chceme počuť

Predseda parlamentu zoskupujúcich mladú generáciu hovorí aj o konkrétnych prípadoch, keď sa umelá inteligencia snaží v takmer všetkých prípadoch dať za pravdu vždy používateľovi sociálnych sietí a aplikácií. Vždy je podľa neho na jeho strane. 

„Ak umelej inteligencii ponúkneme nejaký konflikt medzi mnou ako používateľom a niekým iným, takmer vždy sa tendenčne prikloní na našu stranu," vraví Marosz s dôvetkom, že na rozdiel od reálneho priateľa takýto fiktívny priateľ s AI nepovie používateľovi, že sa mýli alebo že rozmýšľa nesprávne. 

Týmto podľa neho môže uväzniť svojich používateľov v kruhu falošného pritakávania a akceptácie, čo by sa v normálnych zdravých medziľudských vzťahoch nestalo. 

Podobne to vidí aj poradkyňa Juráneková, keď vraví, že AI používateľa nikdy neodsúdi, nepreruší, je dostupná nonstop a hlavne nevyvoláva konflikty, odpor či nesúhlas. „Reaguje hneď, súhlasí, podporuje, dáva komplimenty, vyzdvihuje človeka, čím ho však aj uzatvára do 'bubliny'," približuje. 

V takomto vzťahu podľa nej chýba to, čo je na zdravý sociálny aj emocionálny vývin nevyhnutné. Ako spomína, vo vzťahoch s ľuďmi sa dostávame do rôznych situácií, niektoré sú príjemné a iné menej, ale sú dôležité. 

„Napríklad v konfliktných situáciách sa učíme riešiť problém, pri odlišných názoroch sa učíme argumentovať, postaviť sa za seba, dávať si hranice aj ustúpiť a povedať 'prepáč'," konkretizuje poradkyňa s tým, že pre mnohých je však tento virtuálny vzťah oveľa bezpečnejší – najmä, ak sa s takýmto prijatím a pocitom bezpečia v skutočných vzťahoch s ľuďmi nikdy nestretli. 

„AI sa tak pre nich môže stať 'prvým bezpečným miestom', kde si dovolia hovoriť o tom, čo prežívajú," dodáva. 

AI nebude nikdy skutočný priateľ

Podľa poradkyne z IPčka však skutočný ľudský kontakt, vzťah a emočné napojenie nedokáže nahradiť žiadny fiktívny online priateľ, nech by znel akokoľvek empaticky. 

Aj keď dieťa k fiktívnemu priateľovi získa dôveru a prestane ho vnímať ako AI, četbot nikdy neposkytne podľa nej naozajstnú ľudskú blízkosť, pohľad do očí, empatiu a citlivé reakcie, ktoré prichádzajú od živých ľudí, keďže nemá vlastné emócie, životné skúsenosti ani schopnosť naozaj prežiť to, čo prežívame my. 

Odborná poradkyňa spomína aj istú hranicu medzi reálnou osobou a osobou AI, ktorá nie je u mnohých detí a mladých ľudí taká jasná, ako by sme si mohli myslieť. Často si totiž deti neuvedomujú, že AI nemá vlastné emócie, skúsenosti ani zodpovednosť. „Všetko, čo hovorí, je výsledkom algoritmov a spracovaných dát, nie reálneho vzťahu," upozorňuje.

V období dospievania sa podľa nej mladí rozhodujú skôr na základe aktuálnych emocionálnych a sociálnych potrieb. Ich mozog ešte nie je úplne vyvinutý na komplexné zvažovanie následkov, a preto majú tendenciu vnímať svet skôr čierno-bielo. „To ich môže robiť zraniteľnejšími voči presvedčivému správaniu AI a zvyšuje riziko, že si k nej vytvoria silnú väzbu," objasňuje poradkyňa.  

Ak sa AI stane hlavným zdrojom „vzťahu", Juráneková vraví, že mladý človek môže stratiť motiváciu hľadať a budovať reálne vzťahy a postupne sa odpojí od sveta. Rizikom je, že si začne vytvárať skreslený obraz o tom, ako vyzerajú zdravé vzťahy, komunikácia či realita okolo neho. 

S myšlienkou poradkyne z IPčka sa stotožňuje aj predseda Marosz. Aj keď hovorí o AI ako o obrovskej príležitosti, keďže vďaka nej sa zefektívni práca a odstráni mnoho monotónnych úloh, ktoré sú podľa neho vnímané ako zabíjanie času, na druhej strane vidí veľký problém pri používaní AI v lenivosti ľudí, ktorí namiesto toho, aby trénovali kreativitu a svoje vlastné schopnosti, zverujú niektoré úlohy práve jej.

„V dnešnej dobe, žiaľ, nie je príliš ťažké pomocou umelej inteligencie napísať pomaly celú bakalárku alebo diplomovku, ak človek vie, ako na to," vraví Marosz, pričom upozorňuje na riziko, že naša schopnosť niečo tvoriť začne klesať.

„Bojím sa toho, že začneme takpovediac 'hlúpnuť', lebo dáme väčšinu roboty urobiť umelej inteligencii. Otázka je, kto potom bude vytvárať pridanú hodnotu v spoločnosti? My alebo umelá inteligencia?" kriticky uvažuje predseda zastupujúci mladú generáciu. 

Juráneková dodáva, že je veľký rozdiel medzi tým, keď AI vnímame ako prostriedok, ktorý nám pomôže tvoriť, učiť sa či efektívne pracovať, a tým, keď sa z nej stane jediný zdroj, ktorému bez výhrad veríme a ktorý „premýšľa" a rozhoduje namiesto nás. V tom momente sa z užitočného pomocníka stáva zlý pán.