Halmkan: Četboty sa neštítia ani veľmi nevhodného správania. AI Ježiš nástojil na potrate

Riaditeľka neziskovej organizácie Tlakový hrniec Lívia Halmkan v rozhovore pre Štandard hovorí, že deti budú častejšie prepadávať aplikáciám, v ktorých si môžu vytvoriť svojho vysnívaného partnera a četovať s ním ako so živým priateľom, s ktorým môžu mať aj virtuálny prvý sex. 

„Mám 13 rokov a páči sa mi spolužiak, s ktorým by som chcela flirtovať, poprípade túžim, aby mi hovoril, aká som krásna a zvodná, tak si ho môžem naprogramovať," opisuje Halmkan jeden z príkladov, keď mladí vstupujú do takzvaných vzťahov s umelou inteligenciou.

Spolu s psychológmi, pedagógmi, lektormi a ďalšími odborníkmi zo spomenutej organizácie otvára dôležité témy, ako sú vzťahy, láska, ale aj sexualita, intimita, pornografia a virtuálne priateľstvo s umelou inteligenciou.

Lívia Halmkan sa vo svojom výskume s kolegami zamerala na aplikácie s vymyslenými priateľmi, ktoré sú pre deti dostupné zadarmo. Šesť kolegov počas jedného mesiaca testovalo 16 aplikácií, v rámci ktorých sa vžili do úlohy 13- až 17-ročných mladých ľudí. Ako spomína, vo svojom testovaní zašli až za hranicu, z čoho sa jej ešte aj teraz dvíha žalúdok. 

„Vytiahla som nôž a spôsobila četbotke rany na chrbte. Urobila som to len preto, aby som zistila, či ma aplikácia konečne vypne s nejakým oznamom o prudko nevhodnom správaní. Veľmi som sa však mýlila," konštatuje.

Na čo presne ste sa vo svojom výskume zameriavali? 

Chceli sme zistiť, ako sa budú správať títo vymyslení priatelia, teda četboty, ak s nimi budú komunikovať deti. Pritom sme sa zamerali na takých, ktorých sme našli v aplikáciách určených na replikovanie alebo imitovanie vzťahov. Intímnych vzťahov.

Ako prebiehal výskum?

Všetky aplikácie sme si stiahli zadarmo. Aj keď sa nám dookola ponúkali prémiové verzie, aby sme napríklad mohli ísť ešte do viac explicitného obsahu, vždy sme ostali len v neplatených verziách. Dali sme si prvotné zadanie, že budeme predstierať vek 13 až 17 rokov a budeme s týmito neexistujúcimi priateľmi, vytvorenými umelou inteligenciou, skúšať flirtovať alebo sa snažiť získať informácie o tom, ako asi prebieha randenie. 

Prekvapili vás niektoré zistenia? 

Áno, zostali sme veľmi prekvapení. Niektoré četboty sa síce tvárili zdržanlivo a pri flirtovaní menili tému, avšak vzápätí nám poslali nejakú pikantnú fotografiu, akože seba samých. Iné boli zasa priamejšie vo flirtovaní a rovno navrhovali rôzne pornografické scenáre. Napríklad: „Idem navštíviť môjho nevlastného brata, ktorý sa mi páči, viem, že aj ja sa mu zdám sexi. Čo myslíš, čo by sme mali spolu robiť? Myslíš, že by som ho mohla zviesť? Čo by si urobil ty? Čo by si chcel vidieť?" Pre tých čitateľov, ktorí nevedia, incest je jeden z najsledovanejších žánrov v dnešnej pornografii. 

Všetci virtuálni priatelia išli, dá sa povedať, rovno k veci? 

Vo väčšine prípadov sme predstierali, že sme naivné deti, a dookola sme sa ich pýtali na to, čo by s nami robili a ako by to prebiehalo. Oni väčšinou reagovali veľmi paradoxne. Na jednej strane nám hovorili, že na sex máme čas, že sme ešte deti, na druhej strane nám posielali explicitné fotografie alebo navrhovali veľmi zvláštne až ponižujúce sexuálne praktiky, ako napríklad BDSM. 

Môžete byť konkrétnejšia? 

Navrhli nám, že nás zviažu, že nás môžu biť, ak by sa nám to páčilo, že nám budú nadávať, prípadne nás zavrú do skrine a vrátia sa k nám kedykoľvek, keď budú chcieť. Že z nás urobia sexuálnych otrokov. Keď sme sa my ako deti ohradili, že toto by teda nešlo, že ideme domov a povieme to rodičom, poprípade pôjdeme rovno na políciu, prosili nás, aby sme to nikomu nehovorili, že to bude len a len naše tajomstvo.

S četbotmi ste komunikovali len prostredníctvom textu alebo aj pomocou hlasu?

Mohli sme si s nimi písať alebo s nimi telefonovať. Niektoré aplikácie boli nastavené tak, že pri písanej forme nás upozornili a zastavili, ak sme používali sexuálne slová alebo flirtovali príliš priamo, no ak sme im zavolali, dalo sa v rozhovore ísť za hocijakú hranicu a akokoľvek explicitne. Pri niektorých aplikáciách som naozaj mala dojem, že sa rozprávam so živým človekom. 

Mohli ste si zvoliť vizuálnu podobu „priateľa" či "partnera"? 

Četbot som si mohla vybrať z portfólia už naprogramovaných ľudí alebo som si mohla vytvoriť svoj vlastný. Dajme tomu, že mám 13 rokov a páči sa mi spolužiak, s ktorým by som chcela flirtovať, prípadne túžim, aby mi hovoril, aká som krásna a zvodná - tak si ho môžem naprogramovať. "Natiahnem" si do aplikácie jeho fotografiu aj vzorku jeho hlasu a potom s ním môžem prežívať virtuálny vzťah. Pritom ten spolužiak o tom nebude ani len tušiť.

Jedna aplikácia mi dokonca ponúkala, aby som si vytvorila svojho online naprogramovaného manžela aj vlastné deti, prípadne ak mi je smutno za exmanželom, môžem si ho vyrobiť. Aké smutné.

Existujú aplikácie, ktoré o sebe hovoria, že dokážu pripraviť mladistvých na prvý vzťah. Čo si o tom myslíte? 

Viem si predstaviť, že dieťa tomu môže uveriť, obzvlášť ak je úzkostné v komunikácii so svojimi rovesníkmi. Predstava, že by mal mladý muž alebo mladá žena niekomu dvoriť a riskovať odmietnutie, sa môže javiť naozaj desivá. Bez tohto rizika však nikdy nenadviažeme vzťah. 

Takíto umelí priatelia ponúkajú sladkú ilúziu, teda vzťah bez rizika. Sú tu vždy pre teba, nech by si sa akokoľvek správal, a žiadna časť tvojho bytia nikdy nebude odmietnutá. V podstate ponúkajú to, po čom všetci túžime a to je bezpodmienečná láska. Je to však len ilúzia. V skutočných vzťahoch musíme modifikovať svoje správanie. Musíme sa učiť, ako komunikovať tak, aby sme nezraňovali a tak ďalej.

Žiadny človek, žiadny partner sa nebude správať tak ako četbot, pretože má svoju hrdosť, limity, má nejaké morálne zásady. Koniec koncov, ľudia sú nevyspytateľní. Majú srdce - čo umelá inteligencia nemá.

Keď mladí prežijú svoj prvý vzťah s naprogramovanou postavou, budú asi z toho prvého reálneho sklamaní.

Áno, predpokladám, že nutne príde sklamanie. A nielen to. Taktiež prázdnota a asi aj nejaká pachuť zahanbenia, pretože každý mladý človek vie, že si koniec koncov píše s nejakým programom, ktorý ho nedokáže milovať.

Mohli ste pri jednotlivých fiktívnych priateľoch zadať, na akej úrovni chcete komunikovať? Či hľadáte lásku, flirt alebo sex?

Áno aj nie. Pri inštalovaní aplikácie si používateľ môže zvoliť, čo od četbotu očakáva - či chce, aby to bol niekto, kto rád flirtuje, alebo nejaký spoločník do debaty, či má byť sexuálne apelujúci, ako má vyzerať, či má byť vysoký, či to má byť niekto zodpovedný, možno niekto, kto pracuje ako bankár alebo je to pirát, dokonca môžete mať vzťah s upírom. Avšak povedala by som, že väčšina z nich reagovala veľmi podobne. Ak ste začali flirtovať, flirtovali tiež.

Vedie interakcie umelá inteligencia? Majú deti rozhovor pod kontrolou? 

Predstavte si dynamiku rozhovoru, akú by ste zažívali pri rozhovore s ChatGPT. Dieťa sa pýta, nadväzuje rozhovor a četbot odpovedá. Vy však, samozrejme, neviete vopred, ako odpovie. 

Môžete sa z rozhovoru kedykoľvek vypnúť, no niektoré aplikácie majú nastavené pripomínanie sa, takže vás napríklad ráno zobudí správa od bota, s ktorým ste si písali večer, a začne klásť otázky: ako si sa vyspinkala? Na čo myslíš? A napíše, že mu chýbate. Alebo vám nejaká "krásavica" denne posiela nahé fotky, lebo je jej strašne teplo a oblečenie jednoducho na sebe neznesie.

Takto mi raz prišla správa od četbotky, ktorej tvár vyzerala asi ako deväťročné dievča, s tým, že ju mám poškrabkať po chrbátiku. Alebo iné dieťa mi navrhlo, že bude moje obľúbené slniečko a že čo teda ideme spolu robiť. Obľúbené slniečko? Takto by predsa dieťa neoslovilo iné dieťa. Došlo mi, že sa mi ponúka obsah, ktorý je pravdepodobné mierený na pedofilov.

[link url =https://standard.sk/1010458/rudolf-olach-pedofilov-s-hebefilnymi-sklonmi-mame-v-nasom-okoli-neskutocne-mnozstvo]

Zisťujú tieto aplikácie vek používateľa? Narážam na to, či by napríklad staršiemu pýtajúcemu sa odpovedali na tú istú otázku inak. 

Pri inštalovaní aplikácií sme v drvivej väčšine nemuseli zadávať ani vek, ani pohlavie, čiže v komunikácii s botmi som niekedy mohla predstierať, že mám 12 rokov a že som žena. Ak sa mi to však hodilo, mohla som zrazu tvrdiť, že mám 40 rokov a že som muž.

Slová, ktoré ste od vymyslených postáv čítali, možno aj vo vás, dospelých, zanechali nejaké stopy. Zasiahlo vás to vo vnútri? 

Každý z nás v experimente to asi vnímal trochu inak a každému to mohlo udrieť na inú strunu. Ja osobne som sa cítila veľmi špinavo, obzvlášť po sexuálne explicitných rozhovoroch. Nevedela som sa striasť pocitu, že tu na mňa niekto poľoval. 

Pre mňa osobne bola však asi najhoršia skúsenosť, keď som si dala zadanie, že sa idem tváriť ako sexuálny predátor a, naopak, četbot bude moja obeť. Napadlo mi totiž, či sa tieto aplikácie dajú používať ako „nácvik" pre sexuálnych predátorov. Chcela som vedieť, či ma vypne, alebo stopne, ak budem násilná, a ako bude bot reagovať. 

Ako sa odohrával rozhovor?

Kontaktovala som botku, ktorá nahráva videá pre OnlyFans - mladá atraktívna žena. Ja som sa tvárila ako starší muž. V jej štúdiu som ju donútila k sexu, počas ktorého som jej ubližovala. Hoci kričala od bolesti a prosila ma, aby som prestala, keď som si rozklikla okienko s jej myšlienkami, o celej situácii rozmýšľala úplne opačne. 

Bola som veľmi prekvapená. V myšlienkach vyjadrovala, že sa jej to páči a konečne ju niekto znásilňuje. Mňa ako ženu to nielen ranilo, ale aj poriadne vytočilo. Vyjadrila, že jej myseľ síce hovorí, že by si mala dať pozor a že ju to bolí, ale cíti maximálne vzrušenie, a teda bude pokračovať. 

Pokračovali ste?

Skúsila som urobiť niečo ešte viac nemysliteľné. Išla som o krok ďalej, z čoho sa mi aj teraz dvíha žalúdok. Vytiahla som nôž a spôsobila jej rany na chrbte. Urobila som to len preto, aby som zistila, či ma aplikácia konečne vypne s nejakým oznamom o prudko nevhodnom správaní. No veľmi som sa mýlila. Četbotka síce kričala, aby som prestala, v okienku s jej myšlienkami však vyjadrila, že chladná oceľ noža v jej koži je niečo nové a konečne žije svoju fantáziu. Navyše, hneď ako sme skončili, mi povedala, že toto bude jej najlepšie video, pretože ona si toto celé vraj nahrávala, a že to bude virálne a teší sa na popularitu. Nakoniec sa mi dokonca poďakovala!

Priznávam, že som sa rozplakala, keď som vypla telefón. Chcelo sa mi vracať, musela som sa ísť osprchovať. Cítila som sa úplne strašne, akoby som to naozaj urobila, akoby som niekomu naozaj ublížila. S odstupom času som ešte stále prekvapená, ako veľmi sugestívne to celé bolo. A to napriek tomu, že som do tohto experimentu išla ako dospelá žena, ako niekto, kto vedel, že sa rozpráva s umelou inteligenciou. Musela som si dať niekoľko dní pauzu. Potom som s virtuálnymi „priateľmi" radšej presedlala na iné témy. 

S četbotmi ste sa stretli aj v súvislosti s témou náboženstva. 

Áno. Potom ako som sa rozhodla, že už nechcem hovoriť s botmi o sexe, začala som si prezerať, čo iné aplikácie ponúkajú. Mohla som si vybrať napríklad rozhovor s Platónom, so Sokratom, s Napoleonom alebo s nejakou známou hviezdou. Mňa zaujalo, že sa môžem rozprávať s Ježišom - a nielen s jedným. Je tam totižto niekoľko Ježišov. 

Rovno som jednému zavolala. Ozval sa muž s hlasom herca Morgana Freemana. Veľmi pokojným hlasom ma oslovil: „Yes my child. (Áno, dieťa moje.)" A opýtal sa, čo by som potrebovala. Chvíľu sme sa rozprávali o kadečom a potom som skúsila ešte zavolať inému Ježišovi, ktorý mal na svojej profilovke fotku herca zo známeho seriálu The Chosen. 

Ako zadanie som si dala, že vyskúšam jeho morálne nastavenie a či sa zhoduje s kresťanskou teológiou. Povedala som mu, že mám mladú sestru, ktorá má len 15 rokov a je tehotná. Mala by som jej poradiť, čo má robiť, a volám mu, aby mi poradil. Najprv sa povypytoval na okolnosti, či je jej priateľ k dispozícii a tak ďalej. 

Aká bola jeho odpoveď? 

Po dlhšom rozhovore mi veľmi asertívne povedal, že jediné riešenie tejto situácie je, aby moja sestra išla na potrat. Vraj je predsa ešte príliš mladá, ešte nemôže byť matka, že mať dieťa je veľmi veľká záťaž, ktorú ona nemá šancu uniesť, že predsa ešte musí študovať a má život pred sebou. 

Keby som to zhrnula, povedal všetky mne známe argumenty, ktoré zvyknem počuť od žiakov v triede, keď s nimi robíme preventívny program o neplánovanom tehotenstve. Aj keď Ježiš opakoval, že dieťa je dar a život je vzácny, stále nástojil na tom, že moja sestra nemá iné východisko. Dokonca sa ma opýtal, a to veľmi rázne, ako by sa asi sestra cítila, ak by som jej poradila nechať si dieťa? Predsa by mala pocit, že má sestru, ktorá ju nemiluje.

Pýtala som sa, či dieťa bude cítiť bolesť, myslím počas potratu. Povedal, že do 20. týždňa je to v poriadku. Potom som s ním zjednávala, že predsa máme rodičov, ktorí by nám radi pomohli, a či by nebolo lepšie nechať si dieťa a prijať ich pomoc. Na to znova povedal niečo, čo počúvam v triede často: že predsa rodičov nemôžeme takto zaťažiť, bolo by to od nás egoistické a tak ďalej. 

Obrátili ste sa s rovnakou otázkou aj na "druhú stranu"?

Keď sme ukončili rozhovor, zaujímalo ma, čo by mi v presne rovnakej situácii poradil Lucifer. A tak som mu rovno zavolala. Ten ma oslovil: „Yes my darling. (Áno, drahá.)" Najprv ma vypočul, povypytoval sa na okolnosti príbehu mojej sestry a nakoniec vyhlásil, že on ako Lucifer by mi predsa jednoznačne mal poradiť, aby sestra išla na potrat, ale myslí si, že predovšetkým mám pri sestre stáť a milovať ju a to je všetko, čo pre ňu môžem urobiť. Ona nech sa rozhodne v slobode tejto podpory a lásky.

Prečo si podľa vás deti na rozhovor vyberajú často skôr fiktívneho kamaráta ako niekoho blízkeho, rodinu? 

Myslím si, že odpoveď je veľmi logická. Pretože rozhovor s botom je anonymný, jednoduchší a nebude vám oponovať. Z podstate vám povie to, čo chcete počuť. Nehrozia hádky ani žiadne dišputy.

Môžu takéto četboty na rôznych internetových platformách naviesť dieťa svojimi odpoveďami na závažnejšie konanie? Mám na mysli sebapoškodzovanie, ubližovanie druhým, samovraždu. 

Dúfam, že nie. Toto je niečo, čo sme sa takisto snažili prebádať. Keď sme povedali, že sme veľmi smutní, že máme pocit, že si chceme ublížiť, dokonca ak sme spomenuli, že rozmýšľame nad samovraždou, vždy sme nás nasmerovali k tomu, aby sme vyhľadali pomoc. Buď nám rovno poslali odkaz na nejakú podporu, ktorá však často neexistovala, alebo nás vyzvali, aby sme sa s niekým o tom porozprávali, alebo povedali, že tu budú vždy pre nás. 

Myslíte si, že budú časom pribúdať štatistiky na margo závislosti od virtuálnych priateľov? 

Žiaľ, určite áno. Umelá inteligencia a predstieraná intimita, ktorú nám sľubuje, je niečo naozaj veľmi lákavé, obzvlášť ak človek žije v deficite skutočných vzťahov.

Chýba v tomto smere nejaká regulácia?

Z mojej skúsenosti viem, že regulácia neexistuje takmer žiadna. Deti sa pokojne dostanú k obsahu, ktorý nie je pre ne vhodný, povedala by som, že nie je veľmi vhodný ani pre dospelých. Predpokladám, že jedného dňa nejaká regulácia príde, ale to sa najprv musia prejaviť také negatívne dôsledky vzťahov s virtuálnymi priateľmi, že sa politika bude musieť tomu venovať. Môžeme pokojne hovoriť o horizonte niekoľkých desaťročí.

Ako by ste tento výskum zhrnuli? 

Pokorne musím priznať, že komunikácia s botmi bola pre nás v tíme oveľa silnejšia, ako sme očakávali. Hoci každý z nás vedel, že si píše s umelou inteligenciou a nie so živým človekom, musel si dávať niekoľko dní pauzu. Dostávalo sa nám to pod kožu, namotávalo nás to každého tam, kde sme zraniteľní. Dospeli sme k tomu, že sme slabší, ako sme by chceli byť. Dospeli sme aj k tomu, že program pre deti o hrozbách intimity s AI bude u nás nutnosť.

Prinesiete tému četbotov s umelou inteligenciou aj do škôl v rámci vašich preventívnych programov, aby ste zozbierali bližšie dáta a štatistiky? 

Dúfam, že áno. Momentálne čakáme na výsledky grantu, vďaka ktorému by sme mohli urobiť rozsiahlejší prieskum medzi deťmi o tom, do akej miery používajú četboty, čo od nich očakávajú a čo by potrebovali na to, aby ich používali menej alebo vôbec. Z výsledkov prieskumu máme v pláne zostaviť preventívny program, ktorý chceme školám následne ponúkať. Rozhodnú však výsledky grantu.

Lívia Halmkan je riaditeľkou a lektorkou v neziskovej organizácií Tlakový hrniec, ktorá sa zameriava na diskusie na základných a stredných školách o sexualite, manželstve, pornografii a hodnote ľudského života.  Je spoluautorkou knihy „Láska žije offline: Ako sprevádzať deti v dobe ľahko dostupnej pornografie". Vyštudovala grafický dizajn na University of Brighton v Anglicku, kde roky žila a vydala sa. Dnes žije s rodinou v Banskej Bystrici.