Mikloško: Deti čelia šíreniu intímnych fotiek, no Chat Control nie je bez rizík

Slovenský komisár pre deti Mikloško sa vyjadril k nariadeniu nazvanému Chat Control. Ide o návrh Európskej únie, ktorý má za úlohu zabezpečiť reguláciu a kontrolu šíreného materiálu zobrazujúceho sexuálne zneužívanie detí (CSAM) umelou inteligenciou na sociálnych sieťach, v komunikačných aplikáciách a v súkromných online konverzáciách. 

Maloletí sú dnes podľa Jozefa Mikloška na internete ohrození rizikami, aké tu pred pätnástimi rokmi neexistovali. „Ako komisár pre deti vidím každý týždeň prípady sexuálneho vydierania, groomingu, šírenia intímnych fotiek detí či kyberšikany so sexuálnym podtónom,“ vraví Mikloško.

Ochrana detí pred sexuálnymi predátormi je podľa neho absolútna priorita. „Ale žiadna ochrana nesmie ísť na úkor základných ľudských práv celej spoločnosti ani nesmie vytvárať falošný pocit bezpečia, keď v skutočnosti bezpečnosť oslabuje,“ vraví.

Pôvodný legislatívny návrh Európskej únie, ktorý by odhaľoval materiál sexuálneho zneužívania detí na internete, neprešiel v prvotnej podobe, ktorá obsahovala skenovanie všetkých súkromných správ občanov na rôznych komunikačných platformách.

Členské štáty Rady Európskej únie (Rada EÚ) koncom novembra schválili kompromisný návrh regulácie Chat Control. Slovensko v Rade EÚ hlasovalo proti tomuto návrhu z princípu ochrany súkromia a pre riziko vzniku precedensu masového monitorovania komunikácie.

Schválený návrh o ochrane detí pred zneužívaním sexuálnymi predátormi na internete hovorí o dobrovoľnom skenovaní správ, a nie o povinnom plošnom všetkých používateľov. Návrh však musí ešte posúdiť Európsky parlament.

Umelá inteligencia (AI) nám zasahuje do života čoraz častejšie. Mladí ľudia ju začínajú brať ako prirodzenú súčasť svojich životov. Aké máte poznatky o neplnoletých v súvislosti s umelou inteligenciou?

Deti sú dnes v online priestore vystavené rizikám, aké pred pár rokmi neexistovali. Sociálne siete majú veľmi zlý vplyv na duševné zdravie detí, ale psychológovia sa stretávajú s tým, ako nám potvrdili napríklad odborníci z IPčka, že deti označujú AI za svojho „najlepšieho kamaráta“. 

Každý, kto už niekedy použil nejakú umelú inteligenciu typu ChatGPT, Grok a podobne, si všimol, že ten robot s ním vo všetkom súhlasí, že potvrdzuje jeho odpovede, nič nespochybňuje a to sa deťom páči.

Lenže reálny svet je aj o nesúhlase, o zvládaní krízových a konfliktných situácií, o stretávaní sa s inými názormi. To, že si maloletí vytvárajú vzťah s počítačom, je skutočne desivé.

Najnovšie sa hovorí o zákaze a istej regulácii sociálnych sietí pre deti a mladistvých. Naozaj sme na tom až tak zle?

Áno, sme. Deti sú od sociálnych sietí závislé. Sociálne siete majú adiktívny obsah [vyvolávajúci závislosť, pozn. red.] a, samozrejme, obsah, ktorý im prezentuje dokonalý život, doslova nereálny, klamlivý, a to, čo sa tvári ako organický obsah, je len nová forma reklamy. 

Celé to húfne podporujú influenceri, ktorí sú za reklamy platení. Ešte si pripomeňme aj rôzne „cool výzvy“, ktoré sa neplnoletí snažia zdolať, a máme hotovú online pohromu. Poruchy príjmu potravy, poškodenia zdravia, úrazy, ale, žiaľ, aj kyberšikana, pokusy o samovraždu, sebapoškodzovanie, nelátkové závislosti… 

Máte v rámci svojich prieskumov aj konkrétne príklady?

Keď sme minulý rok chodili po školách na rôzne stretnutia spojené s prednáškami, často práve v rámci Akadémie prevencie proti šikane, kde sme sa priamo s deťmi rozprávali aj o fenoméne kyberšikany, požiadali sme deti, nech zdvihnú ruku tie, ktoré niekedy na internete na akejkoľvek platforme oslovila cudzia dospelá osoba. 

Zdvihnutých rúk je zakaždým približne 80, čo je desivé číslo. Často vidím prípady kyberšikany, vydierania, šírenia fotiek detí či groomingu [snaha dospelých o nadviazanie kontaktu s maloletým s cieľom sexuálneho zneužívania, pozn. red.]. 

Pri neplnoletých upozorňujete aj na návykové látky.

Sú tu aj finančné a majetkové podvody, nehovoriac o tom, že sme nedávno v rámci vlastného vyšetrovania zistili, ako jednoducho sa mladiství vedia dostať k nikotínovým produktom práve cez sociálne siete, napríklad cez Marketplace na Facebooku alebo cez najväčší slovenský online bazár. Súkromné osoby tam úplne neregulovane predávajú vape („vejpy“) alebo nikotínové vrecúška. 

Od detí máme aj informácie o priamom oslovovaní cez správy na Instagrame s ponukou nikotínových produktov.

Ochrana detí v online priestore je teda namieste.

Ochrana detí pred sexuálnymi predátormi a akýmkoľvek – aj ekonomickým – zneužívaním je absolútna priorita. Deti ešte nedokážu zhodnotiť riziká online sveta a nedokážu myslieť do dôsledkov. To je úloha nás, dospelých, a predovšetkým ide o rodičovskú kompetenciu. 

Ale na rovinu, v koľkých prípadoch sú to práve rodičia, kto dá dieťaťu do rúk prvý smartfón a dovolí mu registrovať sa na sociálnych sieťach ešte pred dosiahnutím 13 rokov s ospravedlnením „veď sú tam aj tak všetci jeho kamaráti“? 

Európska únia prišla s návrhom Chat Control, aby umelá inteligencia kontrolovala súkromné konverzácie s cieľom ochrániť maloletých pred sexuálnym zneužívaním. Čo si o tom myslíte?

Každý dobrý nápad tohto typu má aj svoje riziká a tie je potrebné dôsledne zvážiť a hovoriť o nich s odborníkmi. Na trhu máme niekoľko druhov viac či menej populárnych umelých inteligencií a logicky každá niekomu patrí, každú vytvoril nejaký IT gigant. 

Otázka znie: je dobré, aby súkromná spoločnosť mala prístup ku kompletným konverzáciám? Po tom, ako EÚ uviedla do praxe GDPR, urobíme to, že niekto bude čítať kompletne všetky konverzácie? Dokáže niekto v dnešnej dobe zaručiť, že nenastane únik informácií? 

Preto je potrebné sa na toto napohľad geniálne riešenie pozrieť viacstrannou optikou. 

Máte nejaké príklady neplnoletých, ktorí sa stretli s určitým typom sexuálneho zneužívania? Mám na mysli sexuálnych predátorov, pedofilov.

Len čo sa k nám dostane takýto podnet, ktorý napĺňa podstatu trestného činu, oznamujeme to orgánom činným v trestnom konaní. 

Mám viacerých odborných poradcov a kolegov, ktorí sa stretávajú s čímkoľvek, predovšetkým musím potvrdiť, že je to v offline svete. Nedávno sme napríklad na tlačovej konferencii v Prešove v rámci terénneho monitoringu žobrajúcich detí predstavili zistenia kolegov, ktorí odhalili nielen organizované žobranie, ale aj sexuálne zneužívanie a prostitúciu maloletých. 

A žiaľ, zákazníci, ako nám uviedli samotné deti, sú z bielej majority a ide o solventných ľudí. Dali sme to do rúk polície.

Návrh Chat Control vítajú hlavne detské organizácie, ktoré sú za väčšiu ochranu detí na internete. Pomohlo by to napríklad aj polícii vypátrať videá, fotky v rámci kyberšikany, ktoré si medzi sebou zdieľajú detskí rovesníci. Ako to vníma váš úrad? 

Predovšetkým je potrebné povedať, že ochrana detí na internete sa začína už rodičovskou kompetenciou. Ak by to fungovalo, nemali by sme dnes na sociálnych sieťach deti mladšie ako 13 rokov. 

Registrácia sa dá jednoducho obísť.

Problém je, že hoci sú sociálne siete už dnes nastavené tak, aby sa na nich mohli registrovať ľudia starší ako 13 rokov, reálne ide len o jednostranné vyhlásenie, ktoré sa dá preskočiť, a na sociálnych sieťach sú výrazne mladšie deti. 

Sú tak vystavené obsahu, ktorý pre ne nie je vhodný, respektíve je až priam škodlivý pre ich duševné zdravie.

Aké máte poznatky o maloletých na sociálnych sieťach?

Realita? Keď sme robili prieskum názorov detí medzi 13-ročnými, tak 72 percent z nich považuje za dôležité mať prístup na internet a až 40 percent z nich prejavuje veľkú nespokojnosť s počtom followerov. Ja som predovšetkým za obmedzenie prístupu detí na sociálne siete.

Cieľom kontroly súkromných komunikácií je, aby umelá inteligencia hľadala materiál zobrazujúci sexuálne zneužívanie detí. Hovorí sa však o tom, že algoritmy môžu nesprávne označiť nevinný obsah. Umelá inteligencia teda môže označiť za sexuálne zneužívanie aj fotky, ktoré si medzi sebou posielajú dospelé páry, s mierne „sexuálnym nábojom“. Zdieľajú si takýto „nevinný obsah“ aj deti?

Z rozhovorov s odborníkmi, učiteľmi, ale aj deťmi vieme, že si takýto obsah posielajú. A že rodičia by boli veľmi prekvapení. 

Čo sa týka schopnosti AI odhaliť škodlivý obsah, opäť sa pýtam, či vieme garantovať bezchybnosť, keď už dnes vieme, aké fatálne chyby robí aj pri bežných faktických otázkach. 

Ďalšia otázka je, prečo chceme rozširovať kompetencie AI, a nie naopak, obmedzovať jej používanie a schopnosti. Čo napríklad deepfake videá, ktoré o vás môžu vytvoriť fejkový kompromitujúci materiál? A niekto vás môže vydierať niečím, čo vytvorila práve umelá inteligencia.

Ozývajú sa aj kritické hlasy, že je to istým spôsobom zásah do súkromia, keďže ide o akési sledovanie. Aký máte k tomuto postoj? Nie je to v istom zmysle protiústavné?

K protiústavnosti sa musia vyjadriť kompetentní. Je potrebné, aby sa k tomuto viedla širšia odborná diskusia.

Existuje podľa vás nejaká iná cesta, ktorá by zabránila zneužívaniu detí v online priestore bez toho, že by sa musela kontrolovať súkromná komunikácia? 

Obmedziť deťom prístup na sociálne siete, obmedziť obsah, ktorý sa zobrazuje deťom, a posilňovať vzťah rodičov k deťom v zmysle budovania väčšej dôvery, rozprávania sa o rizikách a prevencie. Tá sa začína už doma v silnom vzťahu rodičia – deti.