Aj dobrovoľný Chat Control je problém

Rada EÚ v minulosti pripravovala návrh nariadenia pod pracovným názvom Chat Control, ktorým chcela stanoviť pravidlá na predchádzanie sexuálnemu zneužívaniu detí a boj proti nemu. S týmto zámerom chcela EÚ kontrolovať obsah všetkých správ ešte pred ich odoslaním a vyhodnocovať, či sú tieto správy „v poriadku“.

Pre občanov Únie by neexistovalo žiadne súkromie pri výmene elektronických správ (ani tých šifrovaných), keďže podľa nariadenia mali poskytovatelia takýchto služieb kontrolovať každú správu ešte pred jej odoslaním a vyhodnocovať, či nie je problematická z hľadiska sexuálneho zneužívania detí a šírenia obsahu tohto druhu (CSAM).

Plošnej kontrole by podliehali všetci okrem vybraných skupín, ako napríklad zamestnanci Únie.

Vďaka mimoriadnym obavám zo straty súkromia a z neprípustných zásahov do základných práv občanov pripravovaná legislatíva neprešla vo forme povinnej kontroly, no črtá sa schválenie jej zjemnenej podoby.

Dohoda štátov na jemnejšom návrhu

Rada EÚ dospela k stanovisku k pripravovanej legislatíve s tým, že plošné monitorovanie bude „dobrovoľné“ namiesto povinného, a to zo strany technologických spoločností. K dohode o danom kompromise dospeli štáty po tom, ako dánske predsedníctvo Rady presvedčilo pôvodne odmietavé Nemecko, a kvalifikovanou väčšinou hlasov bolo prijaté zjemňujúce nariadenie.

Návrh bol predmetom zasadnutia takzvaného Coreperu (Výbor stálych predstaviteľov vlád členských štátov pri Európskej únii) a hlasovali proti nemu Česko, Poľsko, Slovensko a Holandsko, pričom Taliansko sa zdržalo hlasovania.

Legislatívny návrh následne postúpi do ďalšej fázy, a to do rokovaní medzi Radou Európskej únie, Európskou komisiou a Európskym parlamentom. Podoba výsledného a právne záväzného nariadenia sa preto môže významne meniť.

Európsky parlament už v minulosti odmietol návrhy na plošné sledovanie v rámci tohto návrhu a ďalšie rokovania sa začnú v januári 2026.

Rada tak prijatým návrhom ruší povinné príkazy na detekciu nevhodného obsahu a namiesto toho sa rozhodla presunúť váhu zodpovednosti na technologické platformy tým, že tie prijmú zmierňujúce opatrenia voči šíreniu zakázaného obsahu.

Platformy budú samy rozhodovať o plošnom sledovaní

Podľa nových pravidiel budú poskytovatelia online služieb povinní posúdiť mieru rizika, že ich služby by mohli byť zneužité na šírenie materiálu zobrazujúceho sexuálne zneužívanie detí.

Na základe tohto posúdenia budú musieť firmy zaviesť zmierňujúce opatrenia na boj proti tomuto riziku. Medzi takéto opatrenia by mohlo patriť sprístupnenie nástrojov, ktoré používateľom umožnia nahlásiť sexuálne zneužívanie detí online, kontrolovať, aký obsah o nich sa zdieľa s ostatnými, a zaviesť predvolené nastavenia ochrany osobných údajov pre deti.

Okrem toho stále platí, že príslušné vnútroštátne orgány budú mať právomoc zaviazať spoločnosti k odstráneniu a blokovaniu prístupu k obsahu alebo – v prípade vyhľadávačov – k odstráneniu výsledkov vyhľadávania. Nariadenie zároveň zriaďuje novú agentúru Únie v podobe Centra EÚ na predchádzanie sexuálnemu zneužívaniu detí a boj proti nemu, ktorá bude slúžiť na podporu členských štátov a online poskytovateľov pri implementácii zákona.

Medzi kľúčové a kritizované zmierňujúce opatrenia bude patriť práve „dobrovoľné“ sledovanie všetkých správ zo strany spoločností, ktoré tým budú najvýraznejšie znižovať riziko vystavovania sa pokutám alebo iným sankčným mechanizmom zo strany Únie.

Tento stav v praxi znamená, že zodpovednosť za sledovanie preniesla Rada zo svojich pliec na plecia technologických spoločností pod hrozbou vysokých pokút.

Súhlas so sledovaním poskytne používateľ

V súčasnosti mnohí odborníci prezentovali svoje obavy, že spoločnosti sa rozhodnú „dobrovoľné sledovanie“ zakomponovať do svojich služieb fixne, pričom tak najjednoduchšie odstránia svoju mieru zodpovednosti za nevhodný obsah.

Uvedený stav by dosiahli jednoduchým pridaním súhlasu zo strany používateľa do zmluvných podmienok pri používaní ich produktu, pričom by osoba tradične bez prečítania obsahu zmluvných podmienok „dobrovoľne súhlasila so sledovaním všetkých správ“, inak by nemohla službu využívať.

Z pohľadu naplnenia pravidiel zo strany technologických spoločností by išlo o najjednoduchšie dodržanie navrhovaných pravidiel, no to, samozrejme, nevylučuje ani zavedenie ich vlastného interného systému rozlišovania rizík, a teda aj „zapínanie či vypínanie plošného sledovania“.

Aj „dobrovoľné“ plošné sledovanie je však z pohľadu práva EÚ problematické. Každý občan Únie má podľa Charty EÚ právo na rešpektovanie súkromného a rodinného života, domova a komunikácie a právo na ochranu osobných údajov (ktorých spravovanie musí podliehať zákonnosti, účelovému naviazaniu, primeranosti a nezávislému dohľadu).

Judikatúra Únie zakazuje neoprávnené plošné sledovanie

Judikatúra Súdneho dvora EÚ vo veci plošného sledovania občanov jednoznačne zakazuje takéto praktiky.

Rozhodnutie veľkej komory Súdneho dvora EÚ vo veci Digital Rights Ireland (C-293/12 a C-594/12) konštatovalo neplatnosť smernice. Tá si vyžadovala od poskytovateľov verejne dostupných elektronických komunikačných služieb (telefónni operátori, poskytovatelia internetu), aby plošne uchovávali údaje o komunikácii (takzvané prevádzkové a lokalizačné údaje, metadáta) všetkých svojich zákazníkov počas minimálne šiestich a maximálne 24 mesiacov z dôvodu boja proti závažnej kriminalite.

Súd uznal, že smernica stanovila príliš široký a vážny zásah do súkromia a práva na ochranu osobných údajov. Ukladala totiž plošnú povinnosť zhromažďovania údajov z celej populácie bez ohľadu na to, či existovalo podozrenie z trestnej činnosti, a neobsahovala dostatočné záruky na ochranu údajov pred zneužitím.

Túto prax veľká komora SD EÚ potvrdila aj vo svojom rozhodnutí v spojených veciach C-511/18, C-512/18 a C-520/18 (známych ako La Quadrature du Net). Súd aj v tomto prípade konštatoval zákaz plošného a neselektívneho uchovávania údajov.

Z pohľadu práva pritom nie je podstatné, či takéto masové sledovanie a zber údajov sú povinnosťou na základe zákona alebo „dobrovoľnou“ možnosťou spoločnosti pri predchádzaní pokute. Podstatné je, či je takýto zásah nevyhnutný, primeraný a pod účinným dohľadom, aby neboli neprimerane obmedzované práva občanov.

Príliš veľa citlivých údajov na sledovanie

Spoločnosti by mohli formálne argumentovať, že používateľ predsa dobrovoľne súhlasí s podmienkami služby, ktoré zahŕňajú skenovanie, takže je všetko v poriadku. V zmysle nariadenia GDPR však takýto súhlas musí byť slobodný, konkrétny, informovaný a jednoznačný a nesmie byť jednoducho skrytý za možnosť „súhlasím“, inak nemožno službu používať.

Ak ide o veľké platformy (WhatsApp, Messenger a podobne), ktoré sú v praxi nevyhnutné na sociálnu a pracovnú komunikáciu, možnosť „nesúhlasím“ je čisto teoretická. Táto povinnosť sa pritom bude týkať všetkých veľkých platforiem, a preto používateľ reálne nemá možnosť používať moderné komunikačné kanály bez toho, aby prijal masové monitorovanie.

Sledovanie súkromných správ vrátane intímnych fotografií, zdravotných údajov, politických názorov a podobne vytvára nielen riziko spracovania osobitných kategórií osobných údajov bez potrebného súhlasu či odôvodnenia, ale predstavuje absolútne neprípustný zásah do súkromia jednotlivca. Právo na súkromie v zásade prestane existovať, čo je rovnako nezlučiteľné s európskymi hodnotami.

Umelá inteligencia bude robiť chyby

Samotné technologické prevedenie plošného sledovania má fungovať na báze umelej inteligencie (AI). Je totiž prirodzené, že taký masívny obsah dát nie je možné efektívne spracovávať zo strany skutočných ľudí.

To však otvára ďalší vážny problém, a to chybovosť AI. Riziko označenia nevinných osôb za podozrivé zo závažných sexuálnych zločinov (a ich následné nahlasovanie štátnym orgánom) bude mimoriadne vysoké. Technickí odborníci varujú pred prípadmi takzvanej falošnej pozitivity, keď by bol napríklad označený nevinný obrázok z rodinnej dovolenky ako nelegálny.

Poskytovatelia môžu mať motiváciu skenovať „agresívnejšie“, aby ukázali, že sú „zodpovední“ a „proaktívni“, čím sa zvyšuje riziko falošných pozitív a následných zásahov do života nevinných ľudí (hlásenia polícii, blokovanie účtov, stigmatizácia).

Citlivé dáta a konverzácie, ktoré budú obsahovať napríklad lekárske skutočnosti alebo iný medicínsky obsah, budú rovnako kontrolované neznámymi osobami v novej agentúre, čo je z právneho hľadiska neprípustné.

Možných scenárov zneužívania systému, neopodstatnených zásahov do práv osôb, ako aj zjavne protiprávnych krokov vyplývajúcich z nariadenia je nespočetne mnoho. Oblasť politických práv alebo zamestnania, v ktorých je tajomstvo komunikácie kľúčové – ako napríklad pri novinároch –, ale aj iné citlivé úrady členských štátov budú vystavené sledovaniu zo strany európskych úradníkov.

Všetky tieto oblasti predstavujú nekonečné možnosti toho, ako môže sledovaním komunikácie nastať jednoznačné porušovanie práv osôb.

Súkromná spoločnosť bude rozhodovať o právach občanov

V súčasnosti totiž nie je jasné, kto a ako bude rozhodovať o tom, či je alebo nie je potrebné plošné sledovanie. Poburujúce je, že o tom budú rozhodovať súkromné osoby v spoločnostiach, a nie štátne orgány.

Nie sú zrejmé ani detaily spolupráce medzi novou európskou agentúrou a súkromnými technologickými spoločnosťami, kvalifikácia týchto ľudí a podobne. Nie je známe ani to, ako budú zamestnanci agentúry spolupracovať so štátnymi orgánmi krajín, v ktorých sa trestná činnosť udeje, a aké budú mať na to kompetencie.

Rovnako je sporné, ako sa vôbec budú môcť ľudia brániť proti zneužívaniu svojich vlastných súkromných informácií zo strany privátnych spoločností, ktorých primárnym cieľom je vytvárať zisk.

Budú sa následne domáhať svojich práv na vnútroštátnom súde alebo na európskych súdoch? A kto vlastne bude zodpovedný? Spoločnosť, ktorá dodržiava nariadenie, alebo Únia, ktorá nariadenie vydala?

Boj proti sexuálnemu zneužívaniu detí je mimoriadna priorita v každej spoločnosti, no predmetný návrh aj vo svojej „dobrovoľnosti“ v zásade veľa nemení oproti pôvodnému povinnému sledovaniu všetkých občanov (okrem vybraných skupín, ako sú zamestnanci EÚ).

Návrh nijako nepredstavil víziu, ako vlastne chce zneužívaniu efektívne zabrániť (predstava o stíhaní miliónov zločinov tohto typu ročne naprieč EÚ, často aj medzištátne, je číra ilúzia), no neznámych okolností je príliš mnoho na to, aby sa pod všeobecne prijateľnú tézu (ochrana detí) podradila absolútne neprijateľná právna úprava.

Teoretická dobrovoľnosť zo strany technologických spoločností znamená možnosť, že plošné sledovanie bude zavedené. A pokiaľ takéto opatrenie nie je prípustné na strane štátnych orgánov alebo inštitúcií EÚ, je absolútne vylúčené, aby sa presunulo do rúk súkromných spoločností.