Kauza kontroly četov: účel nesvätí prostriedky, chrániť netreba len deti, ale aj súkromie

Keď Európska komisia v máji 2022 predstavila návrh nariadenia na predchádzanie sexuálneho zneužívania detí (CSAR), ktorý sa stal neskôr známy ako Chat Control, pôsobilo to na prvý pohľad ušľachtilo. Predložila ho komisárka pre vnútorné záležitosti Ylva Johanssonová a cieľ znel jasne a rozumne: zastaviť sexuálne zneužívanie detí v online priestore.

Ide o problematiku, pri ktorej sa nedá oponovať, že ju treba riešiť. Ako to však býva, stroskotáva to na spôsobe naplnenia cieľa.

Komisia navrhuje, aby internetové platformy ako WhatsApp či Messenger boli povinné kontrolovať komunikáciu svojich používateľov a hlásiť ju v prípade podozrenia zo zneužívania detí. To sa týka najmä šírenia nevhodných fotiek a videí či pokusov o takzvaný grooming, teda nadväzovanie kontaktu s maloletými s cieľom ich zneužitia.

Keďže niektoré aplikácie komunikáciu klientov šifrujú, návrh ráta s tým, že sa každá správa skontroluje ešte pred zašifrovaním a odoslaním.

Bezprecedentný zásah do súkromia

Zásadným problémom však je, že Európska komisia šľachetným cieľom posvätila praktiky, za ktoré by sa nehanbili ani súdruhovia v Číne, ktorí tak radi monitorujú svojich občanov.

Masové skenovanie komunikácie otvára dvere k zneužitiu citlivých údajov. Nielen hekermi, pre ktorých by boli databázy s kvantom citlivých informácií ako jedna veľká vábnička, ale aj pracovníkmi či inštitúciami, ku ktorým by sa dáta dostali.

Kontrolóri dosadení do funkcie Bruselom by totiž dáta mohli posúvať aj mimovládkam či iným tretím „zainteresovaným“ stranám, ak by to bolo v záujme výskumu a predchádzania sexuálneho zneužívania v online priestore.

Citujme presne: „Centrum EÚ by malo prispievať k dosiahnutiu cieľov tohto nariadenia aj tým, že bude slúžiť ako centrum vedomostí, odborných znalostí a výskumu o záležitostiach súvisiacich s predchádzaním sexuálneho zneužívania detí online a bojom proti nemu. V tejto súvislosti by malo spolupracovať s príslušnými zainteresovanými stranami z Únie aj tretích krajín a umožniť členským štátom využívať zhromaždené vedomosti a odborné znalosti...“

Samozrejmosťou je aj dodatok, že na plnenie úloh tejto kontrolnej inštitúcie „je nevyhnutné spracúvanie a uchovávanie určitých osobných údajov“. To by sa síce malo podľa návrhu robiť len v „nevyhnutnej miere“, no vrátka sú už pootvorené a veľmi ľahko sa dajú rozkopnúť dokorán.

Tu sa však zoznam problémov iba začína.

Ak raz Únia vytvorí mechanizmus, ktorým dokáže kontrolovať komunikáciu občanov, bude rásť tlak na to, aby bol využitý aj pri iných trestných činoch. A bude ťažké argumentovať, prečo by nemali byť nahlásené a preverené aj správy, kde sa spomínajú bomby, vraždy, terorizmus a tak ďalej...

A keďže ide o obrovský objem dát, ktoré bude nutné prelustrovať, ráta sa s tým, že primárnym kontrolórom bude umelá inteligencia. Tá však nezriedka chybuje a na to, aby dokázala spoľahlivo a systematicky odlišovať humor či zdieľanie detských fotografií medzi rodinnými príslušníkmi od komunikácie ozajstných predátorov, ešte nedorástla.

Hoci na konci procesu by mal stáť ľudský pracovník, veľká časť verejnosti sa už teraz obáva toho, že im za zle sformulovanú správu príde na dvere zaklopať polícia.

Ak by to tak aj nebolo a systém fungoval stopercentne spoľahlivo, nehorázne drzý je už len samotný fakt, že niekto (alebo niečo) poza chrbát ľudí číta ich súkromnú korešpondenciu a robí z nich podozrivých. Bez toho, aby o tom vedeli.

Masová kontrola četov by jednoducho znamenala koniec súkromia Európanov žijúcich v Únii. Napriek tomu, že zaň s päsťou vo vzduchu bojujeme inými nariadeniami, ako je GDPR.

Kompromisné verzie

Vášne však v týchto dňoch vzplanuli zrejme až príliš rýchlo. Hoci mnohí verejne známi komentátori a influenceri bijú pri Chat Control na poplach, faktom je, že od finálnej podoby zákona, ktorý by mohol nadobudnúť platnosť, sme ešte vzdialení. Na tej sa totiž musí zhodnúť Komisia s Európskym parlamentom aj s členskými štátmi.

Mnoho európskych poslancov si problémové časti návrhu Komisie uvedomuje. Svedčí o tom fakt, že europarlament ho v pôvodnej podobe nepodporil.

Naopak, na konci roka 2023 prijal výbor pre občianske slobody (LIBE) stanovisko, v ktorom viaceré časti odmietol. Skenovať by sa podľa neho nemalo plošne, ale len cielene. Platformy by museli lustrovať a poskytovať informácie iba o komunikáciách podozrivých používateľov, a to na základe súdneho príkazu. Zároveň explicitne vylučuje zásah do koncového šifrovania.

Paniku v týchto dňoch spôsobilo najmä obnovenie diskusie o skenovaní digitálnej komunikácie na pôde Rady EÚ, teda medzi členskými štátmi Únie. Stojí za ním najmä Dánsko, ktoré od júla sedí na predsedníckej stoličke a legislatívu tvrdošijne presadzuje.

Malo sa o nej hlasovať už 14. októbra, no pomer síl sa deň čo deň mení. Krajiny mali do 12. septembra vyjadriť svoje postoje, no zatiaľ sa nepozbierala kvalifikovaná väčšina na schválenie zákona a termíny sa posúvajú. Momentálne podľa verejných vyjadrení vládnych predstaviteľov podporuje návrh 14 krajín, zatiaľ čo deväť je proti nemu a štyri váhajú. Nerozhodné Nemecko sa pritom prikláňa skôr k blokujúcej menšine, keďže odmieta prelomenie šifrovania a ďalšie sporné pasáže.

Hovorí sa však o tom, že Rada sa snaží o dosiahnutie kompromisu. Reportér kazašskej tlačovej agentúry Qazinform popísal, že dánska verzia upraveného návrhu by sa mala v obrysoch podobať tej z europarlamentu.

Skenovanie by sa malo vzťahovať len na vizuálny obsah (fotografie, videá), nie na textové či zvukové správy a hovory. Povinnosť skenovať a poskytovať údaje o súkromnej komunikácii by sa tiež týkala len online služieb označených za „vysokorizikové“. Každý detekčný príkaz by musel schváliť súd alebo nezávislý orgán, pričom dáta by mali byť pred ľudskou kontrolou pseudonymizované.

Prečo je to aj tak problém?

Podrobnosti, ktoré priniesla kazašská agentúra Qazinform, nie sú potvrdené z iných zdrojov. Naznačujú však, že medzi členskými štátmi naozaj prebieha diskusia o nejakej verzii nariadenia, ktorá by zmiernila najspornejšie prvky pôvodného návrhu. Po neúspešnom 12. septembri niečo také komunikovalo aj dánske predsedníctvo.

Hoci je pravdepodobné, že prvotné dielo Európskej komisie neprejde ani v parlamente, ani medzi členskými štátmi, aj pri upravených podobách treba vztýčiť varovný prst.

Ak raz platformy zabudujú nástroje na kontrolu komunikácie, hoci ich budú využívať iba cielene, vytvoria mechanizmus, ktorý sa dá technicky kedykoľvek rozšíriť na všetkých občanov. V momente, keď existuje, sa čaká už len na to, či na jeho použitie vznikne politická alebo ideologická objednávka.

Úpravy zároveň neriešia problém vzniku databáz s citlivými údajmi, kde hrozia cielené útoky, ale aj interné úniky a posun informácií rôznym tretím stranám. Hoci by v nich nebola všetka súkromná korešpondencia, dát, ktoré môžu kompromitovať aj nevinných ľudí, tam bude mnoho.

Ak totiž bude časť procesu zverená umelej inteligencii, falošných pozitívnych výsledkov, ktoré budú v databázach s ostatnými podozrivými, nebude málo. A tí ľudia o tom ani nemusia vedieť.

Riziká všetkých návrhov, ktoré sú momentálne na stole, sú jednoducho stále priveľké.