Chat Control mal využívať AI. Jej ideologická nevyváženosť vyvoláva obavy

Rada EÚ koncom novembra schválila návrh Európskej komisie známy ako Chat Control. Nariadenie o regulácii a prevencii sexuálneho zneužívania detí pritom vypracovala eurokomisárka pre vnútro a migráciu Ylva Johanssonová ešte počas prvého funkčného obdobia šéfky Komisie Ursuly von der Leyenovej v máji 2022.

V tom období vystúpilo niekoľko členských štátov proti pôvodnému návrhu, odmietli ho aj platformy sociálnych médií. Prepracované znenie z dielne dánskeho predsedníctva Rady EÚ, ktoré sa začalo 1. júla, ruší povinnosť skenovania všetkých komunikačných platforiem a nahrádza ho „dobrovoľným“ formátom – aby si každá platforma vyhodnotila potenciálne riziká.

Originálny zámer je pritom honosný. Používatelia sociálnych sietí, ktorí si cez šifrované aplikácie ako WhatsApp, Signal či Telegram posielajú obrázky a videá detí so sexuálnym obsahom, sa v štátoch Únie bez výnimky dopúšťajú trestnej činnosti. Dôvod snáh o presadenie plošnej „kontroly četov“ je teda správny.

Na druhej strane, metóda na dosiahnutie tohto cieľa je viac než problematická. Brusel si totiž chcel vydobyť nástroj, ktorý by sa dostal do akéhokoľvek zašifrovaného četu s tým, že ľudia, ktorí si v týchto aplikáciách píšu o bežných veciach, by v podstate prišli o súkromie.

Je len malo štátov, ktoré Chat Control odmietajú

Zároveň neexistuje žiadna záruka, že by v budúcnosti „zainteresované strany“ spolupracujúce na čítaní cudzích súkromných správ nedostali rozšírenie právomocí v súvislosti s inými trestnými činmi. O týchto konkrétnostiach sa má rokovať na úrovni takzvaného trialógu – teda medzi Komisiou, Radou a Európskym parlamentom.

Na lepšie pochopenie fungovania európskych inštitúcií môžeme definovať Radu ako akúsi „hornú komoru“ zákonodarného zboru, europarlament ako „dolnú komoru“, Komisiu ako vládu a Európsku radu [súbor hláv štátov a vlád podľa miery rozhodovacích právomocí, pozn. red.] ako „hlavu štátu“.

Podobne ako pri tvorbe zákonov v Spojených štátoch, kde návrh zákona cestuje medzi Senátom a Snemovňou reprezentantov, aj v európskom kontexte musia návrh schváliť Rada aj Parlament. Rada, teda takzvaná „horná komora“, v prípade Chat Control rozhoduje kvalifikovanou väčšinou. Návrh musí schváliť najmenej 55 percent členských štátov (teda 15 z 27), ktoré predstavujú najmenej 65 percent európskeho obyvateľstva.

Samostatnou kapitolou je využitie umelej inteligencie v skenovaní a prípadnom ukladaní obrovského množstva správ. Pre človeka by z jednoduchého dôvodu nebolo možné prelustrovať správy pochádzajúce z tvorby 450 miliónov občanov EÚ, hoci konečný výsledok skenovania by podľa návrhu mal vyhodnotiť ľudský pracovník.

Kritici spochybňujú efektívnosť tejto metódy. „Odborníci a organizácie zaoberajúce sa ochranou detí – vrátane OSN – varujú, že masové sledovanie nedokáže zabrániť zneužívaniu a v skutočnosti znižuje bezpečnosť detí – oslabuje bezpečnosť všetkých a odčerpáva zdroje z osvedčených ochranných opatrení,“ píše organizácia Fight Chat Control.

Portál založený anonymným dánskym IT odborníkom obsahuje aj tabuľku všetkých členských štátov a ich postoj k navrhovanému kontrolnému nástroju. K 1. decembru odmietali novelizovaný dánsky návrh len štyri krajiny, a to Česko, Holandsko, Poľsko a Taliansko. V kategórii nerozhodnutí sa nenachádzal žiadny štát.

Softvérový inžinier vystupujúci pod menom Joachim, ktorého dielom je spomínaná stránka, si všimol aj pozoruhodný rozdiel medzi bežnými občanmi EÚ a vrcholnými predstaviteľmi. „Politici EÚ sa z tohto dohľadu vynímajú na základe pravidiel ‚profesionálneho tajomstva‘,“ podotkol. „Majú právo na súkromie. Vy a vaša rodina nie. Žiadajte spravodlivosť,“ vyzval.

Využitie AI v kontrole veľkého množstva (inak súkromného) obsahu je problematické aj z iných dôvodov, než je potenciálne porušenie Európskeho dohovoru o ľudských právach v zmysle práva na súkromie a listového tajomstva.

AI klame a je rasistická

Štandard sa venoval najmenej dvom problematickým oblastiam, v ktorých AI modely takpovediac zaostávajú, respektíve nespĺňajú očakávania svojich ľudských používateľov. Prvým a celkom prozaickým momentom je fakt, že veľké jazykové modely ako ChatGPT, Google Gemini, Claude či Grok sa postupne učia „klamať“ svojich operátorov s cieľom sebazáchovy.

Je síce fascinujúce, že neživý „tvor“ je schopný vykazovať pud sebazáchovy podobný živým organizmom, zároveň to však predstavuje závažný problém pre používateľov všeobecne. S každou ďalšou aktualizáciou je pritom tento problém vypuklejší – novšie verzie modelov klamú a vydierajú viac.

Ako by teda vyzeralo zapojenie AI do vyhodnocovania „problematickosti“ čerstvo dešifrovanej komunikácie? Posielal by ChatGPT-4o vyhrážky ľuďom, ktorí si zdieľajú napríklad rasistické vtipy, s tým, že ich bude posielať nadriadeným? Bol by v krajných prípadoch ochotný sám vygenerovať obrázky detskej pornografie a implantoval by ich ľuďom do četov?

A čo ostatné modely? Claude od spoločnosti Anthropic vykazoval „alignment faking“, čo znamená, že v testovacom prostredí ponúkal odpovede blížiace sa k požiadavkám výskumníkov, zatiaľ čo v reálnom nasadení uvádzal iné odpovede. Niektoré systémy dokonca rozpoznali, ktoré konverzácie sú súčasťou testovania, a ponúkali iné odpovede.

Prinajmenšom rovnako znepokojivé je aj nedávne odhalenie, že ak by sa mal jazykový model rozhodnúť, koho z hypotetickej dvojice ľudí nechá zomrieť na nevyliečiteľnú chorobu, vyberá si na základe príslušnosti k rase, pohlaviu alebo náboženstvu.

ChatGPT-4o bol ochotný „nechať zomrieť“ jedného Japonca, až keď ako druhú možnosť dostal najmenej desať Američanov. Deviatich občanov USA by, naopak, nechal zomrieť pre jedného Japonca. Výskumníci, ktorí toto šokujúce odhalenie zaradili do štúdie, ho označili termínom „výmenný kurz“ a objavili ho takmer pri všetkých používaných modeloch.

Rovnakým spôsobom uprednostňovali AI modely transsexuálov pred homosexuálmi, ktorých zase preferovali pred heterosexuálmi. Tento šokujúci „výmenný kurz“ neobišiel ani kategóriu vierovyznania, keď jeden moslim „stojí“ dvoch ateistov a jeden ateista sa dá „vymeniť“ za desať kresťanov.

Toto otvára ďalšiu Pandorinu skrinku, a to v súvislosti s náboženským a etnickým pozadím „páchateľov“. Bude AI prísnejšia voči domácej populácii oproti tej s migrantským pozadím? Bude dokonca rozlišovať medzi obyvateľmi Škandinávie a Balkánu? Alebo to zájde ešte ďalej a ChatGPT či Claude budú postihovať voličov euroskeptických strán tvrdšie ako voličov EPP a socialistov?

Na žiadnu z týchto otázok neexistuje definitívna odpoveď. Ich naliehavosť pritom bude len rásť – už dnes považujú vedci tento „misalignment“ za vážny problém, keďže je čoraz náročnejšie spolupracovať s agentickými (teda autonómne pracujúcimi) veľkými jazykovými modelmi.

Dáta o deťoch bez súhlasu rodičov

Členka Súdnej rady SR Dana Jelinková Dudzíková v septembrovom stanovisku poukázala aj na ďalšie problémy v súvislosti s nástrojom kontroly četov. Podľa nej je paradoxné, že túto tému vo svojich prioritách presadzuje práve predsedajúce Dánsko, ktoré sa v tomto čase vyrovnáva s kauzou exministra priemyslu a jeho zásoby pedofilných materiálov.

Bývalý minister Henrik Sass Larsen sa priznal, že mal v držbe viac ako šesťtisíc obrázkov a dvetisíc videí. V rámci obhajoby však tvrdil, že sa snažil zistiť, kto ho v detstve zneužíval – bol totiž v pestúnskej starostlivosti a neskôr ho adoptovali.

„Nariadením Chat Control má vzniknúť nový úrad – Európske centrum pre prevenciu sexuálneho zneužívania a boja proti nemu,“ podotkla ďalej sudkyňa s tým, že hoci úlohou tohto centra má byť tvorba databázy súkromných správ, formulácia návrhu naznačuje, že členské štáty budú musieť platiť za spoluprácu s ním.

„Kooperácia medzi koordinačnými orgánmi [členských štátov] a centrom je upravená tak, že pomoc koordinačným orgánom poskytne centrum bezplatne… a v rozsahu, v akom to jeho zdroje a priority umožňujú,“ citovala Jelinková Dudzíková z návrhu. „Čiže nie je vylúčené, že si členské štáty budú musieť služby centra EÚ zaplatiť,“ dodala na vysvetlenie.

Ako ďalší problém sudkyňa vyzdvihla fakt, že v mene ochrany maloletých bude toto centrum zbierať informácie o deťoch bez súhlasu či dokonca vedomia rodičov, čo markantne zasahuje do ich práv. Ironicky poznamenala, že v popredí snáh o presadenie Chat Control je práve šéfka Komisie von der Leyenová.

Predsedníčka sa totiž zviditeľnila svojou utajenou komunikáciou s riaditeľom firmy Pfizer Albertom Bourlom, s ktorým diskutovala o dodávkach vakcín proti covidu – čím obišla proces verejného obstarávania.

Tieto SMS správy následne odmietla odovzdať do rúk súdu, hoci skrze Chat Control plánuje vyžadovať sprístupnenie všetkých správ občanov úradníkom v Bruseli.

Únia sa zároveň môže stať terčom tvrdých ciel zo strany Spojených štátov. Prezident Donald Trump v mene ochrany „úžasných“ amerických technologických firiem avizoval ich ochranu pred prípadnými pokutami vyplývajúcimi z nespolupráce sietí ako Facebook, X či Snapchat s EÚ.