Cieľom bolo vzbudiť vo väzňoch neustály pocit, že sú sledovaní, a podporiť tak ich sebakontrolu, čím sa eliminovala potreba skutočného dohľadu. Vďaka inteligentným technológiám dohľadu teraz vstupujeme do veku digitálneho panoptika, v ktorom občania nie sú fyzicky obmedzovaní, ale neustále pozorovaní. Pozorovateľmi v tomto prípade nie sú tak celkom väzenskí strážcovia, ale algoritmy, a ich pohľad presahuje fyzické úkony do oblasti reči a myslenia.

Súčasný stav techniky

Technológia dohľadu je rastúci trh, ktorého hodnota v roku 2020 dosiahla 125 miliárd dolárov a predpokladá sa, že do roku 2030 dosiahne 280 miliárd dolárov, čo odráža nielen technologický pokrok, ale aj jej rastúce prijatie a rozšírenie. Vďaka umelej inteligencii, analytike veľkých dát a všadeprítomnosti kamier vo verejnom i súkromnom priestore majú dnešné vlády už teraz možnosti, o akých sa totalitným režimom 20. storočia ani nesnívalo.

Vďaka smartfónu, ktorý má každý vo vrecku, sa ľahko vytvárajú pohybové profily bez strát. Algoritmy na rozpoznávanie reči a textu prechádzajú komunikáciu v reálnom čase, zatiaľ čo analýza veľkých dát predpovedá správanie jednotlivcov a skupín. Globálna integrácia umožňuje bezproblémové sledovanie a monitorovanie. Budúci pokrok možno očakávať od internetu vecí – myšlienky „snímačov v každej veci“, ktorá umožňuje zber údajov na každom štvorcovom metri zemského povrchu. Výpočtové technológie novej generácie, ako napríklad kvantové počítače, by mohli prelomiť akékoľvek dnešné šifrovanie.

Umenie štátneho dohľadu

Vlády sa už dlho snažia podnietiť občanov k želaným výsledkom, spomeňme si na daň z cigariet alebo dotovanie rodičovstva. Digitálny dohľad a sociálne skóre umožňujú oveľa priamejšiu kontrolu: nielen povzbudzovanie k dodržiavaniu pravidiel, ale aj ich vynucovanie.

Predstavte si svet, v ktorom sa každodenné správanie občanov – komunikácia, spotreba médií, nákupy, priateľstvá – započítava do skóre, ktoré rozhoduje o prístupe k obchodom, zamestnaniu, cestovaniu alebo sociálnym službám. To sa už prejavilo v Číne, kde „jednotlivci alebo spoločnosti so zlým spoločenským skóre budú potrestaní tým, že informácie o nich budú verejne vystavené, bude im zakázaná účasť na verejných súťažiach, konzumácia luxusného tovaru a opustenie krajiny“.

Kľúčovou aplikáciou súčasnej digitálnej kontroly je kontrola reči a myslenia ľudí. Vlády sa už roky snažia regulovať to, čo nazývajú dezinformáciami a nenávistnými prejavmi. V Európskej únii ukladá Zákon o digitálnych službách spoločnostiam pôsobiacim v oblasti sociálnych médií povinnosť monitorovať ich používateľov a cenzurovať obsah, ktorý sa považuje za nevhodný. To im dáva značnú moc nad prejavmi občanov a verejným diskurzom, pričom cenzúra nie je transparentná a chýba jej náležitý proces. O tom, aký obsah je vhodný a aký nie, však v konečnom dôsledku rozhodujú vlády.

Je pravda, že na internete je veľa škodlivého a kriminálneho obsahu. Riziko prekročenia právomocí pri definovaní a kontrole prejavu je však značné. Definície nenávistných prejavov alebo toxicity zostávajú hmlisté, presnejšie povedané flexibilné, a formujú sa na základe kultúrnych, politických a ideologických hľadísk. Je to koncept, ktorý sa príliš ľahko využíva proti politickej opozícii.

Keď úrady definujú prijateľné prejavy, potláčanie odlišných názorov sa stáva takmer nevyhnutným, pričom algoritmy cenzúry účinne presadzujú ideologickú konformitu. Ak sa umožní rozkvet len naratívom, ktoré schválil algoritmus, verejný diskurz sa homogenizuje a stratí svoju životne dôležitú funkciu pre demokraciu. 

Nachádzame sa na šikmej ploche: ak začneme stíhať prejav, čoskoro budeme stíhať „myšlienkové zločiny“. V Spojenom kráľovstve sme už boli svedkami zatýkania ľudí za tichú modlitbu pred potratovou klinikou. Je znepokojujúce, že sa z policajného dohľadu nad slovami prešlo na policajný dohľad nad myšlienkami.

Predikcia veľkých dát

Analýza veľkých dát ohrozuje demokraciu ešte z jednej strany: ak algoritmy presne predpovedajú verejnú mienku, prečo vôbec organizovať voľby? Vlády môžu tvrdiť, že už „vedia“, čo občania chcú, a tak môžu úplne obísť volebné urny. Takýto prechod od zastupiteľského k prediktívnemu riadeniu by ohrozil samotnú myšlienku suverenity a politickej autonómie občanov. To by bola budúcnosť, v ktorej by hlasovanie nahradili dekréty založené na údajoch.

Rozpoznávanie vzorcov v správaní a komunikácii by mohlo podporiť prediktívnu policajnú činnosť, pri ktorej algoritmy označujú potenciálnych páchateľov trestných činov ešte pred ich spáchaním. Túto myšlienku rozpracoval Philipp K. Dick vo svojom diele Minority Report (1956) a Steven Spielberg v rovnomennom filme z roku 2002.

Mohli by takéto systémy zabrániť zločinu a zvýšiť tak bezpečnosť nášho života? Pravdepodobne áno, do istej miery, ale bezpečnosť by bola na úkor slobody a prezumpcia neviny je dôležitým míľnikom vo vývoji modernej demokracie.  

Pohľad väzňov

Všadeprítomný dohľad nielenže narúša slobodu a slobodu prejavu, ale má aj svoju psychologickú daň. Neustále pozorovanie by mohlo ľahko vyvolať úzkosť, paranoju a stratu autenticity, ako ukázali štúdie.

Výskum sledovania na pracovisku napríklad spája neustále monitorovanie so zvýšeným stresom a zníženou kreativitou. Ľudia, ktorí sa obávajú postihov za svoje prejavy, sa začnú autocenzurovať. Keďže vedia, že ich reči, správanie a presvedčenie by mohli oslabiť ich spoločenské postavenie alebo mať právne dôsledky, majú tendenciu sa prispôsobiť.

Otvorená, demokratická spoločnosť by sa časom mohla zmeniť na systém opatrnosti, poslušnosti a podriadenosti. Dôvera klesá, pretože ľudia sú opatrní pri delení sa o svoje názory. V takomto scenári sú ľudia väzňami nie múrov, ale vlastnej mysle.  

Zhrnutie

V digitálnom panoptiku sú inovácie, individualita a autentické sebavyjadrenie – všetko dôležité pre demokraciu – potlačené. Automatizovaný dohľad, cenzúra a sociálne skóre ohrozujú základné práva, ako je sloboda prejavu a sloboda pohybu. Myšlienka súkromia je jedným z najväčších výdobytkov modernej doby a pre demokraciu je rovnako nevyhnutná ako život, sloboda a majetok.

Hoci sa paranoja neodporúča, občania by sa mali mať na pozore pred digitálnym panoptikom, ktoré okolo nich vzniká. Vlády musia zabezpečiť jasné právne hranice. Základné práva musia byť chránené pred plánmi sociálneho bodovania. V tomto ohľade sú najnovšie vyhlásenia Trumpovej administratívy o slobode prejavu povzbudivé.