Monitorovanie v ére algoritmov

Európa je už dnes pokrytá rozsiahlymi sieťami bezpečnostných kamier, rojmi dronov či biometrickými skenermi. Všetky tieto údaje prúdia do nástrojov prediktívneho policajného dohľadu, ktoré sú založené na báze umelej inteligencie.

Londýn môže slúžiť ako ukážka európskej snahy o ešte rozsiahlejšie monitorovanie obyvateľstva. Nedávne odhady hovoria o viac než 942-tisíc bezpečnostných kamerách po celom meste, čo je približne jedna kamera na desať obyvateľov. Vo všeobecnosti sa v Spojenom kráľovstve nachádza štyri až päť miliónov bezpečnostných kamier, čo predstavuje približne jednu kameru na 11 až 14 ľudí.

Medzitým sa softvér na rozpoznávanie tvárí, ktorý kedysi mylne identifikoval turistov na letiskách, stal desivo presný v identifikovaní lídrov protestov uprostred davu.

Monitorovacie systémy sú dnes také lacné a tak hlboko integrované do každodenného života, že hrozí, že ich prestaneme vnímať. Lenže v čase nepokojov by však hrali dôležitejšiu rolu. Štátne orgány by mohli sledovať nielen pohyb osôb, ale aj ich úmysly. Zhromažďovali by metadáta do takej miery, že by vedeli zabrániť organizácii tajných zhromaždení. WhatsApp skupiny či konverzácie cez aplikáciu Signal, ktoré pôsobia ako šifrované a bezpečné, by sa mohli stať (ak už nie sú) cieľom hekerských útokov s podporou štátu.

Je to veľký paradox. Európske spoločenstvá, ktoré kedysi hrdinsky vyzdvihovali svoju liberálnu otvorenosť, sú teraz hlboko zakorenené v niektorých z najinvazívnejších digitálnych infraštruktúr vôbec. Argumentom v prospech takéhoto modelu je, samozrejme, vždy „bezpečnosť“. No každý, kto čítal Orwella, vie, že táto cesta je obzvlášť zradná.

Militarizácia polície

Monitorovanie obyvateľstva je len slabý odvar oproti železnej pästi, ktorou je militarizácia polície. Radley Balko vo svojej knihe Rise of the Warrior Cop (Vzostup policajta bojovníka) ukázal, ako sa z americkej polície stali ťažko ozbrojené domáce vojská, pripravené zaobchádzať s občanmi skôr ako s nepriateľmi než so spoluobčanmi.

Európa si svoju budúcnosť predstavovala inak. Ako kontinent, ktorý má vlastnú skúsenosť s diktatúrou, sa však začína uberať nepríjemne povedomým smerom.

Francúzske nepokoje v roku 2023 ponúkajú názorný príklad. Po policajnej streľbe na tínedžera v Nanterre nasadila vláda viac ako 45-tisíc policajtov, mnohí boli vystrojení v armádnej výzbroji. Nad hlavami krúžili drony, obrnené vozidlá sa preháňali predmestiami Paríža. Podľa niektorých bola demonštrácia sily nevyhnutná. Pre iných išlo o znepokojujúcu ozvenu Balkovho varovania: dajte polícii vojnové nástroje a ona si nakoniec vojnu nájde, hoci aj vo vlastných uliciach. 

Pokiaľ by sa občiansky konflikt vrátil do Európy, veľmi by pripomínal Balkovu nočnú moru: trvalé, nízkointenzívne obliehanie a štát vyzbrojený ako okupačná armáda, ktorý nečelí nepriateľom, ale vlastným občanom.

Balkov postreh o spôsobe myslenia sa tu stáva kľúčovým. Militarizované sily, ktoré sú vycvičené na boj, skôr či neskôr začnú vnímať nesúhlas ako vzburu. V kombinácii s monitorovaním občanov hrozí, že samotný protest bude už vopred kriminalizovaný.

Pouličné rozbroje by sa okamžite vysielali naživo a pomocou umelej inteligencie by sa šírila propaganda ako na bežiacom páse. Systém na rozpoznanie tváre by zoskenoval každého človeka v dave a prediktívne algoritmy by zachytili každý pokrik.

Občianska vojna by sa v takomto svete odohrávala aj online. Víťazstvo by záviselo skôr od internetového naratívu ako od obsadeného územia. Ktorá strana má najsledovanejšie video? Kto má najčastejšie používaný hešteg? A kto vytvoril kontroverznejší deepfake? Toto by boli veci, na ktorých by v modernej vojne záležalo. Bol by to hybrid Orwellovej dystópie a Balkových bojovných policajtov.

Ponaučenie?

Orwell, ktorý vo vojne utrpel strelnú ranu do krku, varoval, ako propaganda dokáže skresliť realitu na nepoznanie. Balko o desaťročia neskôr opísal, ako slobodná spoločnosť dokáže premeniť svojich ochrancov na bojovníkov, ktorí berú občanov ako nepriateľov.

Spoločne nám pripomínajú, že najväčšie nebezpečenstvo nespočíva len v boji dvoch strán, ale v postupnom rozklade občianskej dôvery, ktorá je základom politiky samej osebe.

Je lákavé odignorovať hrozbu občianskej vojny v Európe a označiť ju za zastrašovanie. Európska únia napriek všetkým sporom drží kontinent v relatívnom mieri už sedem desaťročí. No realita má zvláštnu schopnosť preraziť aj tie najpevnejšie ilúzie.

Stojí pred nami tvrdá realita. Polarizácia spoločnosti neustále rastie. Populistické hnutia, ktoré často vyjadrujú skutočné obavy občanov, podkopávajú legitimitu vlád. Sociálne siete roznecujú pobúrenie a potláčajú nuansy.

Medzitým technológie, ktoré sľubujú bezpečie, vytvárajú základ pre autoritársku kontrolu. Kontinent, ktorý sa pýši toleranciou a demokraciou, by sa v nesprávnych rukách mohol stať dejiskom Orwellovho proroctva a Balkovho varovania.

Európa síce nie je na pokraji ďalšieho Španielska, ale nástroje sú k dispozícii. Kamery, drony, prediktívne algoritmy a militarizované policajné sily by zabezpečili, že akýkoľvek prípadný konflikt by bol monitorovaný, katalogizovaný a potlačený s presnosťou, akú si Orwell sotva dokázal predstaviť a ktorú by nezachránil ani Hemingwayov zmysel pre romantiku. 

Zhrnutie

Ak v Európe vypukne ďalšia občianska vojna, nebude pripomínať slávnu španielsku občiansku vojnu. Bude sa odohrávať pod neúnavným dohľadom kamier, dronov a prediktívnych algoritmov, pričom aj ten najmenší protest bude označený za vzburu. Európsky kontinent je dnes zaplavený nástrojmi, ktoré predvídal George Orwell: jeho televízne obrazovky nahradili naše siete bezpečnostných kamier. Polícia je zatiaľ militarizovaná tak, akoby mala okupovať vlastné mestá. Skutočnou hrozbou je však rozklad občianskej dôvery, ktorý robí politiku nemožnou a nepokoje nevyhnutnými. Európa už nečelí ďalšiemu roku 1936 - je pripravená na niečo celkom iné.