Tarrant, vyzbrojený šiestimi strelnými zbraňami, počas zhruba štvrťhodiny zavraždil päťdesiat ľudí v mešite al-Núr a islamskom stredisku v neďalekom Linwoode. Ďalších štyridsať osôb si z jeho vyčíňania odnieslo strelné poranenia, ale aspoň prežili. Celý tento čin mohol zvyšok planéty sledovať na živom facebookovom streame, ktorý skončil až krátko po chytení páchateľa.
Až dovtedy sa na krvavé videá špecializovali hlavne útvary typu Islamský štát a jeho napodobitelia, u ktorých sa s tým tak trochu počítalo. Recepty na mediálnu pozornosť však majú tendenciu šíriť sa aj napriek ideologickým a kultúrnym hraniciam, takže fakt, že k podobnému kroku siahol aj protiislamsky motivovaný jednotlivec, nie je v skutočnosti taký paradoxný. „Attention economy“, na ktorej svet sociálnych sietí stojí a padá, je tá istá v Londýne aj v Kábule.
Pôvodné facebookové video Tarrantovho útoku videlo len štyritisíc ľudí, jeho kópie sa však rozšírili všade možne, a aj keď je jeho obyčajné držanie v mnohých krajinách trestným činom (asi podobne ako držanie detskej pornografie), rovnako si ho každý skúsenejší surfer internetových vôd dokáže za pár minút nájsť a pomocou VPN stiahnuť bez toho, aby na seba upútal pozornosť štátnych orgánov. Na kompletnú elimináciu takýchto záberov z internetu nemá žiadny štát dostatok schopností a „veľký firewall“, ktorý by bol potrebný na blokovanie príslušnej prevádzky, by musel byť minimálne na úrovni toho čínskeho – čo je zase v kolízii s občianskymi právami obyvateľov liberálnejších štátov. Najväčšie sociálne siete však zaviedli špeciálne čierne listiny, pomocou ktorých bránia pokusom svojich užívateľov Tarrantovo video opäť nahrávať na ich servery. Facebook sám tvrdí, že takých pokusov zmaril 1,5 milióna; či je to pravda a ako presne k tomuto číslu došli, to sa od tradične uzavretej a tajnostkárskej spoločnosti Meta len tak nedozvieme. Ale o tom, že „snaha bola“, sa nedá pochybovať. Snaha je totiž vždy a zakázaný obsah priťahuje zvýšenú pozornosť ľudí, ktorých by inak ani nezaujímal.
Hranice porozumenia
Hoci sú sociálne siete dostupné prevažnej väčšine obyvateľov planéty, neznamená to, že by príslušné reštriktívne mechanizmy fungovali všade rovnako. Masaker v Christchurchi Facebook „diagnostikoval“ a videá relatívne rýchlo vymazal. Významným prvkom v onej rýchlosti bola však skutočnosť, že čin sa odohral v anglicky hovoriacej krajine a v západnom kultúrnom okruhu. Medzi Brentonom Tarrantom a zamestnancami Facebooku v Kalifornii nestála žiadna jazyková ani civilizačná bariéra, tí druhí teda mohli veľmi rýchlo pochopiť, čo sa vlastne deje a prečo. S rastúcou kultúrnou a jazykovou vzdialenosťou od Kalifornie však toto porozumenie rýchlo klesá.
Na pomyselnom opačnom póle je zrejme Mjanmarsko, značne uzavretá a Západu nezrozumiteľná krajina, na ktorej britské koloniálne panstvo nezanechalo ani zďaleka také hlboké stopy ako na susednej Indii. Dokonca ani zmena názvu krajiny (do roku 1989 Barma) ešte nestihla úplne presiaknuť do všeobecného povedomia v iných častiach sveta, Európu a Ameriku nevynímajúc. Ale aj v Mjanmarsku sa, samozrejme, dávno rozšírili sociálne siete vrátane Facebooku. A práve Facebook čelí v Spojených štátoch a v Spojenom kráľovstve žalobe zo strany mjanmarských občanov – utečencov z moslimského kmeňa Rohingov. Podľa žaloby Facebook nielenže v Mjanmarsku už od roku 2012 toleroval príspevky vyzývajúce na vyhladzovanie Rohingov, ale dokonca ich umožňoval propagovať pomocou platenej inzercie. Americkú žalobu v decembri 2022 zamietla kalifornská sudkyňa Yvonne Gonzalezová Rogersová, ale žalobcovia od nej zároveň dostali možnosť žalobu doplniť a následne podať znovu. Prípad teda ešte nie je na konci. Rohingovia požadovali pri prvej žalobe odškodnenie vo výške 150 miliárd dolárov a zdôvodňovali ich tým, že nečinnosť Facebooku spôsobila v ich domovine najmenej desaťtisíc vrážd.
Len deň po tom, čo sudkyňa Rogersová dočasne zamietla žalobu Rohingov, sa spoločnosť Meta stala terčom ďalšej žaloby v Nairobi, hlavnom meste afrického štátu Keňa. Tentoraz je jedným z dvoch žalujúcich syn etiópskeho profesora chémie Meareg Amare Abrhy. Toho v októbri 2021 zavraždili po kampani na sociálnych sieťach ako údajného príslušníka kmeňa Tigrajcov; medzi Tigrajcami a etiópskou vládou prebiehala v tom čase dvojročná vojna, ktorá si vyžiadala niekoľko stotisíc obetí a destabilizovala životy viac ako desiatich miliónov ľudí. Aj v Nairobi Facebook obviňujú, že neurobil nič podstatné proti šíreniu genocídnej propagandy medzi svojimi etiópskymi užívateľmi. Black Lives Matter, ale len mimo Afriky samotnej?
Špecifickým problémom z hľadiska moderovania obsahu je aj súčasná rusko-ukrajinská vojna, ktorej vizuálna dokumentácia sa na sociálne siete valí zo všetkých strán. Vojna medzi dvoma priemyselne vyspelými štátmi je zrejme tou vôbec najnásilnejšou aktivitou, akej je ľudstvo technicky schopné, a záplava videí a snímok z línií dotyku to bohato dokazuje. Stačí stráviť desať minút na redditových fórach, ako je Combat Footage, aby ste videli do konca života dosť roztrhaných a zoškvarených ľudských tiel. Väčšina sociálnych sietí vojnové videá nemaže a maximálne k nim pridáva varovanie alebo vyžaduje, aby používatelia pred ich vzhliadnutím potvrdili, že sú dospelí. Otázka, či to náhodou neporušuje osobnostné práva obetí, ktorých posledné okamihy videli státisíce ľudí, zostáva akosi stranou.
Nový hráč menom TikTok
Prevažnú väčšinu sociálnych sietí prevádzkujú americké firmy, ktoré síce svojimi rozmermi dávno prerástli hranicu, pod ktorou sa korporácie musia obzerať na záujmy menších štátov, ale z pohľadu západných krajín sú predsa len „nejako“ dosiahnuteľné a ovplyvniteľné. Jedným z najmladších konkurentov na tejto scéne je však TikTok, sieť vlastnená čínskou firmou ByteDance. V jeho prípade nemajú západné štáty – okrem hrozby tvrdého zákazu, o ktorom sa teraz v niekoľkých krajinách jedná – k dispozícii príliš veľa prostriedkov, ako od neho niečo účinne požadovať. Pri súčasnej geopolitickej situácii je dosť nepravdepodobné, že by sa to v dohľadnej dobe zmenilo.
Prevažná väčšina videí na TikToku je neškodná a väčšiu obavu vzbudzuje skôr snaha samotnej aplikácie vysávať z užívateľských telefónov osobné dáta. U niektorých z nich však kvôli kontextu aj tak zamrazí. Pred mesiacom došlo v nemeckom Freudenbergu k vražde dvanásťročnej školáčky Luisy. Dve jej spolužiačky, ktoré deň po jej smrti zavesili na TikTok veselé tanečné video, sa neskôr priznali k tomu, že ju ubodali. Účty oboch páchateliek na TikToku aj Instagrame nemecké úrady preventívne zablokovali, jednak s ohľadom na obeť, ktorá sa objavila v jednom skoršom videu, jednak asi aj z obavy, aby sa na nich nevynorilo niečo horšie. Jednou z vecí, ktorú pri sociálnych sieťach nikdy neviete vopred, je totiž otázka, koľko ďalších ľudí dostalo od daného účtu heslo a či náhodou nemajú v zálohe ďalší obsah na zverejnenie.
Nájsť optimálne medze na reguláciu obsahu na sociálnych sieťach je asi nemožná úloha, a to ako právne, tak technicky. Legislatíva jednotlivých štátov je nesmierne rôznorodá a ani vo vnútri spoločných trhov, ako je EÚ, sa ich členovia nezhodnú na jednotnej hranici slobody prejavu. Firmy prevádzkujúce sociálne siete majú chronický nedostatok živých zamestnancov-moderátorov a robotická umelá inteligencia zatiaľ nie je v tomto smere príliš spoľahlivá. Pri už existujúcom videu, ako je Tarrantov záznam zo streľby v novozélandskej mešite, nie je veľký problém automaticky identifikovať a odstrániť jeho kópie, ale o to horšie sa identifikujú úplné novinky; tam býva ľudský faktor nezastupiteľný.
Aj násilie na sociálnych sieťach, rovnako ako väčšina tém súvisiacich s brutalitou a smrťou, v sebe skrýva hrozbu prehnanej „autoimunitnej“ reakcie spoločnosti. Dostatočne veľký šok, aj z izolovanej a jednorazovej udalosti, akou bola hromadná vražda v Christchurchi, môže v inak liberálnych a demokratických štátoch viesť k prijatiu drakonických opatrení, za ktoré by sa žiadne autoritárske režimy nehanbili a ktorých následné pozvoľné odbúravanie môže trvať desiatky rokov. (Alebo sa tiež nemusí podariť nikdy; pozri osudy americkej národnej bezpečnosti po 11. septembri 2001.) Na druhej strane by štátna moc nemala úplne ignorovať napríklad systematické štvanice na konkrétnu osobu, ktoré zjavne prekračujú hranicu nebezpečného vyhrážania. Ak zdieľajú stovky ľudí vaše meno a domovskú adresu spoločne s výzvami na to, aby vás niekto prišiel „zrovnať“, nie je to banalita, obzvlášť ak je atmosféra v krajine z nejakého dôvodu (voľby, ekonomická kríza) práve vyhrotená.
Najneskôr od vynálezu palných zbraní a kníhtlače sa dá povedať, že technológie majú náskok pred právom. Je to aj prípad diania vo virtuálnom priestore. Väčšina konfliktov na sieťach sa, našťastie, nikdy nepreleje do reálneho sveta, avšak na výnimky si zrejme budeme musieť zvyknúť.
Text pôvodne publikovali na webe Echo24. Vychádza so súhlasom redakcie.