Portál Wall Street Journal (WSJ) spravil spolu so Stanfordskou univerzitou a Univerzitou v Massachusetts investigatívny výskum o Instagrame. Vyplýva z neho, že je to hlavná sociálna sieť, ktorá spája rozsiahlu sieť pedofilov a umožňuje im zdieľať tam ilegálny obsah.
Dôvod je jednoduchý: Instagram využíva kľúčové slová (hashtagy), ktoré umožňujú používateľom označovať a vyhľadávať príspevky, ktoré zaujímajú určitú komunitu. Svoje vybrané hashtagy majú však aj pedofili.
Podľa denníka stačí do vyhľadávania zadať hashtagy ako #pedowhore (pedopobehlica), #preteensex (predpubertálny sex) či #mnsfw (obsah s maloletými, ktorý nie je bezpečné pozerať v práci) a ukážu sa účty propagujúce obsah so sexuálnym zneužívaním maloletých. Tieto profily často uvádzajú, že ich obsluhujú priamo deti, ktoré však používajú prehnane sexualizované prezývky.
Reklama, ktorú ťažko odhaliť
Účty takýto obsah nezverejňujú priamo, lebo algoritmy sociálnych médií by ho odhalili a zablokovali. Obsahujú „len“ zoznam rôznych sexuálnych praktík detí aj s cenou, za ktoré si ich možno objednať. Ide o akúsi formu reklamy, vďaka čomu „kupujúci" ľahko nájde, čo hľadá. V ponuke sú dokonca nechutné videá, na ktorých si deti ubližujú alebo vykonávajú sexuálne praktiky so zvieratami.
„Deti sú za istý poplatok dostupné aj na osobné stretnutia," píše sa v článku. Algoritmy fungujú tak, že testovaciemu účtu stačilo pozrieť si jeden účet v pedofilnej komunite Instagramu a v návrhoch toho, čo by sa mu mohlo páčiť, mu začalo automaticky vyhadzovať zvyšné profily, ako aj účty prepojené na stránky, ktoré mimo platformy obchodujú s obsahom sexuálneho zneužívania maloletých.
Profily možno odhaliť aj podľa toho, čo majú v popise. Napríklad obrázok mapy, čo je skratka anglického zjemňujúceho tvaru „minor-attracted person" (osoby, ktoré priťahujú maloletí) alebo obrázok syrovej pizze, čo je odkaz na detskú pornografiu. Mnohí sa drzo vyhlasujú za „milovníkov malých vecí v živote".
Predávajúci si našli aj spôsob, ako vyjadriť vek dieťaťa, ktoré „inzerujú". Napríklad slovným spojením, že sú "na kapitole 14" alebo majú "vek 31 rokov", za ktorým nasleduje emotikon obrátenej šípky.
Instagram mesačne maže státisíce takýchto účtov
Dokopy výskumníci odhalili 405 takýchto účtov, ale to nie je všetko. Existujú účty, ktoré vytvárajú meme obrázky o pedofílii a rozoberajú, ako získať prístup k deťom. Podľa súčasných a bývalých zamestnancov sú na platforme státisíce takýchto účtov, ak nie milióny.
Propagácia obsahu s neplnoletými osobami porušuje americké federálne zákony, ako aj pravidlá spoločnosti Meta, ktorá vlastní Facebook, Instagram a WhatsApp.
„To, že tím troch akademikov s obmedzeným prístupom dokáže nájsť takú obrovskú sieť [pedofilov], by malo v Meta spustiť poplach,“ povedal Alex Stamos, vedúci Stanfordského internetového observatória.
Meta priznala, že vytvorila internú pracovnú skupinu, ktorá tieto nelegálne operácie na platforme rieši. Hovorca spoločnosti Meta uviedol, že firma za posledné dva roky zrušila 27 sietí pedofilov a plánuje odstrániť ďalšie. Len v januári tohto roku zrušila vraj 490-tisíc účtov za porušenie pravidiel bezpečnosti detí.
Podľa interných štatistík Instagramu vidia používatelia zneužívanie detí na menej ako jednom z desaťtisíc zobrazených príspevkov.
Instagram sa bráni aj tým, že do odhaľovania účtov, ktoré porušujú pravidlá, zapája aj svojich používateľov. Zistilo sa však, že softvérová chyba bránila spracovaniu podstatnej časti hlásení a že moderátori obsahu, ktorých firma platí, riadne neuplatňovali pravidlá platformy a neodstránili škodlivé príspevky. Hovorca na otázky novinárov uviedol, že odvtedy chybu v systéme nahlasovania opravili a poskytujú aj nové školenia pre svojich moderátorov obsahu.
Viac než dve tretiny hlásení detskej pornografie je z obsahu Meta
Ako sme písali, priamy pedofilný obsah dokážu sociálne médiá objaviť.
Národné centrum pre nezvestné a zneužívané deti (NCMEC), americká nezisková organizácia, ktorá spolupracuje s orgánmi činnými v trestnom konaní, spravuje databázu digitálnych odtlačkov pornografických obrázkov a videí s deťmi.
Algoritmy sociálnych médií porovnávajú digitálne odtlačky obrázkov zverejnených na ich platformách s týmto zoznamom a ak objavia škodlivý obsah, hlásia ho NCMEC. Minulý rok takto Centrum dostalo 31,9 milióna správ o detskej pornografii. Až 85 percent správ poslala firma Meta a približne päť miliónov z toho sa vyskytlo na Instagrame. Stojí za povšimnutie, že celkový počet podnetov od sociálnych sietí vzrástol za posledné dva roky o polovicu.
Algoritmy však dokážu odhaliť len existujúci obsah zneužívania detí. Nové ilegálne obrázky aj snahy inzerovať ich predaj cez hľadáčik prepadnú. Aby ich sociálne siete zistili, museli by prácne kontrolovať hlásenia od používateľov, ale aj sledovať a rušiť siete pedofilov.
Meta odstraňuje škodlivý obsah pomalšie než Twitter
Orgány činné v trestnom konaní zvládnu pre obmedzené personálne zdroje vyšetriť len malý zlomok tipov, ktoré NCMEC dostáva. Platformy preto podľa výskumníkov nesú primárnu zodpovednosť za to, aby zabránili vytváraniu pedofilnej komunity a normalizácii sexuálneho zneužívania detí.
Podľa zistení vedcov má Meta s týmto mazaním obsahu väčšie problémy ako iné platformy.
Na Twitteri našli 128 účtov ponúkajúcich predaj materiálov so sexuálnym zneužívaním detí. To je menej ako tretina počtu, ktorý našli na Instagrame. Twitter takéto účty neodporúčal v takej miere ako Instagram a odstraňoval ich oveľa rýchlejšie, zistil tím.
Spomedzi ostatných platforiem populárnych medzi mladými ľuďmi sa Snapchat používa najmä na priame posielanie správ, takže nepomáha vytvárať siete zvrhlíkov. Na platforme TikTok sa podľa vedcov „tento typ obsahu zrejme nerozširuje". Twitter na žiadosti o komentár nereagoval. TikTok a Snapchat sa odmietli vyjadriť.
Meta pre americký denník WSJ uviedla, že je v procese zákazu pedofilných hashtagov, cez ktoré spája sieť zvrhlíkov. Po upozornení novinárov Instagram odstránil možnosť, aby si používatelia mohli na vlastné riziko pozrieť príspevky, ktoré pravdepodobne obsahujú obrázky sexuálneho zneužívania detí. Spoločnosť odmietla uviesť, prečo vlastne túto možnosť mala pôvodne v ponuke.
Instagram pomáha budovať sieť pedofilov, ktorú chce jeho personál odstrániť
Chýb, na ktoré dopláca dôstojnosť detí a ktoré bude treba z Instagramu odstrániť, je ešte veľa.
Napríklad sankcie za porušenie komunitných štandardov sa spravidla ukladajú účtom, nie používateľom. Keďže Instagram umožňuje jednému človeku prevádzkovať viacero účtov, predajcovia pedofilnej tematiky uvádzajú v popise rovno aj svoje „záložné" účty. Keď im Instagram nejaký profil odstráni, môžu pokračovať v uverejňovaní príspevkov pre tú istú skupinu sledovateľov, akurát na inom účte.
Po upozornení novinárov a vedcov Instagram začal odstraňovať účty inzerujúce detskú pornografiu. Stačilo si však pozrieť čo i len jeden zo zostávajúcich účtov a Instagram začal odporúčať nové pedofilné účty. „Návrhy Instagramu pomáhali obnoviť sieť, ktorú sa vlastný bezpečnostný personál platformy práve pokúšal zlikvidovať," píše sa v závere článku.
Meta uviedla, že v súčasnosti buduje systémy, ktoré majú zabrániť takýmto odporúčaniam.