Ako funguje TikTok? Strháva užívateľov do špirály videí, často porušuje normy

Denník Wall Street Journal zverejnil video, v ktorom ukazuje, ako TikTok ovplyvňuje informačný kanál užívateľov. Investigatívci uskutočnili experiment, v rámci ktorého vytvorili účty botom a priradili im určité záujmy. Tí „sledovali“ videá na TikToku, pozastavovali alebo prehrávali si tie, ktoré obsahovali obrázky a hashtagy súvisiace s ich záujmami.

Sociálna sieť dávnejšie uviedla, že užívateľský kanál For You sa formuje na základe zdieľaní, lajkov, sledovaní a obsahu videí, s ktorými interagujete, ako aj od nastavení účtu, ako sú jazyk a miesta, kde sa nachádzate. Zistenia WSJ to potvrdili.

Algoritmus zohľadňuje každé opätovné pozretie niektorého videa či dlhšie pozeranie určitého typu obsahu.

Môže sa teda stať, že sledujete video, ktoré vás zaskočí, ale algoritmus nedokáže vyhodnotiť vaše pocity, a preto ho neodlíši od obsahu, ktorý sa vám skutočne páči a chcete ho vidieť viac. Viacerí ľudia tak majú v odporúčaniach videá, ktoré nezohľadňujú ich záujmy. Problém nastáva, ak sa im venuje prílišná pozornosť.

O všetkom rozhodujú vzhliadnutia

Každému z botov priradili vyšetrovatelia z WSJ vek a lokalitu. Následne mu začali vytvárať „záujmy“, avšak nie prostredníctvom ich priameho naťukania do aplikácie. Spoliehali sa len na opätovné pozeranie videí a obrázkov s rovnakými hashtagmi.

Niektorí boti sa zaujímali o tanec, iní o kozmetiku či zvieratá. Vysvitlo, že spočiatku poskytne TikTok užívateľom milióny videí. Postupne ich rozsah zmenšuje v náväznosti na to, ako sa formujú ich „záujmy“ a aký obsah vyhľadávajú.

Výsledky konzultovali s Guillaumeom Chaslotom, expertom na algoritmy, ktorý predtým pracoval pre YouTube. Ten tvrdí, že TikTok sa odlišuje od iných sociálnych sietí. Jeho algoritmus vraj môže oveľa rýchlejšie zistiť náchylnosti užívateľa, čo robí túto platformu oveľa mocnejšou.

Na porovnanie: na YouTube tvoria 70 percent vzhliadnutí tie z odporúčaní, pri TikToku je to 90 až 95 percent.

Extrémne rýchly a návykový

Podľa WSJ TikTok identifikoval záujmy niektorých botov už za 40 minút. Jeden z botov spadol do takzvanej „rabbit hole“, teda špirály videí s rovnakým obsahom.

„Algoritmus dokáže nájsť obsah, ktorý vás robí zraniteľným, na ktorý si kliknete a pozriete si ho, ale to neznamená, že sa vám skutočne páči. Ani že je to obsah, ktorý si najviac užívate. Je to obsah, pri ktorom je najpravdepodobnejšie, že vás udrží na platforme,“ vysvetlil Chaslot.

Platforma tvrdí, že 7 percent videí má ľudí nasmerovať na iný obsah. Potom, čo sa bot zameral na hashtagy ako bolesť, smútok, zlomené srdce, depresia či úzkosť, malo 93 percent z videí len tieto charakteristiky. Zvyšok tvorili reklamy. Aplikácia neodpočúva súkromné rozhovory ani nesleduje súkromné správy. Riadi sa len reakciami na obsah.

Botom sa podarilo uniknúť z rabbit hole, keď im zmenili v nastaveniach preferencie a aj to len v prípade, že mali veľmi úzko špecifikovanú oblasť záujmu. Boti zameraní na všeobecnejšie témy, ako napríklad sexualita či politika, sa ponárali v obsahu čoraz hlbšie, až skončili pri vyhranených videách. Mnohé z videí pritom porušovali normy komunity. Boli medzi nimi priame výzvy na samovraždu, alkoholizmus či zneužívanie mladistvých.

Hovorkyňa TikToku označila tieto zistenia za nereprezentatívne, pretože reálni ľudia majú rozmanitejšie záujmy ako boti, a teda by pri nich algoritmus fungoval inak. Podľa investigatívcov však experiment ukazuje, ako rýchlo môže byť používateľ vystavený širokému dosahu potenciálne škodlivého obsahu.