O všetkom rozhodujú vzhliadnutia
Každému z botov priradili vyšetrovatelia z WSJ vek a lokalitu. Následne mu začali vytvárať „záujmy“, avšak nie prostredníctvom ich priameho naťukania do aplikácie. Spoliehali sa len na opätovné pozeranie videí a obrázkov s rovnakými hashtagmi.
Niektorí boti sa zaujímali o tanec, iní o kozmetiku či zvieratá. Vysvitlo, že spočiatku poskytne TikTok užívateľom milióny videí. Postupne ich rozsah zmenšuje v náväznosti na to, ako sa formujú ich „záujmy“ a aký obsah vyhľadávajú.
Výsledky konzultovali s Guillaumeom Chaslotom, expertom na algoritmy, ktorý predtým pracoval pre YouTube. Ten tvrdí, že TikTok sa odlišuje od iných sociálnych sietí. Jeho algoritmus vraj môže oveľa rýchlejšie zistiť náchylnosti užívateľa, čo robí túto platformu oveľa mocnejšou.
Na porovnanie: na YouTube tvoria 70 percent vzhliadnutí tie z odporúčaní, pri TikToku je to 90 až 95 percent.
Extrémne rýchly a návykový
Podľa WSJ TikTok identifikoval záujmy niektorých botov už za 40 minút. Jeden z botov spadol do takzvanej „rabbit hole“, teda špirály videí s rovnakým obsahom.
„Algoritmus dokáže nájsť obsah, ktorý vás robí zraniteľným, na ktorý si kliknete a pozriete si ho, ale to neznamená, že sa vám skutočne páči. Ani že je to obsah, ktorý si najviac užívate. Je to obsah, pri ktorom je najpravdepodobnejšie, že vás udrží na platforme,“ vysvetlil Chaslot.
Platforma tvrdí, že 7 percent videí má ľudí nasmerovať na iný obsah. Potom, čo sa bot zameral na hashtagy ako bolesť, smútok, zlomené srdce, depresia či úzkosť, malo 93 percent z videí len tieto charakteristiky. Zvyšok tvorili reklamy. Aplikácia neodpočúva súkromné rozhovory ani nesleduje súkromné správy. Riadi sa len reakciami na obsah.
Botom sa podarilo uniknúť z rabbit hole, keď im zmenili v nastaveniach preferencie a aj to len v prípade, že mali veľmi úzko špecifikovanú oblasť záujmu. Boti zameraní na všeobecnejšie témy, ako napríklad sexualita či politika, sa ponárali v obsahu čoraz hlbšie, až skončili pri vyhranených videách. Mnohé z videí pritom porušovali normy komunity. Boli medzi nimi priame výzvy na samovraždu, alkoholizmus či zneužívanie mladistvých.
Hovorkyňa TikToku označila tieto zistenia za nereprezentatívne, pretože reálni ľudia majú rozmanitejšie záujmy ako boti, a teda by pri nich algoritmus fungoval inak. Podľa investigatívcov však experiment ukazuje, ako rýchlo môže byť používateľ vystavený širokému dosahu potenciálne škodlivého obsahu.
