Rozhodnutie z Kalifornie priťahuje pozornosť celého sveta. Dvadsaťročný žalobca uspel na súde proti spoločnosti Meta, ktorú založil Mark Zuckerberg a ktorá prevádzkuje Instagram a Facebook, a proti spoločnosti Google ako prevádzkovateľovi YouTube. Porota rozhodla, že platformy zámerne použili návykové dizajnové prvky, čím spôsobili mladíkovi psychickú ujmu.
Žalobcovi bolo priznané odškodné vo výške približne šesť miliónov amerických dolárov. Samotná spoločnosť Meta predtým uskutočnila interný výskum, ktorý dokumentoval takéto škodlivé vplyvy jej produktov, ale svoje zistenia pred verejnosťou zatajila.
Historický rozsudok
Odborníci považujú rozsudok za historický, pretože znamená zmenu prístupu. Po prvý raz boli sociálne siete uznané za zodpovedné nie za jednotlivé časti obsahu, ale za dizajn svojich produktov. Doteraz sa platformy v Spojených štátoch spoliehali na širokú ochranu podľa článku 230 zákona o komunikáciách, ktorý ich chráni pred zodpovednosťou za obsah zverejnený používateľmi. Žalobca v tomto prípade využil medzeru tým, že sa nezameriaval na obsah, ale na spôsob fungovania platforiem.
Porota prijala argument, že funkcie, ako sú nekonečné posúvanie, algoritmické odporúčania a automatické prehrávanie videí, sú navrhnuté tak, aby používateľov čo najdlhšie zaujali, čím podporujú návykové správanie. Táto argumentácia je známa. Porovnateľné argumenty boli predložené v skorších súdnych sporoch proti tabakovému priemyslu, v ktorých sa tvrdilo, že výrobky boli navrhnuté tak, aby podporovali závislosť napriek známym rizikám.
Konkrétne dôsledky pre Meta
Rozsudok má značnú váhu, pretože by mohol vyvolať tisíce podobných žalôb. Súvisiace finančné riziko by sa mohlo vyšplhať na miliardy dolárov, čo môže predstavovať vážny problém aj pre giganta, akým je Meta. Niekoľko zmien sa teraz zdá byť nielen pravdepodobných, ale aj nevyhnutných. Spoločnosť sa spolu s mnohými ďalšími technologickými firmami zrejme nevyhne prepracovaniu svojich algoritmov. Logika odporúčacích systémov sa bude musieť prehodnotiť.
Obsah, ktorý posilňuje emócie, ako sú neistota alebo strach, je obzvlášť problematický. Takýto materiál má tendenciu predlžovať čas strávený na platforme, čo je protiintuitívny účinok, ktorý je však dobre zdokumentovaný.
Prehľad literatúry talianskych pediatrov spája digitálnu závislosť detí s depresiou, stravovacími problémami a psychologickými problémami, ako aj s poruchami spánku, závislosťou, úzkosťou, sexuálnymi problémami, problémami so správaním, problémami s vnímaním vlastného tela, zníženou fyzickou aktivitou, zhoršeným zrakom, bolesťami hlavy alebo zdravím zubov.
Výskumníci v Nemecku, Švédsku a Holandsku tiež spojili intenzívne používanie sociálnych médií dospievajúcimi so štatisticky významnými zmenami vo vývoji objemu mozgových štruktúr. Táto oblasť mozgu sa okrem iného podieľa na regulácii emócií. Intenzívne používanie sociálnych médií by teda mohlo ovplyvniť fyzický vývoj mozgu, čo je téza podporená rastúcim počtom dôkazov.
Koniec automatického prehrávania a nekonečného posúvania?
Obmedzenie návykového mechanizmu, ktorý priťahuje a udržiava používateľov na platformách, sa zdá byť nevyhnutné. Súčasťou dynamiky sú pritom aj personalizované kanály alebo push notifikácie. Návrhy na ich obmedzenie už existujú.
Algoritmické triedenie by mohli nahradiť napríklad chronologické kanály, ktoré sa používali v začiatkoch sociálnych sietí. To by umožnilo vznik prirodzeného pocitu nasýtenia. Keď sa používatelia dostanú k obsahu, ktorý už videli, ich záujem má tendenciu klesať. Niektorí vidia potenciál aj v nastavení časových limitov pre maloletých.
Hlavnou kritikou v tomto prípade bolo aj to, že platformy už neumožňujú prirodzené prestávky. Či už prostredníctvom regulácie alebo dobrovoľnej zmeny, automatické prehrávanie už nemusí zostať predvoleným nastavením. Odborníci od jeho vzniku varovali pred rizikami, ktoré nekonečné posúvanie predstavuje. Obmedzenie nekonečných kanálov – a možno aj zavedenie pripomienok o dĺžke používania – by mohlo priniesť úľavu. Takéto opatrenia by však mali priamy vplyv na obchodný model platforiem, keďže znížené používanie zvyčajne súvisí s nižšími príjmami z reklamy.
Otázka telesného vzhľadu
Obzvlášť citlivou otázkou je úloha sociálnych médií pri formovaní ideálov krásy. Prípad jasne ukázal, že algoritmické systémy zosilňujú obsah prezentujúci nerealistické obrazy tela, čím vytvárajú tlak na porovnávanie a využívajú neistotu používateľov. Žalobca opísal skúsenosti s telesnou dysmorfiou a pochybnosťami o sebe samom, ktoré sociálne médiá ešte umocnili.
Samotné ideály krásy sa nedajú merať. Modelka Twiggy by sotva zodpovedala estetickým preferenciám Petra Paula Rubensa. Už len to ukazuje, ako sa tieto ideály časom menia. Problém, ako naznačuje tento prípad, nespočíva ani tak v samotnom ideáli, ako skôr v spôsobe jeho prezentácie. Keď sa nereálne obrazy povýšia na údajne univerzálne štandardy, pretože algoritmy odfiltrujú všetko ostatné, výsledok sa stáva problematickým. Na vine však nie je ideál ako taký, ale tlak porovnávania, ktorý sociálne siete umocňujú a v ktorom obyčajná pubertálna neistota začína žiť vlastným životom.
V súvislosti s týmto prípadom sa obnovil význam legislatívnych iniciatív, ako je napríklad zákon o bezpečnosti detí na internete.
Liberálni kritici však medzitým varujú pred rizikami pre slobodu prejavu a pred nadmernou reguláciou, ktorá potláča digitálne inovácie.
Obe obavy sú oprávnené. Spravidla by však mala dostať prednosť ochrana maloletých. Rozhodnutie proti spoločnostiam Meta a Google pravdepodobne nezostane ojedinelým prípadom. Môže zásadne zmeniť niektoré časti internetu, predovšetkým sektor sociálnych médií. Éra, v ktorej sa platformy mohli skrývať za tvrdenia o technologickej neutralite, sa možno blíži ku koncu. Kam táto cesta nakoniec povedie, ukáže až čas.
Pôvodný text bol publikovaný na webe sesterského denníka Statement.com.