Roblox je online herná platforma, na ktorej môžu používatelia vytvárať svoje vlastné počítačové hry a hrať ich s inými. Platformu vyvinuli David Baszucki a Erik Cassel a spustili ju vo februári 2006. Centrálnym prvkom platformy sú jej četovacie funkcie, prostredníctvom ktorých hráči spolu komunikujú.
Tieto čety už dnes monitoruje umelá inteligencia, aby sa zabránilo výmene urážlivého alebo zakázaného obsahu. Podľa spoločnosti je totiž vysokou prioritou ochrana mladších používateľov. V budúcnosti však bude komunikáciu hráčov v reálnom čase prepisovať umelá inteligencia. Meradlom pre tieto zmeny bude to, čo platforma podľa svojich vlastných kritérií považuje za vhodnejšie.
Nevyhnutne vznikajú otázky, kde sú hranice a či sa už prekročila medza smerom k ďalekosiahlej cenzúre prostredníctvom jazykovej kontroly.
V praxi to znamená, že partner v online komunikácii už nemusí dostať to, čo autor skutočne napísal, ale skôr to, čo umelá inteligencia považuje za správne a v súlade s pravidlami. V súčasnosti sa údajne alebo skutočne zakázané slová maskujú symbolmi „#“.
Tento systém sa teraz nahrádza novým mechanizmom, ktorý v tichosti preformuluje takzvané zakázané výrazy do alternatívneho znenia, ktoré Roblox označuje ako „úctivejší jazyk, ktorý zostáva bližší pôvodnému zámeru používateľa“.
Platforma poskytuje príklad. Ak niekto napíše „Hurry TF up!“, príjemca uvidí správu „Hurry up!“. Fráza „Hurry TF up!“ kombinuje „Hurry up!“ s vulgárnou skratkou „TF“, čo je skratka pre „the fuck“. V bežnom používaní vyjadruje silnú netrpezlivosť, keď sa nejaký hráč pohybuje príliš pomaly.
Vymazanie vulgárneho jazyka
Tínedžeri často používajú tento jazyk, ktorý môže niektorým znieť vulgárne, ako formu sociolektu [jazyková forma alebo variant jazyka, ktorú používa určitá sociálna skupina, poznámka redakcie] alebo jednoducho preto, aby pôsobili „cool“. Hrubý výraz je zriedka skutočným obsahom správy. Roblox tak preberá úlohu akejsi morálnej autority, ktorá mení jazyk a tým obmedzuje schopnosť jednotlivca vyjadrovať sa autenticky.
Spoločnosť uvádza, že všetci účastníci online komunikácie budú informovaní vždy, keď dôjde k takémuto cenzúrnemu opatreniu. Napriek tomu osoba, ktorá napísala pôvodnú správu, nemá žiadnu možnosť zabrániť nahradeniu svojich vlastných slov pred odoslaním správy. V dôsledku toho môže príjemca dostať niečo iné, ako bolo skutočne napísané, pričom formulácia systému je pripísaná odosielateľovi.
Definícia „zakázaných výrazov“ presahuje rámec jednoduchých obscénností. Zahŕňa aj „pravopisné chyby, špeciálne znaky alebo iné metódy používané na obídenie detekcie obscénností“. Inými slovami, úlohou umelej inteligencie je aj rozpoznávať úmyselné pokusy o obídenie filtra a prepisovať aj tie. Skratky, pozmenené pravopisné tvary alebo iné komunikačné triky určené na obídenie cenzúry sa preto tiež preformulujú.
Systém je čoraz sofistikovanejší
V rámci tej istej iniciatívy spoločnosť Roblox rozšírila svoj systém filtrovania textu, aby „detekovala viac variácií jazyka, ktoré porušujú jej komunitné štandardy“. Sieť určená na zachytávanie zakázaného jazyka sa tak stáva širšou a čoraz prísnejšou. Synonymá alebo mierne zmenené formulácie môžu byť nakoniec stále rozpoznané a zmenené v súlade s pravidlami spoločnosti Roblox.
Hrozí, že sa jazyk ochudobní, keď sa bohatá slovná zásoba hovoreného slova zredukuje na zjednodušenú formu, ktorú vnucuje umelá inteligencia a je v súlade s pravidlami jednostranne definovanými prevádzkovateľmi platforiem.
Roblox tak vyvinul systém, ktorý presahuje rámec jednoduchého blokovania jazyka. Nahradzuje ho podľa vlastných kritérií. Vďaka systému umelej inteligencie, ktorý sa neustále učí a prispôsobuje, to tiež znamená, že jazykový model môže naďalej modifikovať svoje pravidlá v závislosti od toho, ako je trénovaný.
Správa, ktorá opustí klávesnicu, už nemusí byť nutne tou informáciou, ktorá dorazí. Príjemca číta slová, ktoré si odosielateľ nikdy nezvolil. No zároveň dostáva upozornenie, že pôvodné znenie sa považovalo za neprijateľné. Inými slovami, platforma v konečnom dôsledku rozhoduje o tom, čo povedal odosielateľ.
Zdôvodňuje sa to ochranou mládeže
Zatiaľ je táto funkcia aktivovaná v četoch medzi overenými používateľmi podobných vekových skupín. Roblox tiež zaviedol skupinu s názvom Trusted Connections (Dôveryhodné spojenia), funkciu dostupnú pre používateľov vo veku 13 a viac rokov, ktorí absolvovali overenie veku a sú spojení s ľuďmi, ktorých poznajú. Všetky tam zavedené kontroly a moderovanie četu sa zdôvodňujú ako súčasť ochrany mládeže.
Minulý mesiac začal Roblox vyžadovať overenie veku pre určité funkcie četu. Po jeho dokončení môžu používatelia komunikovať s hráčmi v susedných vekových skupinách. Napríklad skupina vo veku 9 až 12 rokov môže komunikovať s používateľmi vo veku 13 až 15 rokov.
Minecraft, ďalšia herná platforma, tiež filtruje neslušné výrazy. Tam je však prístup k fungovaniu filtra transparentnejší. Označené slová sa nahrádzajú symbolmi alebo sa správa úplne blokuje. Výrazy napísané odosielateľom sa nezobrazujú ako odlišné slová pod menom odosielateľa. Aj to je forma manipulácie, ale aspoň je otvorene priznaná.
Systém, ktorý teraz zaviedol Roblox, funguje inak. Efektívne vkladá slová do úst odosielateľovi. Vyhlásenia používateľov sa prepisujú v reálnom čase bez ich súhlasu. Tento proces neprebieha na základe právnych predpisov alebo všeobecne akceptovaných etických úvah, ale podľa definícií „prijateľného jazyka“, ktoré formuluje súkromná spoločnosť.
Umelá inteligencia bude tento proces ďalej rozširovať a zdokonaľovať, aby zachytila ešte viac jazykových variácií, ktoré platforma považuje za nežiaduce. Momentálne sa zameriava na nadávky. Čo bude nasledovať? Samodefinovaný rasizmus? Postkoloniálna terminológia? Rodový jazyk? V zásade by sa tam mohlo zahrnúť takmer čokoľvek.
Rizikové nástroje v mene ochrany detí
Je potrebné si dostatočne často opakovať, že mnohé nástroje, ktoré sú v konečnom dôsledku určené na sledovanie a kontrolu, sa začínajú so zdanlivo chvályhodným cieľom: ochranou detí. Elektronická guvernantka monitoruje jazyk mladých používateľov a reaguje jeho priamou úpravou. Ako rodič sa ako prvé pýtate, kam presne má táto úprava viesť.
Žiadne vulgárne výrazy? Polovica literatúry pre mládež by musela podliehať cenzúre. Žiadny sexizmus? Samozrejme, všetko, čo bráni sexuálnemu zneužívaniu, si zaslúži podporu. Ale čo šepkané rozhovory medzi tínedžermi, ktorí sa snažia odhaliť veľké tajomstvá života? Možno takéto rozhovory vôbec nepatria na internet a mali by zostať výhradne osobnými. Naozaj potrebujeme umelú inteligenciu, aby nám to povedala? Mladí ľudia si nevybudujú odolnosť a sebavedomie tým, že ich budeme chrániť ako v bavlnke.
Vo svete dospelých by boli dôsledky ešte vážnejšie. Je potrebné predpokladať, že všetko, čo sa v súčasnosti testuje v mene ochrany detí, by sa mohlo rozšíriť na komunikáciu dospelých stlačením jediného tlačidla. Zmenili by sa len zdôvodnenia – ochrana pred „nenávistnými prejavmi“, ochrana demokracie alebo jedno z ďalších módnych slov, ktoré sa často používajú na ospravedlnenie nových foriem zásahov. Akonáhle nástroj existuje, bude sa používať.
Chceli by sme, aby WhatsApp čet v reálnom čase moderovala umelá inteligencia? Ak je možné meniť text, je možné meniť aj hovorený jazyk. Keď sme telefonovali, naozaj sme počuli, čo povedal náš partner? Alebo si umelá inteligencia vyhladila či upravila výpoveď ešte predtým, ako sa dostala k poslucháčovi?
Cesta, ktorú si zvolila spoločnosť Roblox, je viac ako sporná. Aj v kontexte ochrany mládeže je to ďaleko od neškodnosti. Komunikácia, v ktorej sa správa medzi odosielateľom a príjemcom mení, už nie je skutočnou komunikáciou. V najlepšom prípade ide o moderovanie, v najhoršom o manipuláciu.
Pôvodný text bol publikovaný na webe sesterského denníka Statement.com.