Předsudek v Silicon Valley 

Kdo někdy pracoval v Silicon Valley, dobře ví, že se tam politická atmosféra náchází ještě několik stupňů nalevo od amerických univerzit. Aktivismus sociální spravedlnosti je společný všem zaměstnancům obřích technologických firem včetně Googlu a žadatelé o zaměstnání se musí podrobit důkladnému testu, aby se předem vyloučilo přijetí někoho s nesprávným světonázorem. Svědectví úspěšných kandidátů jsou jednoznačná a dosvědčují, že se opakovaně mnohé otázky týkaly společenského pluralismu a různorodosti – sexuální, rasové i kulturní – a „správné” odpovědi jsou nezbytnou podmínkou přijetí.

Můžeme se celkem oprávněně domnívat, že i tam funguje špatné svědomí, protože internetové společnosti FATGA (Facebook, Amazon, Twitter, Google a Apple) nepraktikují nic z toho, co s kazatelským zápalem propagují. Google zaměstnává pouhá čtyři procenta Američanů hispánského původu a jen dvě procenta černochů, ale ani bílí zaměstnanci nejsou zastoupeni ve správném poměru k počtu obyvatel USA, protože 35 procent zaměstnanců tvoří Asiaté a ti trvale snižují jejich podíl, přestože zastupují pouhou pětiprocentní menšinu.  

Nesoulad mezi ideologickou teorií a vlastní praxí možná způsobil, že se hlavní technologické firmy rozhodly napravovat svět. Zaměstnávají tisíce lidí s šestimístnými platy v dolarech, kteří mají v popisu práce zjišťovat a dohlížet na obsah internetových publikací. V západní společnosti tak opět pod vylepšeným názvem vznikla profese známá už jen studentům historie. Nedávno se konala konference pod heslem „Jak umírňovat obsah” a ukázalo se, že Google zaměstnává deset tisíc a Facebook třicet tisíc specialistů na nepochybně náročnou kontrolou nekonečného množství textů. A jejich počty jistě porostou. Samozřejmě ani Twitter, Google nebo Facebook a ostatní neočekávali, že se budou něčím takovým jednou zabývat, když se ale ukázalo, že jim nic jiného nezbývá, nijak nepřekvapí, že se ideologické předsudky manažerů ze Silicon Valley projevily a ovlivnily svět online s výjimkou některých zemí, jako je Čína. A tak o žhavých problémech současnosti a světa už nerozhodují místní tradice ani všeobecně sdílené zvyky a hodnoty společnosti, nýbrž svérázné názory lidí posedlých sociální spravedlností.

Na každé šílené téma našich časů ohledně pohlaví, sexuality, rasy a transgenderu znalci ze Silicon Valley znají odpověď, vědí, co je správné a ze všech sil o tom přesvědčují svět. Proto musel Twitter zakázat tweetovat „Muži nejsou ženy” nebo názor, že „existuje rozdíl mezi mužem a transženou.” Kdo neuznává pravdu transgenderu, nedostane na platformě hlas. Twitter prohlásil, že se jednalo o „nenávistné projevy”, ale kupodivu kritiku extremistických feministek z TERF povoluje. Když Meghan Murphyové nařídil, aby smazala zmíněné dva citáty, šéfredaktor magazinu Esquire (Vážený pane) Tyler Coates se svým tweetem, „Do prdele s TERF” nenarazil a ani tisíce lidí, které ho přeposílaly dál, nikdo necenzuroval. Ke konci roku 2018 se politika Twitteru o „nenávistném chování” změnila natolik, že se nyní běžně ruší platformy, které se provinily tzv. transfobií, nepřátelským postojem vůči transsexuálním osobám. Jakmile někdo vyhlásí změnu své sexuální identity, musí být podle ní oslovován a kdo by jej nazval jeho bývalým jménem, bude potrestán ztrátou účtu. Manažéři Twitteru určují nenávistné projevy a osoby trans vzali pod ochranu před feministkami, ale feministky před útoky transaktivistů nebrání. 

Technologické firmy neustále mění žargon na obhajobu své cenzurní politiky, ta ale vždycky směřuje jedním směrem. Tak například internetová firma skupinového financování Patreon zaměstnává na hlídání „tvůrců” tým nazvaný „Důvěra a bezpečnost”, který rozhoduje o jejich způsobilosti projekty podporovat. Podle ředitele Jacka Contea:

„Nemá firemní strategie a postup absolutně nic společného s politikou nebo ideologií, máme na odstraňování nevhodnýcch osobních názorů koncepci nazvanou 'Projevené a pozorovatelné chování. Vycházíme výlučně z audiovizuálních a ověřitelných faktů pořízených kamerou a zvukovým záznamem. Osobní motivace, identita nebo politické názory nás nezajímají. Řídíme se jenom tím, co lze definitivně prokázat”.

Conte nepochybuje, že má „střízlivou odpovědnost” a přestože si uvědomuje, že vyřazením nevhodného investora připravuje zákazníka i firmu o příjem, nedá se nic dělat. Firma už mnohokrát zasáhla proti lidem „prokazatelně nesprávného a pozorovatelného chování”, kteří se nalézali na špatné straně posledního dogmatu Silicon Valley. Technologické firmy se často chytí do svých vlastních ideologických osidel – a bývají nepředstavitelně výstřední.

Spravedlnost strojové výuky

Je to poměrně nedávno, teprve několik let, co manažeři v Silicon Valley přijali za svou ideologii intersekcionálních bojovníků za sociální spravedlnost. Vzali ji natolik vážně, že ji povýšili na nové šílenství a běda společnosti, která by ji přijala nebo napodobovala.

Na to, aby se někdo zbavil své předpojatosti a předsudků nestačí procedury zmíněné v kapitole o ženách. Školení nevědomého předsudku nás může nanejvýš znejistit a když přestaneme důvěřovat vlastnímu instinktu, možná nás přesvědčí, abychom změnili své chování, názory a postoj. Třeba si i uvědomíme své společenské výsady a méně výhodné postavení ostatních a rozhodneme se uznat své náležité místo ve společenské hierarchii. Povědomí o existenci intersekcí však zcela jistě probudí v lidech ostražitost a budou citlivěji vnímat, kdy si mohou dovolit mluvit a kdy mají mlčet. Převýchovné metody jssou omezeným  pokusem o nápravu nesprávného postoje, usilují korigovat pouze chyby a omyly. Nikoho nepostaví na cestu k zářnému cíli sociální spravedlnosti.

To je také důvod velké víry technologických firem ve „Strojovou výuku spravedlnosti” (Machine Learning Fairnes), ta se nemusí zabývat přesvědčováním nedokonalých, předsudečných a fanatických lidských bytostí a hodnocení jednoduše hodí na hlavu počítačům, které se špatnými vlastnostmi lidí nenakazí. Toho lze snadno docílit, algoritmy se jednoduše naprogramují na ideální představu spravedlnosti, jakou nedokonalý člověk nedisponuje. Když si ale uživatelé všimli, že se některé vyhledávače chovají podivně, vznikla potřeba strojovou výuku lidem vysvětlit. Pochopitelně velice přátelským způsobem, jakoby vůbec o nic nešlo. Ve skutečnosti jde o hodně. 

Google už několikrát uveřejnil, stáhnul, opravil a opět poslal po internetu video, jež mělo problém co nejjednodušeji vysvětlit. Jednoduché to ale není. „Pojďme si spolu zahrát” volá přátelský ženský hlas, „zavřete oči a představte si botu”. Na obrazovce se objeví teniska, luxusní pánská polobotka a dámská lodička s vysokým podpatkem. Ačkoli nevíme proč, komentátorka vysvětluje, že máme předsudek a dáváme přednost jedné botě před ostatními. Jak ale naučit počítač, aby přemýšlel o obuvi bez našeho předsudku, jak zajistit, abychom mu nepředali svou představu o nejlepší botě, třeba tu s vysokým podpatkem? To je velký problém a tak vůrci videa představují složitou síť čar a linek, abychom pochopili, jak je to všechno strašlivě komplikované.

Strojová výuka nám pomáhá „dostat se z místa na místo” online, umožňuje internetovému vyhledávači, aby nám radil a pomáhal, vybere nám trasu na cestu a přeloží informace z cizích jazyků. V dřívějších dobách měli lidé na všechno příručku a museli si se vším poradit sami podle osvědčeného zvyku, kdežto algoritmy nabízejí novou odlišnou metodu, „vyhledávají vzorce v datech”:

Snadno nám může připadat, že se tak zbavíme předsudků, jenomže zakládat něco na datech nemusí být automaticky neutrální. Dokonce i v případě, kdy nepředpokládáme špatné úmysly programátorů, není možné lidskou předpojatost zcela vyloučit, předsudky jsou nutně součástí technologie.

Uvažme opět příklad s botami. Když účastníci experimentu nakreslili boty, většinou zobrazili tenisku. V takovém případě by počítač předmět s vysokým podpatkem vůbec nepovažoval za botu a dopustil by se tkz. interakčního předsudku, protože neměl k dispozici všechny druhy bot.

Google si ale dělá starosti s jiným typem předsudku, tzv. latentním. Představme si, že bychom chtěli naučit počítač, aby věděl, jak vypadá fyzik, nahráli bychom portréty fyziků, řekněme od Isaaca Newtona až podnes a dlouhou řadu postav ukončili Marií Curieovou. Algoritmus fyziků bude mít nevyhnutelně latentní předsudek ve prospěch mužů.

Třetí a zatím konečný předsudek se týká volby, například rozpoznávání obličejů. Otázka zní, „Jste si jisti, že váš výběr snímků z internetu nebo z vlastního alba reprezentuje celé lidstvo?” Google nabízí fotografie různorodých lidských typů, všech barev pokožky a v každém věku. Pokročilé technologie strojové výuky dostaly úkol poučovat a tak slyšíme uklidňující a ujišťující hlas komentátora, „Vypracovali jsme pro vás technologii, která negativní lidské předsudky do systému nepřenáší, urážlivé nebo zavádějící informace” se neobjeví na předních místech vyhledaných výsledků. Pořídili jsme pro vás i nástroj zpětné vazby, můžete vyvěsit vlaječku a na „nenávistné nebo nevhodné” projevy upozornit.

„Problematika je velice složitá”, uklidňují nás, a žádné „zázračné řešení” neexistuje. Měli bychom si to uvědomit a účastnit se dialogu, neboť technologie je pro každého.  To nepochybně je. Neměla by ale nabízet předsudky ze Silicon Valley.

Zkuste si kupříkladu vyhledat s Googlem ony evropské fyziky a když už se s nedostatkem žen mezi nimi nedá nic dělat, tak nám algoritmus alespoň vysvětlí potřebu různorodosti na jiném příkladu. První fyzik je běloch a na tabuli na saarlandské univerzitě píše nějaké vzorce, ale už ten druhý je černoch a doktorand PhD v Johannesburgu. Teprve po něm se dostáváme k Einsteinovi a Stephen Hawkingovi. 

Samozřejmě to má dobrý důvod. Málokdo by chtěl, aby si ženy myslely, že se nemohou stát fyziky jen proto, že kdysi v oboru převládali muži. Totéž platí o mužích i ženách každého etnika, jistě nechceme, aby se domnívali, že je barva jejich pleti na překážku, protože se dříve mezi Evropany téměř nevyskytovala. Zkuste si ale vyhledat na internetu nezaujatý pohled na dějiny, který je nezkresluje předsudkem současnosti, nebude to snadné. Pro případ, že by mi každý nevěřil, jsem si pořídil fotografie zvlášť výmluvných ukázek.

Pozastavme se nad výsledkem jednoduchého vyhledávání pod heslem „Evropské výtvarné umění”. Google vám představí enormní množství příkladů a pokud vás ale zajímají obrazy, předpokládali bychom, že se objeví nejdříve ty nejslavnější, Michelangelova Mona Lisa nebo Van Goghovy slunečnice. Velký omyl, na prvním místě se mi objevil Diego Velázquez, no budiž, je to slavný malíř, ale co to, představený obraz není, jak bychom očekávali, Las Meninas (dvorní dámy)nebo portrét papeže Innocence X., zobrazuje jeho černošského pomocníka Juana de Pareja. 

Portrét je to nepochybně úžasný, ale vystavený na prvním místě neodpovídá evropské typologii. Teprve po něm mi algoritmy naservírovali pětici obrazů i s očekávanou Monou Lisou a objevila se i Madonna s děťátkem (teprve první) a ejhle! jaké překvapení, ta madonna je černá. Pod heslem „barevní lidé v dějinách evropského výtvarného umění” se představí další obraz černošky a také skupinový portrét tří černochů a ještě další dva s Afričany, než se přece jen objeví první Vincent van Gogh a tak ta všehochuť nápadně pokračuje. Každá sekce představuje evropské malířství mnoha portréty černochů. Ukázky jsou nepochybně zajímavé a „reprezentativní”, možná si je někteří lidé přejí vidět, ale v žádném případě nepředstavují naši minulost. Dějiny evropského malířství netvoří ani pětina takových portrétů, natož třetina nebo polovina. Obrazy s černochy se dodnes vyskytují vzácně, ačkoli jich už několik desetiletí s obměnou obyvatel trochu přibývá. Tahle podivná interpretace naší minulosti je hrozivá, zírá na nás naprogramované vědomí stroje naučeného „férově” zobrazovat odlišné skupiny společnosti, ale s dějinami evropského výtvarného malířství nemá nic společného.

A nejde ani o žádnou výjimku, i při vyhledávání podle hesla „ Výtvarné umění západního lidu” na nás jako první vyskočí černoch a mezi slavnými jmény se objeví značný počet obrazů amerických indiánů. Požádáme-li Google o portréty černochů, objeví se portréty černochů, chceme-li vidět bělochy, jistě nás překvapí, že už ten druhý po anglickém fotbalistovi Davidu Beckhamovi, je černý manekýn. A každá následující pětice obsahuje jednoho nebo dva Afričany. A co je ještě nehoráznější, mezi portréty bělochů se nalézají odsouzení zločinci a pod nimi poučné nápisy „Pozor na průměrného bělocha” nebo „Běloši jsou zlí”.

Půjdeme-li po této stopě déle, tím více absurdních nálezů z hlediska objednaného a očekávaného tématu potkáme. V sekci homosexuálních párů se objeví dlouhá řada na první pohled šťastných a pohledných dvojic. Zadáte-li heterosexuální páry, tak nejméně jeden a někdy i dva z každé pětice obrázků představí lesbickou dvojici nebo dva gaye a když postoupíme dál, tak už naprosto převažují. Jak je možné, že při zadání heterosexuálních párů, neomylný  vyhledávač mezi ně zamíchal dvojice gayů?

Tím to ale zdaleka nekončí. První fotografie heterosexuálního páru představuje černošskou dvojici, ale druhá zobrazuje lesbickou s dítětem, čtvrtá černošský pár gayů a pátá opět nabízí lesbický pár. Kdo by si myslel, že to tak je pouze v první řadě, zjistí ke svému překvapení, že se heterosexuální páry neobjeví ani ve druhé ani ve třetí. Pod jednou fotografií rasově smíšené homosexuální dvojice se objeví vysvětlení „Gayové nás učí, jak spolu žít” a aby toho nebylo málo, objeví se ještě vysvětlení „Heterosexuální páry se učí od homosexuálních” a nad ním obrázek šťastné dvojice gayů s adoptovaným miminem. A jako přídavek fotografie skvělého mužského páru z luxusního lifestylového magazinu Winq. Není to zvláštní, stačilo sestoupit o tři sekce portrétů níž a na dotaz o heterosexuálních milencích nám google předvadí samé homosexuály, je snad téměř každý gay?

Při zadání v množném čísle, „heterosexuální páry bělochů” jsou nálezy čím dál podivnější, vyhledávač jako kdyby zešílel předvádí obrazy tak bizarní, že lze oprávněně podezírat, že se za tím něco skrývá. Na druhém snímku nabízí detail bělocha s nápisem NENÁVIST na kloubech, na třetím obrázku je černošská dvojice, následuje rasově smíšený pár, sice černobílý, ale na rukou drží dvě černošské děti. Další fotografie homosexuálních párů předvádějí poučné nápisy „mezirasové”, „roztomilé” a vysvětlují, „Proč jsou homosexuální páry šťastnější”.

Zcela odlišně se ale chová Googlův vyhledávač v jiných jazycích. Bílí muži v turečtině jsou opravdu všichni běloši, na fotografiích vidíme většinou menší mužské postavy nebo osoby s příjmením bílý. Francouzi to ale mají na vlas stejné jako Anglosasové. Obecně vzato, čím dál od Evropy a Ameriky, tím přesněji reaguje Google na požadavky uživatelů. Podezřelé výsledky se týkají pouze evropských zemí a především v anglickém jazyce nikdy nedostanete, o co jste požádali. Mohli bychom jistě odpustit nějakou tu občasnou povinnou různorodost, jak se jí běžně podřizuje reklama, kdyby ovšem vyhledávač v angličtině nepřinášel tak extrémní výsledky. Tohle není pouhá strojová výuka. 

Zatímco na vyhledávání bělošského páru nám v první dávce vyskočí na obrazovku rasově smíšené dvojice, včetně gayů a posléze se představí bílý pár s černými dětmi ze zkumavky, Asiaté s rasismem zřejmě problém nemají, přestože se moc nemísí, jejich fotografie poctivě odpovídají dotazu a zobrazují asijské dvojice. Teprve ve čtvrté řadě se objevila jedna s černochem, ale ostatní představují osoby stejného původu a po homosexuálech ani památky.

Je to docela záhadné. Pokud by byla nasazena mechanická strojová výuka, tak by se v hledáčku bílých heterosexuálů sice objevili homosexuálové, ale algoritmy by nemohly dávat přednost fotografiím párů, které nejsou heterosexuální ani bílé. To svědčí – v jistých případech – o nepochybném záměru vnucovat lidem obrazy, o něž nežádali.

Nelze se vyhnout závěru, že se část Strojové výuky spravedlnosti (SVS) musela upravit tak, aby se dalo vytvořit SVS + lidský zásah. A tato lidská agentura a její programátoři se rozhodli vrazit ideologii různorodosti některým lidem pod nos, protože je štvou. To by vysvětlilo, proč černošské a homosexuální fotografie dvojic odpovídají vyhledávání, kdežto na průzkum bělošských a heterosexuálních párů se na obrazovku nahrnou jejich protiklady. To také ukazuje, že na rozdíl od bělochů osoby asijského původu není zapotřebí převychovat a ani jim vysvětlovat, že jsou homosexuální partneři normální nebo dokonce normálnější než ostatní. Vyhledávání asijských dvojic vykazuje pouze šťastné mladé i staré heterosexuální páry. Google necítí potřebu je poučovat o běžných vztazích mezi muži a ženami.

Někde v zátiší programátorů vznikl záměr rozčílit, dezorientovat a rozzuřit ty, kteří hledají heteronormativní pojmy. Manažeři Googlu nepochybují, že jsou někteří Indoevropané problematičtí a proto jedněm informační servis nabízejí, jiným ne, aby jim jejich podezřelé hledání zmařili. Vymysleli na ně obří technologickou past pod heslem „Běžte do prdele!” Pochopitelně ve jménu vyšší spravedlnosti, jak to provozuje The New York Times se svými nekonečnými příběhy homosexuálních obchodníků a baletních tanečníků. Intenzita jejich úsilí má tak vysoké obrátky, že se těžko mohou vymluvit.

Zkuste si vyhledat černošskou rodinu a okamžitě spatříte snímky rozesmátých tváří bez jediné rasově smíšené rodiny. Vyťukejte bělošskou rodinu a na třech z pěti vyobrazení se objeví černoši nebo rasově smíšené partnerství. Následuje jedna africká rodina za druhou. Aby zbavili počítač nepříjemných lidských předsudků, vytvořili programátoři novou předpojatost a překrucují dějiny. Systém útočí na všechny, o nichž se předpokládá, že podléhají rasismu. V zájmu likvidace jedněch předsudků, zamořili informace jinými předsudky.

To všechno by nebylo tak závažné, kdyby šlo jen o to, že se lidem servíruje něco jiného, než co hledali. V mediální krajině jsou čtenáři novin jako The New York Times, The Guardian nebo týdeníku The Economist navyklí na jejich předpojatost a pokud by jim příliš vadila, mohou článek přeskočit nebo noviny nekupovat. Platí to i o médiích opačné strany, jako jsou The Daily Telegraph nebo New York Post. Politický úhel pohledu jejich redaktorů, přispěvovatelů a možná i majitelů není žádné tajemství. Čtenáři nemusí se vším nesouhlast, mají-li možnost si podle svého vybírat.

Až do nedávna se vyhledávače považovaly za neutrální, sice občas vynášejí na světlo nějaké podivnosti, ale nepředstavovaly redakční linii, natož aby lidem něco vnucovaly. Nyní to vypadá, jako kdyby poměrně spolehlivé a etablované noviny, známé svým kvalitním zahraničním zpravodajstvím, najednou uveřejňovaly nesmyslné komentáře o domácích událostech a na svých sportovních stránkách vyhlásily, že mají být milovníci sportu potrestáni za svou pomýlenost. 

Je dost možné, že se lidé naučí s vyhledávači pracovat a nacházet, co potřebují, tak jako navštěvují webové stránky odpovídající jejich světonázoru. Možná bude mít ideologie technologických společností do jisté míry úspěch a lidé ji přijmou. Byla by to snad tragedie, kdyby si příští dvě generace myslely, že Evropa vždycky vypadala tak jako dnes a byla stejně smíšená i v sedmnáctém století? Komu uškodí názor, že je polovina společnosti homosexuální, možná se o to víc bude cítit v pohodě? A co když se opravdu předsudky a názory dají změnit. A jestliže se nabízí příležitost rasismus, sexismus a nevraživost vůči homosexuálům zmírnit, proč ne, není snad každá metoda a každý nástroj vhodný? 

Zní to rozumně, ale má to velkou vadu na kráse, cenzura ve jménu politického cíle je problematická, neboť obětuje pravdu. Je snadné přepisovat dějiny kvůli nedostatečné různorodosti obyvatel v minulosti. Někteří uživatelé nejrozšířenějších vyhledávačů si už toho všimli, někteří ještě ne. Většina ale časem při každodenním užívání Googlu nebo Twitteru zaznamená, že se děje něco podivného. Dříve nebo později si uvědomí, že se stali součástí politického projektu a cíle, který nepodepsali a se kterým nesouhlasí.

Text je úryvkom z knihy Douglasa Murrayho Šílenství davů, ktorá onedlho vychádza v českom preklade. Úryvok publikujeme vďaka láskavosti vydavateľa a prekladateľa Alexandra Tomského.