Fenomén deepfake. Určitá časť ľudí uverí čomukoľvek

Náš výraz pre pojem „deepfake“ zatiaľ nemáme, ale je najvyšší čas ho vymyslieť, pretože tento fenomén nás určite neminie. „Deepfake“ je čiastočne alebo totálne sfalšované video alebo audio – ale častejšie video, pretože ľudia vždy lepšie reagujú na video –, v ktorom sa deje niečo, čo sa v realite nikdy nestalo.

Celú alternatívnu realitu, ktorá sa v ňom odohráva, prepočítali a nakreslili stroje, samozrejme, tak aby bola pokiaľ možno na nerozoznanie od skutočného videa. Zatiaľ sa falzá ešte dajú rozpoznať, ale ako sa výkon počítačov zvyšuje a metódy strojového učenia zlepšujú, pomaly sa blížime k bodu, za ktorým už budú naozaj nerozoznateľné od skutočnosti. Ten bod nie je zasa tak ďaleko, keby som mal odhadovať presnejšie, do roku 2030 budeme tam. Možno aj o niečo skôr.

Čo ešte neškodí a čo už áno

Už teraz môžeme čiastočne odhadnúť, ktorými smermi vývoj pôjde. Niektoré súčasné „deepfake“ videá sa na pravé ani nehrajú a ich cieľom je nevinné pobavenie publika. Virtuálny Hitler a virtuálny Stalin si spoločne zaspievali osemdesiatkový hit Video Killed the Radio Star (YouTube neskôr toto video zmazal), staručká britská kráľovná si na BBC zatancovala pre Tik-Tok a David Attenborough so svojím nezameniteľným hlasom nahovoril klip v štýle svojich prírodovedeckých dokumentov, kde popisuje, ako sa starnúce ruské tanky sťahujú do ukrajinských plání, aby tu vypustili dušu. To sú celkom neškodné slovné hračky, kvôli ktorým by sa nikto stresovať nemusel.

Za nimi ale nasledujú falošné videá, ktoré už zďaleka také neškodné nie sú, napríklad klipy celebrít propagujúcich nejakú kryptomenu alebo zázračný prípravok. Obzvlášť ľahko zneužiteľní sú ľudia, ktorí sú známi a ktorí vyprodukovali dostatok skutočných videí – herci, novinári, politici –, pretože umelá inteligencia, ktorá falošné klipy vyrába, sa najskôr na nejakom materiáli musí „naučiť“, ako ten skutočný človek vyzerá, ako hovorí, akú gestikuláciu používa, akú má mimiku v tvári. A, samozrejme, čím viac takého materiálu, tým lepšie.

Ale dnes už nemusíte byť veľká celebrita na to, aby existovalo mnoho hodín videozáznamu s vašou tvárou a hlasom. Počas covidu prešlo mnoho firiem na porady na diaľku, cez kanály ako Zoom a Microsoft Teams, a ak si práve vaša firma tie videá z porád niekam ukladá, stačí, aby jej tie dáta unikli (chybou administrátora alebo pri hekerskom útoku), aby mali falzifikátori pekných pár stoviek hodín kvalitného materiálu na spracovanie.

Skutočné kompromitujúce situácie nebudú mať váhu

Aký bude svet, v ktorom sa jedného rána môžete prebudiť a zistiť, že niekde po Twitteri koluje video, v ktorom vy sám pobehujete pred kamerou v oblečení Ku-klux-klanu, zdvíhate pravicu a vyznávate sa z toho, že poctivo oslavujete každé Putinove narodeniny? Nechá si váš zamestnávateľ vysvetliť, že ide o niečí nemiestny žart alebo sabotáž? A čo vaše okolie vrátane toho internetového?

Princíp, podľa ktorého ak hádžete na stenu dostatok špiny, vždy na nej niečo ostane, je na sociálnych sieťach už teraz dovedený k dokonalosti a vznikla tam posudzovacia, nezmieriteľná a nepriateľská atmosféra. A tú noví neprajníci vyslovene vyžívajú na to, aby náhodných ľudí podrobili virtuálnemu monsterprocesu a zničili ich. Žeby ich zastavila skutočnosť, že niečo bolo pravdepodobne sfalšované? Skôr asi nezastavila. Potreba zažiť trestajúci orgazmus je u nich veľmi silná a každá príležitosť poslúži.

Ale neistota bude fungovať aj opačným smerom. Úniky skutočných kompromitujúcich situácií už nebudú mať tú váhu, čo mali predtým. Tajné nahrávky, ktoré predtým viedli k pádu vlád a ničili ministrov, bude možné „odstreliť“ ako podvod a nikto nedokáže určiť ich skutočný status. Pri videohovore s cudzím človekom si nebudete môcť byť celkom istí, či náhodou nehovoríte s umelou inteligenciou, ktorá sa ako ten človek iba tvári. Pri sledovaní spravodajstva z nejakej budúcej vojny bude ťažké určiť, či ide o skutočné zábery z bojiska alebo produkt príslušného propagandistického oddelenia. Implicitná nedôvera sa stane základným stavom.

A ak môžeme súdiť podľa covidovej krízy, nastane aj opačná reakcia. Určitá časť ľudí uverí čomukoľvek a vytvorí komunity nedosiahnuteľné rozumom. Videá, na ktorých humanoidní jašteri pripravujú protislovanské alebo protičínske patogény v tajných laboratóriách prevádzkovaných CIA niekde v Moldavsku, budú brané ako zjavená pravda a skutočný stav sveta, o ktorom nemožno pochybovať.

Úprimne neviem, ako sa v takom svete bude žiť. Ale súčasný technický vývoj viac-menej zaisťuje, že sa o tom čoskoro presvedčíme.

Text pôvodne vyšiel na portáli Echo 24. Vychádza so súhlasom redakcie.

V úvode textu bola pôvodne chyba, vznikla pri preklade, za upozornenie ďakujeme a čitateľom sa ospravedlňujeme.