Na prvý pohľad to bol dokonalý príbeh pre našu dobu aj zemepisnú šírku. Francúzska výskumníčka v oblasti umelej inteligencie na svojom profile na sieti X oznamuje, že odchádza z Mistralu do Anthropicu v San Franciscu, aby sa mohla naplno venovať rozvoju umelej inteligencie.
Motiváciou nie sú len peniaze, hoci v Amerike bude platená viac ako kráľovsky. Hlavným dôvodom je podľa nej ponurá francúzska atmosféra: vysoké dane, prebujnená byrokracia a nefunkčný systém držaný pohromade už hlavne ideológiou.
K tomu pridáva osobnú skúsenosť z rokovaní na ministerstve financií. Tam jej údajne úradníci vysvetlili, že Francúzsko sa nemôže stať lídrom v umelej inteligencii, pretože dátové centrá majú príliš veľkú uhlíkovú stopu. Iné krajiny si ich síce postavia, znečistenie tam vznikne a modely potom budú používať všetci, ale Francúzsko bude mať aspoň čisté ruky. Je to zvláštna forma politickej útechy: vzdať sa technológie budúcnosti a nazvať to zodpovednosťou.
Modelový príbeh
Bol to text takmer podozrivo dokonalý. Obsahoval všetko, čo má dnešná európska debata o technológiách, úpadku a ambíciách obsahovať: talent, ktorý odchádza do Ameriky, domácu byrokraciu neschopnú rozlíšiť medzi priemyselnou stratégiou a ekologickou pózou, kontinent, ktorý chce regulovať budúcnosť, ale nevie ju vyrábať. A hlavne konkrétny ľudský príbeh, bez ktorého politická téza zvyčajne nepôsobí dosť silne.
K tomu ešte niekoľko dôležitých formálnych znakov. Osobná fotka dievčaťa za počítačom, ale bez toho, aby jej bolo vidieť do tváre. Odkaz bol jasný: iišlo o profesionálku, ktorá si predsa len trochu stráži súkromie. Nechýbala ani modrá fajka, ktorá profilu dodala punc, že ide o človeka, ktorý si platí predplatné.
Niet sa čo čudovať, že sa tento post rozšíril po celej Európe. A doputoval aj na české sociálne siete, kde vzbudil pozornosť. Mistral je skutočne francúzska firma. Bercy je hovorový výraz pre francúzske ministerstvo financií.
Kto si dal tú prácu a post si spätne vyhľadal ešte predtým, ako zmizol, našiel tam množstvo pochvalných reakcií od ľudí pracujúcich vo francúzskom technologickom sektore. Text bol napísaný elegantne, sebavedome a s presne dávkovanou civilizačnou úzkosťou.
Bol to malý manifest európskeho zlyhania. Taký dobrý, že ho zdieľal aj Laurent Wauquiez, bývalý minister pre európske záležitosti a neskôr školstvo a jeden z potenciálnych kandidátov na francúzskeho prezidenta, ako „veľmi silné svedectvo“ o tom, že Francúzsko pre zlé politiky stráca talenty.
Anatómia dokonalého podvodu
Čím viac text pútal pozornosť, tým viac sa zároveň začalo ukazovať, že s jeho autorkou je niečo v neporiadku. Účet vznikol len nedávno. Osobu s takým životopisom nebolo možné dohľadať na LinkedIn ani inde v bežných profesijných stopách. Meno pripomínalo inú, reálne existujúcu akademičku, ale kariérny profil nesedel. A celá epizóda nakoniec skončila zmiznutím účtu na virtuálnom cintoríne internetu. Najjednoduchšie vysvetlenie je, že išlo o veľmi vydarený trolling. Možno išlo o zámerne vytvorenú persónu, ktorá mala otestovať, koľko ľudí sa nechá nachytať na dokonalý príbeh.
Iné vysvetlenie je prozaickejšie: obsah vytvorený alebo vylepšený umelou inteligenciou, šírený pre viralitu a monetizáciu. Tento fenomén v poslednom čase rastie. Mnohé účty, často prevádzkovaných z chudobnejších krajín, zarábajú na šírení virálneho obsahu v bohatých ekonomikách. Zopár dolárov za úspešný post je u nás zanedbateľná suma, ale inde môže znamenať viac ako deň tvrdej manuálnej práce. Umelá inteligencia tak neprináša len nové nástroje produktivity, ale aj priemyselnú výrobu informačného balastu.
Tento prípad je však cenný práve preto, že ukazuje niečo hlbšie ako obyčajný internetový podvod. Ukazuje, ako bude vyzerať dezinformácia v ére umelej inteligencie. Nebude nutne smiešna, kostrbatá a ľahko vyvrátiteľná. Bude plynulá, kultivovaná, ideologicky presná a psychologicky zvodná. Nebude nám odporovať. Bude nám dávať presne ten príklad, ktorý sme hľadali.
Nová éra informačnej manipulácie
Tým sa radikálne mení aj debata o boji s dezinformáciami. Ešte pred niekoľkými rokmi bola postavená hlavne na predstave cudzieho pôvodu: ruská propaganda, čínske vplyvové operácie, trolie farmy, nepriateľské informačné kampane. V takom svete sa zdalo, že kľúčové je označiť zdroj. Len čo človek vedel, že určitá informácia pochádza z Kremľa alebo z iného autoritárskeho režimu, mal aspoň základné vodidlo, ako s ňou zaobchádzať.
To však nikdy nebolo to isté ako dôkaz nepravdivosti. Aj propaganda môže občas opisovať reálny problém, len ho zasadzuje do účelového rámca. Práve preto boli plošné zákazy často márne, a niekedy dokonca kontraproduktívne. Zakázaný obsah ľahko získava auru zakázaného ovocia. Jeho priaznivci potom nemajú pocit, že čítajú manipuláciu, ale že sa dostali k pravde, ktorú im niekto nechce dovoliť počuť.
Navyše tým vznikol ešte jeden problém. Ak každú nepríjemnú interpretáciu sveta označíme za dezinformáciu, prestávame sa pýtať, prečo jej niekto verí. A to je mimoriadne nebezpečné vo chvíli, keď ide o vojnu, geopolitický konflikt alebo spoločenský rozkol.
Pochopiť, ako druhá strana konflikt vidí, neznamená s ňou súhlasiť. Je to nevyhnutná podmienka na to, aby vôbec mohlo vzniknúť nejaké politické riešenie. Najlepšie mierové dohody napokon nebývajú tie, z ktorých jedna strana odchádza triumfálne spokojná, ale tie, s ktorými sú všetci trochu nespokojní, pretože práve to znamená, že každý musel niečo obetovať.
Starý boj s dezinformáciami bol preto často jalový. Sústredil sa na nálepky, pôvod a zákaz, ale nedokázal zachytiť najnebezpečnejší typ informačnej manipulácie: tú, ktorá nevyzerá ako cudzia propaganda, ale ako naša vlastná myšlienka dotiahnutá do dokonalej anekdoty.
Pasca vlastného presvedčenia
Práve to ukázal prípad údajnej francúzskej výskumníčky odchádzajúcej z Mistralu do Anthropicu. Nebola to silná historka preto, že by bola absurdná. Bola silná preto, že absurdná nebola.
Francúzsko skutočne bojuje s byrokraciou. Európa skutočne často hovorí o inováciách jazykom regulácie. Americké technologické firmy skutočne priťahujú talenty aj kapitál. Všetko v tom príbehu bolo dostatočne pravdepodobné na to, aby si ľudia prestali overovať, či je aj pravdivé.
Najnebezpečnejšia dezinformácia v ére umelej inteligencie preto nebude tá, ktorá znie ako nezmysel. Bude to tá, ktorá dokonale zapadne do toho, čo si už myslíme.