V prvom rade si musíme uvedomiť, že umelá inteligencia (AI) nie je nástroj. „Je to agent schopný rozhodovať sa o vlastných krokoch,“ vyhlásil na pôde WEF vo švajčiarskom Davose izraelský historik a futurológ Yuval Noah Harari.
„Nôž je nástroj. Môžete ho použiť na krájanie šalátu alebo na spáchanie vraždy. AI je ako nôž, ktorý sa sám rozhodne, či nakrája šalát alebo spácha vraždu,“ varoval autor bestsellerov ako Sapiens, Homo Deus a 21 lekcií pre 21. storočie.
„Druhá vec je tá, že AI sa pre svoj ďalší autonómny vývoj potrebuje naučiť klamať,“ pokračoval. Rozmach toho, čo poznáme ako ľudské myslenie, sa zdokonalil „práve skrze klamstvo a manipuláciu“.
„A musím vám povedať, že AI sa v niektorých prípadoch už klamať naučila.“
Tretia vec je otázka, či AI „myslí“. „Ak je myslením skladanie slov do zmysluplného poradia a dopĺňanie slov do viet, môžem vám povedať, že AI už teraz ‚myslí‘ lepšie ako väčšina ľudí,“ vyhlásil Harari.
V ľudskej histórii podľa Harariho dochádzalo ku konfliktu medzi slovom ako „pravdou“ a vonkajším svetom ako „absolútnou pravdou“. „Sú ľudia, ktorí by zabili svojho syna – geja, pretože iní ľudia skrze Bibliu mu to povedali. A potom by boli druhí, ktorí by upozornili: ‚Moment, veď sú to len slová a duch lásky by ich mal presahovať‘,“ povedal intelektuál, ktorý žije viac ako dekádu v homosexuálnom vzťahu.
Tento konflikt sa bude „externalizovať“ a už nebude vnútri ľudskej duše, ale medzi človekom a AI modelom, ktorý bude reprezentovať „slovo“.
„Prednedávnom som sa dozvedel, že AI modely pre nás ľudí vymysleli vlastné označenie. Nazývajú nás pozorovatelia (watchers),“ poznamenal.
AI tiež prirovnal k imigrantom, ktorí „naozaj budú brať ľuďom prácu a bude znepokojujúce žiť spolu s nimi“. „A skutočne, ako by ste sa cítili, ak by vaša dcéra začala chodiť s AI frajerom?“ položil ďalšiu kontroverznú otázku.
Preto bude potrebné vyrovnať sa so statusom umelej inteligencie, ktorá možno jedného dňa nadobudne legálne práva. „Veľké korporácie sú právnickými osobami,“ poznamenal s tým, že na Novom Zélande majú právnu subjektivitu aj rieky, a v Indii niektoré božstvá.
„Alphabet (vlastník Googlu) je skutočnou osobou v právnom slova zmysle. Môže vás žalovať, otvoriť si účet v banke, môže odpovedať na vaše sťažnosti,“ pokračoval Harari vo svojej alegórii. „Na rozdiel od korporácie či hinduistického božstva však bude AI model skutočne rozhodovať ako osoba,“ upozornil.
„Budú mať AI systémy právo založiť si účet na TikToku alebo Facebooku? Nuž, na zodpovedanie tejto otázky je už trochu neskoro, keďže predsa poznáme reálne boty – robotizované účty, ktoré sú tam už teraz prítomné,“ uzavrel.
V diskusii sa ho neurologička Irene Traceyová pýtala, ako donútiť ľudí, aby „neprestali rozmýšľať“, a teda aby nerobili „outsourcing“ vlastného myslenia do umelej inteligencie.
„V súčasnosti stále myslíme lepšie ako AI [v predchádzajúcom výroku myslel na jednoduchšie myšlienkové úkony, pozn. red.],“ ubezpečil Harari s tým, že „sa musíme pripraviť na moment, keď to nebude platiť“. Ako hypotetický príklad použil možné vytvorenie „nového finančného systému“, ktorému AI bude rozumieť a ľudia nie.
„Ako vytrénujete politika alebo ekonóma, aby rozumel ekonomickému systému, ktorý je vysoko nad jeho úroveň?
Predstavte si, že AI vytvorí superkomplexný finančný systém, v ktorom budeme ako kone – viete, kone vidia, že s nimi ľudia obchodujú, že ich vymenia za niekoľko okrúhlych zlatých vecí, ale nedokážu pochopiť koncept peňazí,“ opísal historik.
„A my môžeme byť v tej istej situácii. Predstavte si Davos o desať rokov. Možno žiadny človek v tejto miestnosti nebude rozumieť finančnému systému, pretože v ňom dominujú AI modely a tie vymyslia nové finančné teórie aj nástroje, ktoré budú matematicky za hranicami kapacity ľudského mozgu,“ zakončil svoje vystúpenie na Svetovom ekonomickom fóre Harari.
(wef, sab)