Bailey sa v princípe obáva, že môžu nastať dve veci súčasne.

Po prvé, niektoré z týchto spoločností nevyhnutne zlyhajú alebo podľahnú konkurencii, čím stiahnu so sebou aj investorov.

Po druhé, aj tie, ktoré uspejú, nemusia priniesť zisky ani zďaleka dostatočné na splatenie ohromných dlhov, ktoré si vzali na svoje financovanie, čo spôsobí vážny trhový šok.

Čosi také má už aj precedens. Na začiatku tohto storočia došlo v rámci takzvanej „dotcomovej bubliny“ k obrovským investíciám do webových stránok a internetových platforiem, ktoré boli vnímané ako budúcnosť všetkého, od starostlivosti o domáce zvieratá až po rezerváciu dovoleniek. Nakoniec drvivá väčšina týchto investícií zlyhala, zatiaľ čo len niekoľko veľkých spoločností – ako Amazon a Google – premenilo sľuby na globálne úspechy.

Výsledkom bola závažná korekcia trhu.

Dnes je v stávke výrazne viac. Objem vtedajších investícií je totiž v porovnaní s rozsahom súčasnej bubliny v oblasti umelej inteligencie priam zanedbateľný.

Druhý problém: čo ak je umelá inteligencia jednoducho zlý nástroj?

Baileyho druhá obava je ešte desivejšia ako prvá. Z jeho listu sa javí ako ešte bezprostrednejšie riziko pre finančnú stabilitu.

V skratke poukazuje na to, že rýchly pokrok v oblasti umelej inteligencie a výkon, ktorým niektoré modely umelej inteligencie v súčasnosti disponujú, môžu umožniť skutočne hrozivé a lacné kybernetické útoky.

Minulý mesiac sa objavili správy o závažnom incidente v spoločnosti OpenAI, počas ktorého sa modely používané počas interných hodnotení kyberbezpečnosti vymkli plánovaným kontrolám, získali prístup na internet a ohrozili časti systémov spoločnosti Hugging Face.

V typicky zdržanlivom odkaze na tento incident Bailey hovorí: „Nedávny vývoj podčiarkol, že mnohé jurisdikcie nemajú zavedené protokoly na riadenie vývoja, uvoľňovania a nasadzovania pokročilých špičkových modelov umelej inteligencie, čo zvyšuje riziká pre finančný sektor aj ďalšie odvetvia.“

Preložené do bežnej reči: krajiny G20, ktorým píše, sú podľa neho zraniteľné voči potenciálnym útokom na ich trhy. Tie sa môžu prejaviť v podobe kyberkrádeží, ale aj niečoho oveľa horšieho.

Skaza a beznádej

Baileyho varovania sú neúprosné: veľké množstvo investorov sa nechalo zlákať predstavou umelej inteligencie ako ďalšej veľkej hranice v hospodárskom pokroku ľudstva a bilióny dolárov boli investované do niečoho, čo je v podstate stávka na to, že tento pokrok prinesie zisky a prosperitu.

V skutočnosti však môže rovnako ľahko priniesť skazu a beznádej.

To, že umelá inteligencia je schopná nahradiť významnú časť ľudskej práce, je už zrejmé každému, kto ju využíva v profesionálnej sfére. Niekoľko modelov umelej inteligencie už dokáže prevziať úlohy, ktoré tradične vykonáva osobný asistent. V právnej oblasti je už schopná vypracovať základné návrhy, revízie zmlúv či vykonávať iné úlohy, ktoré sa tradične zverujú stážistom alebo začínajúcim spolupracovníkom. Dokonca aj v médiách je umelá inteligencia dôslednejším redaktorom než väčšina ľudí a len málokedy robí gramatické chyby.

Nahradenie ľudskej práce môže priniesť zisky spoločnostiam zaoberajúcim sa umelou inteligenciou a úspory ich zákazníkom. Nahradení ľudia však jednoducho nezmiznú. Stále je potrebné ich podporovať a financovať prostredníctvom systému sociálneho zabezpečenia alebo im nájsť iné pracovné miesta.

Momentálne nie je celkom jasné, či je nahradenie veľkej časti ľudskej práce spoločensky alebo politicky žiaduce. Ani to, či majú tvorcovia politík predstavu, čo by to znamenalo.

Je tiež možné, že konečný úspech umelej inteligencie je dramaticky preceňovaný práve pre paradox, ktorý odhaľuje incident s Hugging Face: modely by mohli mať desivo efektívne schopnosti, ak by boli vyvinuté na maximum. Schopnosti vytvárajúce systém, ktorý ľudia nedokážu kontrolovať a ktorého vývoj by sa stal v skutočnosti existenciálne nebezpečným.

Ak by verejnosť alebo vlády dospeli k tomuto záveru, vývoj by sa mohol zastaviť predtým, než sa dosiahne „revolučný“ prah.

Kone padajú. Neustále

Ani to, že sú tieto riziká relatívne zrejmé, zatiaľ neodradilo investorov od obrovských stávok na umelú inteligenciu. Analogicky je to podobné ako staviť všetky svoje peniaze na favorita v pretekoch s prekážkami: je pravdepodobné, že kôň vyhrá alebo sa aspoň dobre umiestni, ale najprv musí prekonať 15 prekážok.

Bailey to vidí takto: nielenže kôň môže spadnúť, ale samotná suma peňazí, ktorá sa naňho stavia u bookmakerov, zanechá v prípade jeho neúspechu obrovské množstvo ľudí bez domova alebo majetku.

Pre vlády predstavuje problém, že na voľnom trhu nemôžu ľuďom prikázať, aby neinvestovali do umelej inteligencie alebo do spoločností, ktoré sľubujú, že budú vlastniť budúcnosť. Nemôžu obmedziť tok kapitálu. Môžu sa len pripraviť na to, čo sa stane, keď sa tisíce investorov vrátia z dostihovej dráhy a oznámia, že prišli o všetko.

Aký z toho všetkého plynie záver?

Ak umelá inteligencia zlyhá, praskne investičná bublina. Ak uspeje, dôsledky môžu byť ešte destabilizujúcejšie.

Dalo by sa povedať, že je to dobrá doba na to, aby bol človek pesimistom.

Pôvodný text bol publikovaný na webe sesterského denníka Statement.com.