Dráma plášťa a dýky vo svete umelej inteligencie

Niekoľko mesiacov po spustení prvého chatbota sa zdá, že diskusia o generatívnej umelej inteligencii pre laikov sa vyčerpala, akoby už bolo povedané všetko o potenciáli aj nebezpečenstvách tejto novej technológie. Napriek rôznym varovným otvoreným listom po svedectve novinára, ktorý na chatbote integrovanom do prehliadača Bing oživil „zlú" formu ChatGPT známu ako Sidey, nedošlo k ďalšiemu odhaleniu existenčnej hrozby umelej inteligencie. Výskumníci a spoločnosti boli opatrní.

Vývoj pokračoval, ale v zákulisí. Firmy uvádzali na trh nové, výkonnejšie modely, ale nakoľko sú prevratné alebo nie, pochopili len odborníci. Tí sa delili na „ustráchancov" a „akcelerátorov".

Vývoj pokračoval vizualizačnými programami, ktorých prezentáciu však poznačilo, že priťahujú používateľov s vkusom formovaným obalmi metalových albumov a príbuzných žánrov. Existuje aj niekoľko prvých štúdií, ktoré sa snažia modelovať vplyv generatívnej umelej inteligencie na reálne pracovné situácie – zatiaľ s výsledkom, že AI vyrovnáva – teda viac zvyšuje výkon priemerných a podpriemerných ľudí než tých vynikajúcich. V zásade však laik môže predbežne konštatovať, že všetky nové komunikačné technológie najprv využili pornoherci a podvodníci a muselo sa chvíľu počkať, kým naplno využili svoj potenciál – a že s AI to nebude inak.

Až koncom minulého týždňa prišla nečakaná dráma na OpenAI, na ktorú budú dlho spomínať nielen fanúšikovia umelej inteligencie, ale aj fanúšikovia manažmentu, podnikových štruktúr a súvisiacich odvetví. Dráma takého kalibru, že sa nezdá absurdná ani myšlienka filmového spracovania v seriáli HBO.

Kto po kom išiel

Zatiaľ vieme len veľmi málo o tom, kto po kom išiel. Vieme tri veci: Ak ste mali predsudky voči neziskovým organizáciám, potvrdili sa v jednom dôležitom ohľade – ako podnikové štruktúry sa neziskové organizácie rozhodne neosvedčili. Po druhé, peniaze, ktorých úloha mala byť v podnikovej štruktúre OpenAI minimalizovaná, namiesto toho potvrdili svoju moc. A napokon, ľudia pracujúci na vývoji umelej inteligencie schopnej konkurovať ľuďom [skrátene AGI – artificial general intelligence pozn. red.] sú rovnako náchylní na iracionálne správanie, napríklad na kult osobnosti, ako ktokoľvek iný.

Čo sa teda stalo? OpenAI bola založená v roku 2015 ako nezisková organizácia. Viaceré technologické hviezdy prisľúbili organizácii, ktorej poslaním bol vývoj umelej inteligencie. Finančné prostriedky v hodnote jednej miliardy dolárov sa však nikdy celkom všetky nevrátili. A to nie pre zisk, ale pre samotnú vec. Organizáciu riadi správna rada, ktorá nezastupuje záujmy investorov, ako je v tomto odvetví zvykom, ale „ľudstva". Správna rada v zásade nominuje sama seba, členovia nominujú svojich nástupcov.

V roku 2018 si výskumníci uvedomili, že finančné potreby na vývoj umelej inteligencie sú oveľa väčšie, ako si predstavovali, a prišli s nápadom: založia ziskový subjekt na vývoj komerčne využiteľných produktov, a bude možné doň investovať. Výnosy, ktoré si investori môžu odniesť, sú však obmedzené – od sedemnásobku do stonásobku ich investície, v závislosti od toho, ako skoro investovali. Zvyšok zostáva v neziskovej organizácii. Drvivú väčšinu týchto investícií, približne 13 miliárd dolárov, urobil Microsoft.

Sam Altman na scéne

Dušou podniku bol od začiatku Sam Altman. Po vytvorení nie príliš úspešnej sociálnej siete sa stal investorom rizikového kapitálu, partnerom v známom inkubátore startupov Y Combinator Paula Grahama. Ako sám hovorí, zarobil viac peňazí, ako bude niekedy potrebovať. Potom prišiel OpenAI a dnes je Altman prakticky tvárou umelej inteligencie. Pre širokú verejnosť, pre akcelerátorov medzi odborníkmi, pre politikov, pred ktorými dokáže hovoriť oveľa obratnejšie ako iní šéfovia technologických spoločností. A v neposlednom rade pre zamestnancov OpenAI, ktorých správanie bez preháňania vykazuje známky zbožňovania.

Minulý týždeň správna rada prekvapila svet oznámením na X, predtým Twitteri (ktorý nestratil na popularite medzi ľuďmi z technologického sektora), že odvolala Sama Altmana. Najkonkrétnejším dôvodom bolo, že Altman „v komunikácii s predstavenstvom nehovoril vždy pravdu". Nikdy neuviedla, o aký konkrétny problém išlo.

Ako sa to podarilo? V správnej rade bol sám Altman a jeho spolupracovník a manažér OpenAI Greg Brockman. Spoluzakladateľ a hlavný vedecký pracovník OpenAI Ilja Sutskever bol tiež členom predstavenstva. Z vonkajšieho sveta, alebo, ako sa hovorí, nezávislých riaditeľov, to boli šéf webovej stránky Quora Adam D'Angelo, podnikateľka a výskumníčka z RAND Corporation Tasha McCauleyová a profesorka z Georgetownskej univerzity Helen Tonerová.

Poslední traja boli tí, ktorí sa snažili o Altmanovo odvolanie. Sutskever sa k nim pridal z dôvodov, ktoré zostávajú záhadou, nad ktorou všetci krútia hlavou. A to bolo všetko.

Príbeh bol na objasnenie prerozprávaný tak, že Altman tých troch znepokojoval. A to jednak svojím laxným prístupom k otázkam bezpečnosti umelej inteligencie, ako aj snahou o komercializáciu OpenAI. D'Angelo pred niekoľkými mesiacmi povedal, že OpenAI sa rozhodne nesmie stať ďalšou veľkou dominantnou technologickou spoločnosťou. Zároveň však niekoľko ľudí vrátane krátkodobého dočasného šéfa uviedlo, že spor sa rozhodne netýkal bezpečnosti.

Kult a peniaze na scéne

Teraz sú na rade dva spomenuté faktory: kult a peniaze. Najprv kult. Zamestnanci začali, často v koordinovaných správach na Twitteri, vyjadrovať Altmanovi podporu. Zorganizovali petíciu požadujúcu jeho návrat a vyhrážali sa, že ak sa nevráti, odídu. Petíciu nakoniec podpísalo 750 z 800 zamestnancov. Sutskever – údajne po hádke s Brockmanovou manželkou – na Twitteri napísal, že všetko ľutuje a stojí za Altmanom.

A medzitým peniaze: šéf Microsoftu Satya Nadella sa dohodol s Altmanom, Brockmanom a niekoľkými ďalšími ľuďmi z OpenAI, že prejdú do Microsoftu a budú viesť samostatný výskumný subjekt. Všetci zamestnanci OpenAI, ktorí majú o túto prácu záujem, ju vraj dostanú.

Zvyšok predstavenstva OpenAI medzitým hľadal riešenie. Po tom, čo na jeden deň najali dočasného vedúceho, prijali na túto pozíciu manažéra Emmetta Sheara. Ten oznámil, že za svoju hlavnú úlohu považuje prísť na koreň tomu, čo sa stalo.

V tej chvíli však nebolo jasné, či on a traja členovia správnej rady, ktorí ho vymenovali, majú čo riadiť. Vyhlásenie, ktoré v tom čase zverejnil šéf Microsoftu Nadella, stojí za dlhú citáciu:

„Sme aj naďalej odhodlaní spolupracovať so spoločnosťou OpenAI a veríme v náš produktový plán (…) Tešíme sa na stretnutie a spoluprácu s Emmettom Shearom a novým tímom vedenia. A sme nesmierne radi, že sa môžeme podeliť o správu, že Sam Altman a Greg Brockman sa spolu s kolegami pridajú k Microsoftu a povedú nový tím Advanced AI Research. Tešíme sa, že im rýchlo poskytneme zdroje potrebné na dosiahnutie úspechu."

Ako to vystihol komentátor Ben Thompson: „Dalo by sa povedať, že Microsoft práve kúpil OpenAI za nula dolárov a s nulovým rizikom protimonopolného konania."

V utorok večer prišla správa, že Sam Altman sa vracia do OpenAI. A obe strany sa dohodli na zložení novej správnej rady. Predsedom bude bývalý šéf spoločnosti Salesforce Brad Taylor, D'Angelo zostáva a novým členom je bývalý minister financií a bývalý prezident Harvardu, ekonóm Larry Summers. „Som rád, že som bol súčasťou riešenia," vyhlásil dvojdenný generálny riaditeľ Shear.

Takže peniaze vyhrali. Zvíťazila však skôr štandardná firemná štruktúra, v ktorej sú zastúpené záujmy tých, ktorí investujú, a tých, ktorí vykonávajú prácu. Konanie tých, ktorí si predstavujú, že zastupujú „ľudstvo", zatiaľ čo všetci ostatní len sebecké záujmy, bolo odkázané do patričných medzí. Známy ekonóm Tyler Cowen v tejto súvislosti upozornil na článok profesora Georgea Denta z roku 2014 Corporate Governance without Shareholders: Lessons from Nonprofit Organizations (Riadenie spoločností bez akcionárov: ponaučenia z neziskových organizácií).

V závere uvádza: „Rozumný konsenzus odborníkov na neziskové organizácie sa zhoduje v tom, že ich riadenie je vo všeobecnosti otrasné, horšie ako riadenie ziskových spoločností. Riaditelia neziskových organizácií sú vo všeobecnosti zle informovaní, hádaví, nemajú predstavu o svojej správnej role a ovláda ich generálny riaditeľ – ako by predpovedali zástancovia prvenstva akcionárov."

Text pôvodne publikovali v Echo24. Vychádza so súhlasom redakcie.