Pre Silicon Valley je to vyhlásenie vojny. Už desaťročia je na špičke svetového technologického vývoja a určite sa tejto pozície nebude chcieť vzdať. Nedávno ohlásený projekt Trumpovej administratívy Stargate (Hviezdna brána), ktorý má naliať 500 miliárd dolárov do výskumu umelej inteligencie, zrazu vyzerá ako rozumná investícia. Spojené štáty sa zároveň už teraz snažia podkopať čínsky vývoj sankciami a zákazmi vývozu. Umelá inteligencia sa rýchlo stáva otázkou národnej bezpečnosti.
Sam Altman, šéf spoločnosti OpenAI, ktorá stojí za projektom ChatGPT, povedal, že umelá inteligencia si vynúti „zmenu spoločenskej zmluvy“. To vyvolalo pobúrenie – mnohí tvrdia, že sa hrá na inžiniera ľudstva. No Altman mal na mysli, že zmeny, ktoré prichádzajú s AI, sú obrovské a zmenia celú spoločnosť. Sme vlastne v rovnakej situácii ako naši predkovia v 18. storočí, ktorí mohli sledovať, ako rad majstrov zdokonaľuje parný stroj, čo odštartovalo priemyselnú revolúciu, modernu a zmenilo svet na nepoznanie.
Predstava, že niečo podobné čaká aj nás, je, samozrejme, desivá. Výzvy na reguláciu alebo dokonca zastavenie vývoja sú pochopiteľné, ale odsúdené na neúspech. Títo ľudia sú dnešným ekvivalentom britských ludditov, ktorí na začiatku 19. storočia zo strachu pred zmenou ničili automatizované tkáčske stroje. Ich boj proti automatizácii a modernizácii však nemal šancu na úspech.
Pred rokom som sa zúčastnil na stretnutí na americkom ministerstve zahraničných vecí, kde skupina diplomatov nadšene hovorila o úsilí vytvoriť globálny regulačný rámec pre umelú inteligenciu. Na moju otázku, čo na to Čína, nedokázali presvedčivo odpovedať. Ukázalo sa, že keď sa niektoré krajiny snažia regulovať AI, iné to ignorujú a využívajú svoju konkurenčnú výhodu. Pandorina skrinka umelej inteligencie je otvorená – nezostáva nám nič iné, len zabezpečiť, aby sa to neskončilo katastrofou.
DeepSeek ukazuje temnú stránku umelej inteligencie. Dôsledne cenzuruje odpovede na témy citlivé pre čínsku komunistickú stranu. "Len sa ho nepýtajte na tibetský exil, prvú manželku Si Ťin-pchinga, hladomor po Veľkom skoku, následky kultúrnej revolúcie, hongkonské protesty, ‚koňa z trávy a hliny‘, ‚ tankistu‘, ‚prázdnu stoličku‘ alebo na to, čo sa stalo Jimmymu Laiovi. DeepSeek si o nich nemyslí nič,“ zhrnul svoje skúsenosti novinár Ross Anderson pre Spectator.
„Tráva a kôň z hliny“ je odkaz na vulgárnu čínsku slovnú hračku, „tankista“ na neznámeho muža, ktorý zastavil ozbrojenú kolónu počas masakry na Námestí nebeského pokoja, a „prázdna stolička“ na disidenta Liou Siao-poa. Ide o brilantný príklad toho, ako sa dá umelá inteligencia zneužiť na kontrolu toku informácií.
Text pôvodne publikovali na webe Echo24. Vychádza so súhlasom redakcie.
