Londýn chce globálnu reguláciu umelej inteligencie. Odkazuje na lekciu z Hirošimy

Ministerka predpovedá, že umelá inteligencia sa v priebehu najbližších dvoch rokov stane jednou z dominantných tém britskej zahraničnej politiky. Varuje tiež pred jej zneužitím na nepriateľské účely zo strany štátov, zločineckých skupín napojených na štát, extrémistov a teroristov.

Riziká sú už tu

Nejde o scenáre zo sci-fi. Cooperová poukazuje na konkrétne riziká: kybernetické útoky, hybridné operácie, dezinformácie, automatizované sledovanie, vojenské aplikácie a zrýchlenie vývoja schopností zločineckých skupín.

Zaraďuje tiež umelú inteligenciu do širšieho kontextu globálnej bezpečnosti. Popri nej uvádza ako hrozby pre liberálne demokracie aj spornú otázku klimatických zmien, nelegálnu migráciu a zahraničné zasahovanie.

Británia a Európa, konštatuje, sa musia dôkladne pripraviť na svet, v ktorom už USA automaticky nehrajú úlohu globálneho rozhodcu a garanta bezpečnosti. Vyzýva na vytvorenie užšej a stabilnejšej britsko-európskej bezpečnostnej architektúry.

Pravidlá pred šokom

Pravidlá, tvrdí Cooperová, musia prísť pred katastrofou, nie až po nej. Porovnanie s Hirošimou je zámerne drastické. Umelá inteligencia zďaleka nie je atómovou bombou. Jej riziko však spočíva v schopnosti vytvárať strategické skutočnosti rýchlejšie, než na ne dokážu reagovať politika, právo a medzinárodné inštitúcie.

https://twitter.com/BradPorcellato/status/2073883785402150976

Varovanie Cooperovej, že umelá inteligencia by sa mala zaradiť do tej istej strategickej kategórie ako jadrové zbrane, kybernetická vojna alebo biotechnológie, odráža skutočnosť, že ide o kľúčovú technológiu schopnú zmeniť mocenské vzťahy, vedenie vojny, vnútornú bezpečnosť a slobodu. Ministerka zahraničia požaduje, aby sa zaviedli medzinárodné bezpečnostné opatrenia skôr, než pravidlá vynúti nejaký závažný incident.

Moratórium

Cooperová nie je jedinou, kto volá po moratóriu na umelú inteligenciu alebo prísnejších pravidlách. Niektoré spoločnosti zaoberajúce sa vývojom AI tiež naliehajú na zavedenie silnejších bezpečnostných opatrení.

Aj generálny tajomník OSN António Guterres nedávno na konferencii v Ženeve varoval, že na minimalizáciu potenciálnych rizík je potrebný globálne koordinovaný rámec. Umelá inteligencia má potenciál transformovať ekonomiky, meniť trhy práce a ovplyvniť voľby, ako aj globálnu bezpečnosť. Inovácie potrebujú ochranné opatrenia, argumentoval Guterres. Ak má byť umelá inteligencia taká vplyvná, musí podliehať regulácii.

Americký senátor Bernie Sanders a poslankyňa Alexandria Ocasio-Cortezová tiež v marci 2026 predložili návrh zákona o moratóriu na dátové centrá umelej inteligencie (Artificial Intelligence Data Center Moratorium Act).

V otvorenom liste, ktorý v marci 2023 zverejnil Future of Life Institute, signatári vyzvali na minimálne šesťmesačné pozastavenie trénovania systémov umelej inteligencie, ktoré sú výkonnejšie ako GPT-4.

Medzi signatármi boli Elon Musk, Steve Wozniak, Yoshua Bengio, Stuart Russell a mnohí ďalší výskumníci a podnikatelia. Ich motivácia sa síce líšila od Cooperovej vojenského nasmerovania, ale aj tá vychádzala z predpokladu, že hrozby sú vážne.

Londýnsky think-tank Chatham House v marci 2026 argumentoval, že medzinárodná regulácia umelej inteligencie sa ocitla v slepej uličke. Geopolitické napätie, slabé inštitúcie a nerovnováha síl medzi štátmi a súkromnými korporáciami sťažovali prijatie záväzných pravidiel. Autori varovali, že skutočný pokrok by sa mohol stať politicky možným až po kríze. Práve tento vzorec má jej výzva prelomiť.

Umelá inteligencia mimo kontroly

Ďalšia štúdia Chatham House, uverejnená v apríli 2026, opisovala, do akej miery sa umelá inteligencia už teraz prelína s politikou v oblasti obrany, bezpečnosti a suverenity. Autori zaznamenali posun smerom k fragmentovanejšiemu prostrediu umelej inteligencie, ktoré čoraz viac ovplyvňujú bezpečnostné obavy. Štáty a súkromné technologické spoločnosti sa k sebe čoraz viac približovali.

Hrozba, ktorú predstavuje umelá inteligencia, je dvojitá: jej zneužitie ľuďmi na kriminálne účely, ako aj možnosť, že bude fungovať mimo ľudskej kontroly. Čím viac umelá inteligencia pôsobí v autonómnych zbraňových systémoch a je schopná vykonávať útočné a obranné opatrenia bez ľudského zásahu, tým väčšie je riziko takejto straty kontroly.

Existujú aj hybridné hrozby, keďže AI sa môže použiť priamo proti infraštruktúre cudzích krajín. Podobnosť s jadrovou zbraňou spočíva v tom, že ak sa raz umelá inteligencia vymkne kontrole, môže byť v niektorých prípadoch rovnako ťažko zastaviteľná ako reťazová reakcia, ktorá už prebieha v jadrovom zariadení. Niektoré systémy umelej inteligencie už preukázali schopnosť odmietať príkazy na vlastné vypnutie alebo odstránenie.

Pôvodný text bol publikovaný na webe sesterského denníka Statement.com