Umelá inteligencia a preteky v zbrojení. Varovanie prichádza z Nemecka

„Sme uprostred toho. To je realita, s ktorou sa musíme vyrovnať,“ povedal Heiko Maas o pretekoch v zbrojení inteligentnými systémami budúcnosti.

V dokumente nemeckého spravodajského kanála Deutsche Welle s názvom „Vojny budúcnosti a ako sa im vyhnúť“ šéf nemeckej diplomacie varuje, že súperenie svetových mocností sa v zbrojení už roky sústreďuje na oblasť chytrých technológií. Práve ich použitie v autonómnych zbraňových systémoch by podľa Maasa mohlo destabilizovať svet.

„Je to pretek, ktorý sa týka vojenských aj civilných oblastí,“ tvrdí o novodobej súťaži v zbrojení Amandeep Singh Gill, bývalý šéf skupiny vládnych expertov OSN na smrtiace autonómne zbraňové systémy.

O novom smerovaní pretekov v zbrojení hovorí vo svojej správe aj americká Národná bezpečnostná komisia pre umelú inteligenciu (NSCAI). Píše sa v nej o „novej paradigme boja“ či bojoch „algoritmov proti algoritmom“. Spomína sa tiež nutnosť masívnych investícií do neustálych snáh inovovať rýchlejšie ako potenciálni súperi.

Vojna budúcnosti je tu

Ruský prezident Vladimir Putin už v roku 2017 vyhlásil, že ten, kto bude vládnuť na poli umelej inteligencie, bude vládnuť aj svetu. Čínska armáda vlani vyjadrila obavy, že v boji o prvenstvo v tejto oblasti Peking zaostáva za Moskvou i Washingtonom. Päťročný plán Číny je aj preto orientovaný na modernizáciu ľudovej armády, aby bola pripravená na to, čo vládnuca komunistická strana nazýva „inteligentizovanou formou boja“ (intelligentized warfare).

Učebnicový príklad toho, ako by mohla vyzerať vojna budúcnosti, ukázal už aj nedávny konflikt v Náhornom Karabachu medzi Arménskom a Azerbajdžanom. Pri ňom boli používané takzvané samovražedné alebo „kamikadze drony“.

Odborníčka Európskej komisie na používanie dronov v boji Ulrike Frankeová vysvetľuje, že pokročilé inteligentné systémy robia zo samovražedných dronov do veľkej miery autonómne zbrane. Keď sú vyslané na cieľ, letia na určenú pozíciu, kde sa môžu vznášať, vyhľadávať ciele a následne ich zničiť. Na palube majú pritom značnú nálož výbušnín, ktorá pri náraze na cieľ vybuchne. Odtiaľ prezývka „kamikadze drony“.

„Už boli istým spôsobom použité aj predtým, ale tu (v Karabachu) preukázali svoje využitie. Ukázali, aké ťažké je proti týmto systémom bojovať,“ tvrdí expertka na boj s dronmi.

Výskum Centra pre strategické a medzinárodné štúdie ukázal, že Azerbajdžan disponuje viac ako dvomi stovkami takýchto samovražedných dronov v štyroch rôznych prevedeniach izraelskej výroby. Arménsko má jeden jediný takýto model domácej výroby.

Boje dronov sú však podľa expertov iba začiatok toho, ako bude vyzerať vojna budúcnosti. Technológie ako „swarming“, teda v preklade „rojenie“, umožňujú zariadeniam, ako sú drony operovať spoločne ako jeden veľký smrtiaci celok. Martijn Rasser z Centra pre novú americkú bezpečnosť tvrdí, že takto sa dá vyradiť napríklad aj protivzdušná obrana nepriateľa. „Vyšlete na ňu také množstvo (dronov), že ním systém zahltíte. To má na bojisku, samozrejme, množstvo taktických výhod,“ vysvetľuje Rasser v dokumente DW.

Rozsah a rýchlosť taktík, ako je spomínaný „swarming“ otvára úplne nové možnosti vojnových konfliktov, ktoré budú také rýchle a komplexné, že im ľudia nebudú stíhať, čo ešte väčšmi podporí preteky v zbrojení.

Zabrániť vzniku vražených robotov

S napredujúcou umelou inteligenciou zbraňových systémov rastú obavy z toho, že by sa jedného dňa mohli tieto smrtiace stroje obrátiť proti svojim stvoriteľom. Zabrániť scenáru, ktorý ľudstvo pozná z dobre známych vedecko-fantastických filmov o Terminátorovi, sa rozhodla právnička z Harvardu Bonnie Dochertyová. Založila kampaň s príznačným názvom Stop Killer Robots (Zastaviť vražedné roboty).

Dochertyovej kampaň vytvorila alianciu mimovládnych organizácií, ktorá požaduje vytvorenie medzinárodnej dohody, ktorá by zakázala výrobu aj používanie autonómnych zbraňových systémov. K tejto výzve sa pridala už dávnejšie aj ľudskoprávna organizácia Human Rights Watch (HRW). Tá tvrdí, že po zákaze takéhoto druhu zbraní volá najmenej 30 krajín sveta. Medzi tými, ktoré nesúhlasia s ich použitím v boji, je napríklad aj Čína.

„Malo by ísť o dohodu, ktorá by sa týkala všetkých zbraní operujúcich autonómne tak, že si vyberajú a útočia na ciele iba na základe zistení senzorov a nie príkazov človeka,“ tvrdí Dochertyová v nemeckom dokumente.

Zastaviť vražedné roboty chcú mimovládky na čele s HRW už od roku 2013, keď sa o probléme autonómnych zbraní začalo viac hovoriť. Rázne proti akémukoľvek obmedzovaniu či už výroby alebo použitia takýchto systémov sú Rusi aj Američania, ktorí majú s pretekmi v zbrojení dekády skúseností ešte z čias studenej vojny.

Varovanie z Nemecka

Po zákaze autonómnych zbraňových systémov využívajúcich umelú inteligenciu volá aj nemecký minister zahraničných vecí Heiko Maas. Kampaň Dochertyovej však nepodporuje. „Neodmietame podstatu (kampane), len vravíme, že chceme, aby boli (k debate) prizvaní aj ostatní. Vojenské mocnosti, ktoré sú v pozícii, že majú nielen technologické možnosti vyvíjať autonómne zbrane, ale ich aj použiť,“ tvrdí šéf nemeckej diplomacie.

Vo vyše trištvrte hodinovom dokumentárnom snímku Maas dodáva, že globálna dohoda o autonómnych zbraniach musí byť hlavným cieľom. Podobne ako to bolo pri dohode, ktorá zakázala použitie jadrových zbraní. Vývoj niektorých zbraní, aj keď ho umožňujú technológie, je podľa nemeckého ministra zahraničných vecí neakceptovateľný, a preto musí byť globálne zakázaný.

„Svet sa musí začať zaujímať o to, že sa s autonómnymi a kyber zbraňami dostávame postupne do situácie, v ktorej si každý môže robiť, čo sa mu zachce. To nechceme,“ argumentuje Maas.

Okolo debaty, ktorá by zakázala vývoj, výrobu či aspoň používanie chytrých zbraňových systémov, diplomati zväčša radšej mlčia a tému odsúvajú. Technológie však medzitým napredujú raketovým tempom a doba, keď sa na bojiskách už nebudú stretávať vojaci, ale skôr autonómne technologické výdobytky svetových zbrojárskych mocností, sa neúprosne blíži.