Zahynulo viac ako 125 civilistov. Izraelské vojenské pokusy s AI v Gaze

Koncom roka 2023 sa Izrael snažil zavraždiť Ibrahima Biariho, vrchného veliteľa Hamasu v severnej časti pásma Gazy, ktorý pomáhal plánovať masakre zo 7. októbra. Izraelská spravodajská služba však Biariho nedokázala nájsť – domnievala sa, že je ukrytý v sieti tunelov pod Gazou.

Preto sa izraelskí dôstojníci obrátili na novú vojenskú technológiu, ktorá využíva umelú inteligenciu, uviedli traja izraelskí a americkí predstavitelia, ktorých o týchto udalostiach informovali. Túto technológiu vyvinuli pred desiatimi rokmi, ale nebola použitá v boji. Nájdenie Biariho predstavovalo nový dôvod na zlepšenie nástroja, a tak inžinieri izraelskej jednotky 8200, ktorá je izraelskou obdobou Národnej bezpečnostnej agentúry, doň čoskoro integrovali umelú inteligenciu.

Krátko nato Izrael odpočúval Biariho hovory, pričom testoval zvukový nástroj umelej inteligencie, ktorý určil približnú polohu miesta, odkiaľ volal. Na základe týchto informácií Izrael 31. októbra 2023 nariadil letecké útoky zamerané na túto oblasť a Biariho zabil. Podľa londýnskej organizácie Airwars, ktorá monitoruje konflikty, pri útoku zahynulo aj viac ako 125 civilistov.

Podľa rozhovorov s deviatimi americkými a izraelskými obrannými úradníkmi, ktorí hovorili pod podmienkou anonymity, pretože ich práca je dôverná, bol zvukový nástroj len jednou ukážkou toho, ako Izrael využil vojnu v Gaze na rýchle testovanie a nasadenie vojenských technológií využívajúcich umelú inteligenciu v doteraz nevídanom rozsahu.

V uplynulých 18 mesiacoch Izrael tiež skombinoval umelú inteligenciu so softvérom na rozpoznávanie tvárí, aby priradil čiastočne zakryté alebo zranené tváre k skutočným identitám, využil umelú inteligenciu na zostavenie potenciálnych cieľov náletov a vytvoril model umelej inteligencie v arabskom jazyku, aby poháňal chatbota, ktorý by mohol skenovať a analyzovať textové správy, príspevky na sociálnych sieťach a iné údaje v arabskom jazyku, uviedli dvaja ľudia oboznámení s týmito programami.

Mnohé z týchto aktivít boli výsledkom spolupráce medzi vojakmi jednotky 8200 a vojakmi v zálohe, ktorí pracujú v technologických spoločnostiach, ako sú Google, Microsoft a Meta, uviedli traja ľudia oboznámení s týmito technológiami. Jednotka 8200 zriadila takzvané Štúdio, inovačné centrum a miesto, kde sa odborníci stretávajú s projektmi v oblasti umelej inteligencie.

Napriek tomu, že Izrael sa usiloval vyvinúť arzenál umelej inteligencie, nasadenie týchto technológií niekedy viedlo k chybnej identifikácii a zatknutiam, ako aj k úmrtiam civilistov, uviedli izraelskí a americkí predstavitelia. Niektorí predstavitelia zápasili s etickými dôsledkami nástrojov umelej inteligencie, ktoré by mohli viesť k zvýšenému sledovaniu a ďalšiemu zabíjaniu civilistov.

Podľa európskych a amerických obranných predstaviteľov žiadna iná krajina neexperimentuje s nástrojmi umelej inteligencie v skutočných bojoch tak aktívne ako Izrael, čo poskytuje náhľad na to, ako sa takéto technológie môžu využívať v budúcich vojnách - a ako by sa tiež mohli pokaziť.

„Naliehavá potreba vyrovnať sa s krízou urýchlila inovácie, z veľkej časti poháňané umelou inteligenciou,“ povedala Hadas Lorberová, vedúca Inštitútu pre aplikovaný výskum v oblasti zodpovednej umelej inteligencie na izraelskom Holonskom technologickom inštitúte a bývalá najvyššia riaditeľka izraelskej Rady pre národnú bezpečnosť. „Viedla k technológiám meniacim pravidlá hry na bojisku a k výhodám, ktoré sa v boji ukázali byť rozhodujúce.“

Podľa Lorberovej však tieto technológie „nastoľujú aj vážne etické otázky“. Upozornila, že umelá inteligencia potrebuje kontrolné mechanizmy, a dodala, že konečné rozhodnutia by mali robiť ľudia.

Hovorkyňa izraelskej armády uviedla, že sa nemôže vyjadriť ku konkrétnym technológiám z dôvodu ich „dôvernej povahy“. „Izrael sa zaviazal k zákonnému a zodpovednému používaniu nástrojov dátových technológií," povedala a dodala, že armáda vyšetruje zásah proti Biarimu a "nemôže poskytnúť žiadne ďalšie informácie, kým nebude vyšetrovanie ukončené".

Spoločnosti Meta a Microsoft sa odmietli vyjadriť. Spoločnosť Google uviedla, že má „zamestnancov, ktorí vykonávajú záložnú službu v rôznych krajinách sveta. Práca, ktorú títo zamestnanci vykonávajú ako vojaci v zálohe, nie je spojená so spoločnosťou Google."

Izrael v minulosti využil konflikty v Gaze a Libanone na testovanie a zdokonaľovanie technologických nástrojov pre svoju armádu, ako sú drony, nástroje na hackovanie telefónov a obranný systém Iron Dome, ktorý môže pomôcť zachytiť balistické rakety krátkeho doletu.

Po tom, čo Hamas 7. októbra 2023 podnikol cezhraničné útoky na Izrael, pri ktorých zahynulo viac ako 1 200 ľudí a bolo zajatých 250 rukojemníkov, boli technológie umelej inteligencie rýchlo schválené na nasadenie, uviedli štyria izraelskí predstavitelia. To viedlo k spolupráci medzi jednotkou 8200 a vojakmi v zálohe v „Štúdiu“ s cieľom rýchlo vyvinúť nové prostriedky umelej inteligencie.

Avi Hasson, výkonný riaditeľ izraelskej neziskovej organizácie Startup Nation Central, ktorá spája investorov so spoločnosťami, uviedol, že záložníci zo spoločností Meta, Google a Microsoft sa stali kľúčovými pri presadzovaní inovácií v oblasti dronov a integrácie údajov.

„Záložníci priniesli know-how a prístup ku kľúčovým technológiám, ktoré v armáde neboli k dispozícii,“ povedal.

Izraelská armáda čoskoro využila umelú inteligenciu na posilnenie svojej flotily dronov. Aviv Shapira, zakladateľ a výkonný riaditeľ softvérovej a dronovej spoločnosti XTEND, ktorá spolupracuje s izraelskou armádou, uviedol, že algoritmy poháňané umelou inteligenciou boli použité na vytvorenie dronov určených na zameranie a sledovanie cieľov na diaľku.

„V minulosti sa navádzacie schopnosti spoliehali na zameranie na obraz cieľa,“ povedal. „Teraz dokáže umelá inteligencia rozpoznať a sledovať priamo objekt - či už je to pohybujúce sa auto, alebo človek - so smrtiacou presnosťou.“

Shapira uviedol, že jeho hlavní klienti, izraelská armáda a americké ministerstvo obrany, si uvedomujú etické dôsledky umelej inteligencie vo vojne a diskutujú o zodpovednom využívaní tejto technológie.

Jedným z nástrojov vyvinutých v „Štúdiu“ bol model umelej inteligencie v arabčine známy ako veľký jazykový model, uviedli traja izraelskí dôstojníci oboznámení s programom (o veľkom jazykovom modeli predtým informovala izraelsko-palestínska spravodajská stránka Plus 972).

Vývojári predtým pri vývoji takéhoto modelu zápasili s nedostatkom údajov v arabskom jazyku, na základe ktorých by bolo možné technológiu trénovať. Ak boli takéto údaje k dispozícii, boli väčšinou v štandardnej písanej arabčine, ktorá je formálnejšia ako desiatky dialektov používaných v hovorovej arabčine.

Izraelská armáda tento problém nemala, uviedli traja dôstojníci. Krajina mala k dispozícii desiatky rokov zachytených textových správ, prepisov telefonických hovorov a príspevkov zo sociálnych médií v hovorených arabských dialektoch. Izraelskí dôstojníci preto v prvých mesiacoch vojny vytvorili veľký jazykový model a zostrojili chatbota na spracovanie otázok v arabčine. Tento nástroj spojili s multimediálnymi databázami, čo analytikom umožnilo vykonávať komplexné vyhľadávanie naprieč obrázkami a videami, uviedli štyria izraelskí predstavitelia.

Keď Izrael v septembri zabil vodcu Hizballáhu Hasana Nasralláha, chatbot analyzoval reakcie v arabsky hovoriacom svete, uviedli traja izraelskí dôstojníci. Technológia rozlišovala medzi rôznymi dialektmi v Libanone, aby zistila reakciu verejnosti, čo Izraelu pomohlo posúdiť, či existuje tlak verejnosti na protiúder.

Chatbot občas nedokázal identifikovať niektoré moderné slangové výrazy a slová, ktoré boli transliterované z angličtiny do arabčiny, uviedli dvaja dôstojníci. To si vyžadovalo, aby izraelskí spravodajskí dôstojníci s odbornými znalosťami rôznych dialektov skontrolovali a opravili jeho fungovanie, uviedol jeden z dôstojníkov.

Dvaja izraelskí spravodajskí dôstojníci uviedli, že chatbot niekedy poskytoval aj nesprávne odpovede - napríklad namiesto fotografií zbraní poskytoval fotografie potrubia. Aj napriek tomu však podľa nich nástroj umelej inteligencie výrazne urýchlil výskum a analýzu.

Na dočasných kontrolných stanovištiach medzi severnou a južnou časťou pásma Gazy začal Izrael po útokoch zo 7. októbra vybavovať kamery schopnosťou skenovať a odosielať snímky Palestínčanov vo vysokom rozlíšení do programu na rozpoznávanie tvárí využívajúceho umelú inteligenciu.

Aj tento systém mal niekedy problémy s identifikáciou osôb, ktorých tváre boli zakryté. To viedlo k zatýkaniu a vypočúvaniu Palestínčanov, ktorých systém rozpoznávania tvárí omylom označil, uviedli dvaja izraelskí spravodajskí dôstojníci.

Izrael využíval umelú inteligenciu aj na triedenie údajov o členoch Hamasu, ktoré zhromažďovali spravodajskí pracovníci. Pred vojnou Izrael vytvoril algoritmus strojového učenia - nazývaný Lavender - ktorý dokázal rýchlo triediť údaje a vyhľadávať nízko postavených bojovníkov. Bol vycvičený na databáze potvrdených členov Hamasu a mal predpovedať, kto ďalší by mohol byť súčasťou skupiny. Hoci predpovede systému neboli dokonalé, Izrael ho použil na začiatku vojny v Gaze na pomoc pri výbere cieľov útoku.

Máloktorý cieľ bol závažnejší ako nájdenie a eliminácia vysokého vedenia Hamasu. Na vrchole zoznamu bol Biari, veliteľ Hamasu, ktorý podľa izraelských predstaviteľov zohral ústrednú úlohu pri plánovaní útokov zo 7. októbra.

Izraelská vojenská rozviedka rýchlo zachytila hovory Biariho s ostatnými členmi Hamasu, ale nedokázala určiť jeho polohu. Preto sa obrátili na zvukový nástroj využívajúci umelú inteligenciu, ktorý analyzoval rôzne zvuky, napríklad zvukové bomby a letecké útoky.

Po zistení približnej polohy miesta, kde Biari uskutočňoval svoje telefonáty, boli izraelskí vojenskí predstavitelia upozornení, že oblasť, ktorá zahŕňa niekoľko bytových komplexov, je husto obývaná, uviedli dvaja spravodajskí dôstojníci. Povedali, že nálet by musel byť zameraný na niekoľko budov, aby sa zabezpečilo, že Biari bude zavraždený. Operácia dostala zelenú.

Odvtedy izraelská spravodajská služba využíva na lokalizáciu rukojemníkov okrem máp a fotografií podzemného labyrintu tunelov v Gaze aj tento zvukový nástroj. Postupom času bol nástroj zdokonalený, aby bolo možné jednotlivcov nájsť presnejšie, uviedli dvaja izraelskí dôstojníci.

Článok pôvodne vyšiel v denníku New York Times. Všetky práva vyhradené.