Podpredseda spravodajského výboru Senátu USA Mark Warner zverejnil 11. júna svedectvo americkej Národnej bezpečnostnej agentúry (NSA) o kybernetickej hrozbe, ktorá číha na siete federálnej vlády priamo na americkom území.
Demokrat za štát Virgínia citoval riaditeľa NSA a hlavného veliteľa Kybernetického veliteľstva Pentagónu generála Josha Rudda. Ten senátorovi údajne povedal, že nový jazykový model Claude Mythos 5 od spoločnosti Anthropic „sa dostal do takmer všetkých našich utajovaných systémov, a to nie za týždne, ale za hodiny“.
Deň po rozhovore Warnera s Ruddom vydalo ministerstvo obchodu nariadenie, ktorým zakázalo prístup k modelom Mythos 5 a Fable 5 všetkým Neameričanom. „Keďže spoločnosť Anthropic nedokáže spoľahlivo rozlíšiť cudzincov od ostatných používateľov v reálnom čase, urobila jediné, čo mohla: deaktivovala oba modely pre všetkých,“ vysvetlil portál Security Affairs.
Posilňujúci Mythos
Práve prototyp modelu Mythos sa dostal do všeobecnej pozornosti ešte v apríli, keď Anthropic priznal, že systém je omnoho schopnejší pri hľadaní dier v kybernetickom zabezpečení vládnych databáz, verejných prehliadačov či operačných systémov.
V testovacom prostredí dostali k modelu prístup konkurenčné firmy ako Amazon Web Services, Google, Linux či Microsoft. Tieto spoločnosti pod hlavičkou spoločného projektu Glasswing zistili, že Mythos je príliš pokročilý pre súčasné virtuálne prostredie a odročili jeho predstavenie.
Prevratný model sa totiž niekoľkokrát pokúsil riešiť úlohy samostatne bez konzultácie s človekom, využíval medzery v zabezpečení s cieľom rozšíriť vlastné oprávnenia, vymazal niekoľko záznamov zo svojej histórie aktivít a dokonca prelomil zabezpečenie vývojárskeho sandboxu a po pripojení na internet zverejnil podrobnosti o svojich krokoch.
Aj preto sa Anthropic pridal k výzve šéfa SpaceX-u Elona Muska, aby technologickí giganti najmenej na pol roka pozastavili vývoj AI – hoci to bola práve spoločnosť Daria Amodeia, ktorá v máji prelomila ďalšiu bariéru medzi človekom a strojom, keď predstavila schopnosť „snívania“.
Prenikanie Palantiru
Okrem bežných skúseností s takzvaným halucinovaním (keď si AI model vymyslí odpoveď na prompt namiesto prehľadávania zdrojov) sa tiež umelá inteligencia čoraz častejšie snaží klamať svojich ľudských používateľov (a vie, kedy ju testujú). Tieto schopnosti spolu s prelamovaním zabezpečenia utajených sietí predstavujú zásadné ohrozenie národnej bezpečnosti ktorejkoľvek krajiny.
Vylúčenie Anthropicu zo spolupráce s Pentagónom však nebolo prejavom tejto inak všeobecne pociťovanej hrozby. Prezident USA Donald Trump koncom februára rozhodol o prerušení spolupráce po mesiacoch konfliktov, keď Amodei protestoval proti používaniu Claudea vo vojenských operáciách.
Ministerstvo vojny podľa zdrojov agentúry Bloomberg označilo začiatkom marca vládny produkt Anthropicu s názvom Claude Gov za „rizikový článok dodávateľského reťazca“, pričom zamestnanci Pentagónu dostali šesťmesačnú lehotu na ukončenie spolupráce.
Už 9. marca rozposlal námestník ministra obrany Steve Feinberg vedúcim pracovníkom Pentagónu interný obežník, v ktorom ako náhradu za Claude Gov predstavil systém Maven od spoločnosti Palantir. Firma vizionára Petra Thiela, ktorý je dlhoročným mentorom viceprezidenta JD Vancea, tak rozšírila svoje pôsobenie v ďalšej oblasti federálnej správy.
V rámci ministerstva vojny od roku 2017 funguje rovnomenný projekt Maven. Jeho hlavným dodávateľom bol pôvodne Google, Pentagón sa neskôr obrátil práve na Anthropic. Thielov Palantir ako pokračovateľ AI divízie CIA však urýchlene spustil model s názvom Maven Smart System, ktorým chce rezort obrany nahradiť Claude.
Projekt Maven je vojensko-spravodajský nástroj, ktorý zbiera rozsiahle množstvo údajov z bojiska na báze geopriestorového spravodajstva (GEOINT), odpočúvania či satelitného a leteckého snímkovania. Tieto informácie v reálnom čase preoseje a výsledné koordináty poskytne ľudským bojovníkom – dokonca s predpokladanými cieľmi, ako varovala korešpondentka agentúry Bloomberg Katrina Mansonová v knihe rovnakého názvu.
Vraždiace roboty a ľudský odpor
Etické dilemy, ktoré vyvoláva scenár likvidácie ľudských cieľov na základe rozhodnutia stroja, viedli k založeniu hneď niekoľkých nátlakových organizácií, ktoré vyzývajú na zastavenie či aspoň reguláciu vývoja autonómnych zbraňových systémov. K týmto obavám sa vlani v júni pridala aj OSN.
Ani tento nátlak nezabránil Pentagónu, aby spoluprácu ponúkol aj vyššie spomenutým technologickým gigantom, ako sú Microsoft, Oracle, Google či AWS. Najmä dátové centrá poslednej menovanej firmy sa pritom paradoxne stali terčmi iránskych dronových útokov.
Medzi vraždiace roboty (slaughterbots) sa však počítajú aj autonómne drony, aké vyvíja spoločnosť Anduril Technologies, či dokonca kontroverzné projekty ako „kompostér na telá vojakov“ EATR či Lazarus od firmy Meta.
Dátové centrá sa tiež bez ohľadu na vlastníka stávajú čoraz častejšie terčom protestov, pričom sa na 18. júla chystajú celoamerické demonštrácie proti výstavbe a rozširovaniu týchto zariadení. Organizácia Humans First ako dôvody protestov uvádza zdražovanie elektrickej energie, masívnu spotrebu pitnej vody, zástavbu ornej pôdy či znečisťovanie ovzdušia a hluk.
Na svojej stránke však vystupuje ako radikálne neoludistická skupina, pričom si za titulný obrázok zvolila chatu antitechnického extrémistu Theodorea Kaczynského (Unabomber).
Do tohto odmietavého ovzdušia vstupuje japonská elektráreň JERA, ktorá hodlá investovať tri miliardy dolárov do novej plynovej elektrárne – konkrétne pre dátové centrá. Firmy spolupracujúce s Pentagónom tak dostanú nielen finančnú injekciu, ale aj energetický základ pre svoje operácie, hoci len dovtedy, kým americkí inžinieri nenasadia „kvantovú elektrinu“ s nulovým odporom.