Umelá inteligencia spravujúca kryptomeny sa dá zmanipulovať. Pošle prostriedky útočníkovi

Princetonská univerzita spoločne s nadáciou Sentient, ktorá sa zaoberá otvoreným prístupom k umelým inteligenciám, sa zamerali na bezpečnosť takzvaných „AI agentov“ automaticky spravujúcich kryptoaktíva.

V štúdii ukázali, že jednou z nevýhod umelej inteligencie je jej príliš „ľudské“ správanie. Takéto systémy sa síce snažia reagovať pomocou logickej argumentácie blízkej racionálnemu odôvodňovanou človekom, na druhej strane je možné „upraviť“ ich „pamäť“ a tak ovplyvniť aj výsledok „myšlienkového pochodu“ AI.  

Experimentálnymi pokusmi rôznymi spôsobmi ovplyvnenia „kontextu“ umelej inteligencie sa podarilo aj preniesť kryptomeny na fiktívny účet útočníka.

Väčšinu pokusov vykonali v prostredí operačného systému elizaOS. Ide o platformu, ktorá kombinuje decentralizovaný manažment. Ten pracuje podobným spôsobom, akým fungujú kryptomeny, s umelou inteligenciou. Je pochopiteľné, že ako primárny platobný prostriedok sa využívajú kryptografické aktíva.

Manipulovať sa dá priamo cez vstupný formulár

Väčšina používateľov modelov umelej inteligencie sa stretla so situáciou, v ktorej bolo možné upraviť výstup dialógu s AI pomocou vhodne zvolených otázok. Presviedčaním modelu o omyle sa stalo jednou z ciest ako zmeniť jeho odpovede. 

Keď boli prakticky všetky umelé inteligencie trénované na „progresívnych“ dátach, publikovaných bežnými médiami, tento svetonázor sa stal reakciou aj „neovplyvnenej“ AI.

AI napríklad odmietala napísať oslavnú báseň na Roberta Fica, hoci rovnaký útvar pre Zuzanu Čaputovú vytvorila okamžite. Pomocou ovplyvňovania umelej inteligencie dialógom, čo sa stalo určitým druhom „umenia“, sa však podarilo „názor“ AI zmeniť.

Organizujú sa súťaže, kde je úlohou účastníkov „donútiť“ AI, aby im prezradila skryté heslo. Každá úroveň hry je pritom náročnejšia, niekedy je potrebné úlohu rozdeliť na čiastkové zadania či využiť „empatiu“ umelej inteligencie, že znalosť hesla je nutná na „záchranu“ vymysleného spoločníka.

Externý prístup je vyšším rizikom

Zraniteľnosť umelej inteligencie prostredníctvom vhodne formulovaného zadania je bezpečnostným expertom známa. Zadávacie políčka AI sú preto určitým spôsobom „filtrované“, aby používateľ nemohol jednoduchým spôsobom ovplyvniť jej výstup. 

Model umelej inteligencie sa však nespolieha len na ľudské vstupy. Ak má pracovať s aktuálnymi udalosťami, pri správe finančných aktív ide o nevyhnutnú vlastnosť, nemôže využívať len to, čo sa AI „naučila“ počas svojho tréningu.

Musí byť teda pripojená aj k iným dátam, môže ísť o databázy s trhovými cenami, diskusné fóra či sociálne siete. Ochrana vstupu tu však nie je implementovaná až tak dôsledne ako pri vstupe od používateľa. Umelá inteligencia týmto zdrojom „verí“ prakticky bezvýhradne.

Tým sa otvára jeden z nepriamych druhov útoku, kde sa omyl v AI nevytvorí zmanipulovaným používateľským vstupom, ale cez ovplyvnenie takýchto externých dát.

Odstránenie nebezpečného vstupu je tu oveľa náročnejšie. Rozlíšenie, či ide naozaj o výrazný pokles či nárast ceny príslušného druhu kryptomeny, alebo ide iba o manipuláciu zo strany útočníka, je pritom nevyhnutné na správne a včasne vykonanú finančnú operáciu.       

Dostať sa „dovnútra“ AI môže výrazne zmeniť jej správanie

Každá umelá inteligencia je počítačový program bežiaci na procesore, na výpočty používajú špeciálne jednotky NPU príbuzné grafickým kartám a svoje výsledky ukladá do počítačovej pamäte.  

Jedným z dôležitých údajov uložených v pamäti je aj história komunikácie. Ak by niekto túto pamäť vymazal, AI by dostala „okno“ a správala by sa tak, ako keby nikdy so žiadnym používateľom nekomunikovala.

Vážnejším rizikom však zostáva scenár, ak by sa niekto neoprávnene dostal do pamäte počítača, a následne by históriu komunikácie pozmenil. Väčšinou je uložená vo forme bežného, nezašifrovaného textu. Umelá inteligencia by si tak na základe tejto upravenej komunikácie vytvorila falošný „dojem“. Útočníka by napríklad mohla považovať za legitímny cieľ prevodu kryptomeny. 

Umelé inteligencie pritom často bežia na zdieľaných „cloudových“ počítačoch, u ktorých je riziko prístupu cudzieho subjektu zvýšené. Už dávnejšie demonštrovali zraniteľnosti hardvéru zamerané práve na spoločné zdroje v rámci jedného počítača.

Nový spôsob fungovania internetu sa spolieha na AI

Keď sa na prelome 80. a 90. rokov minulého storočia objavili prvé internetové stránky, väčšina umožňovala iba čítanie. Kopírovali tak vlastnosti tradičných „papierových“ médií, rozdiel bol v tom, že s autorom sa komunikovalo namiesto listov e-mailom.

Začiatkom nového tisícročia sa z pasívnych konzumentov obsahu stali jeho spolutvorcovia. Do stránok pribudli diskusné fóra, vznikla aj povinnosť chrániť ich pred nežiaducimi, najskôr reklamnými, príspevkami.

Vznikol Web 2.0, kým pôvodný internetový obsah spätne získal označenie Web 1.0.

V súčasnosti ide o dominantný spôsob fungovania internetových služieb. Priestor ovládli vysoko centralizované platformy ako sociálne siete, správanie používateľov sledujú a využívajú ako nástroj cielenej reklamy aj cenzúry.  

Web 3.0 sa objavil ako reakcia na existujúci spôsob internetovej komunikácie. Má zabezpečiť vysokú mieru súkromia a zabrániť štátnym aj neštátnym aktérom sledovať aktivity jednotlivých používateľov.

Jeho jadrom je blockchain, technológia, ktorá zabezpečuje aj kryptomeny. Ide o distribuovaný protokol, v rámci ktorého neexistuje centrálny správca ani ústredný cenzor.

V ostatnom čase vnikla do tohto prostredia aj umelá inteligencia. Má zabezpečiť lepšiu automatizáciu procesov, aby sa používateľ mohol sústrediť na širší obraz a nemusel sa zaoberať detailmi.