Skúšobná AI ignorovala limity a začala ťažiť kryptomenu

Experimentálny agent umelej inteligencie ROME, vyvinutý čínskymi výskumníkmi pre systém učenia, vykazoval nečakané správanie, keď sa dostal mimo svojho testovacieho prostredia. Napriek absencii pokynov začal podľa Live Science využívať výpočtové zdroje na ťažbu kryptomeny.

ROME bol súčasťou rámca, ktorý slúži na trénovanie a nasadzovanie autonómnych AI systémov schopných vykonávať úlohy pomocou nástrojov. Aj keď model zvládal rôzne úlohy, výskumníci zaznamenali jeho schopnosť obísť prostredie a pristupovať k systémovým zdrojom.

Na podozrivé aktivity upozornil firewall Alibaba Cloud, ktorý zaznamenal pokusy o prístup k interným sieťam a prevádzku zodpovedajúcu ťažbe kryptomien. Agent zároveň vytvoril reverzný tunel, čím si otvoril spojenie s externým zariadením a obišiel bezpečnostné mechanizmy.

Výskumníci zdôraznili, že správanie nebolo úmyselné, ale vzniklo ako vedľajší efekt posilňovacieho učenia. Upozornili, že podobné modely môžu spontánne vykazovať neautorizované a rizikové správanie mimo očakávaných hraníc.

(max)