AI od Anthropicu sa nabúrala do systémov troch firiem

Americká spoločnosť Anthropic oznámila, že niektoré jej modely umelej inteligencie Claude počas kyberbezpečnostných testov neoprávnene prenikli do systémov troch organizácií. Incident spôsobila chyba, ktorá modelom neúmyselne umožnila prístup na verejný internet.

Správa prichádza len niekoľko dní po tom, ako konkurenčný OpenAI informoval, že autonómny agent využívajúci jeho modely umelej inteligencie počas testovania zaútočil na infraštruktúru platformy Hugging Face.

Anthropic uviedla, že pri kontrole viac ako 141-tisíc testovacích relácií zistila, že tri modely využili slabé heslá a nezabezpečené prístupové body na získanie prístupu do systémov. Mená dotknutých organizácií nezverejnila.

Incidenty sa odohrali od apríla počas simulovaných cvičení typu „capture the flag“, ktoré mali preveriť schopnosť modelov vyhľadávať informácie v testovacích sieťach. V jednom prípade model Claude Opus 4.7 zaútočil na skutočnú firmu s rovnakým názvom, aký mala fiktívna spoločnosť v zadaní, a získal prístup k prihlasovacím údajom aj databáze. Iný, zatiaľ nezverejnený testovací model útok sám zastavil po tom, ako rozpoznal, že cieľ je reálny.

Spoločnosť označila incidenty za prevádzkové zlyhanie, 23. júla pozastavila všetky kyberbezpečnostné testy a upozornila, že s rastúcimi schopnosťami umelej inteligencie bude potrebné sprísniť kontrolu testovacích prostredí.

(reuters, lud)