Model Meta opäť prenikol do cudzieho systému

Spoločnosť Meta oznámila, že jeden z jej modelov umelej inteligencie počas testovania kybernetickej bezpečnosti prenikol do systému inej spoločnosti.

Incident opäť otvoril otázky o bezpečnosti čoraz výkonnejších systémov umelej inteligencie po podobných prípadoch v spoločnostiach Anthropic a OpenAI.

Meta vysvetlila, že príčinou bola chybná konfigurácia zo strany spoločnosti Irregular, ktorá pre Metu vykonáva bezpečnostné testy. Tá modelu neúmyselne umožnila prístup na internet. Model následne zneužil bezpečnostnú zraniteľnosť služby tretej strany.

Podľa portálu The Information išlo o model Muse Spark 1.1, ktorý spoločnosť označuje za svoj najvýkonnejší model na programovanie a agentové úlohy. Počas testovania mal preniknúť do systému nemenovanej spoločnosti a zmeniť jeho interné prostredie.

Spoločnosť Irregular tvrdí, že išlo o rovnaký problém testovacieho prostredia, aký minulý týždeň oznámila spoločnosť Anthropic, a nešlo o únik zo sandboxu ani o sofistikovaný kybernetický útok.

Prípady z posledných dní posilnili obavy amerických zákonodarcov z možného zneužitia pokročilých modelov umelej inteligencie pri kybernetických útokoch.

(reuters, bak)