Gemini pri teste autonómne prenikol do systémov troch firiem

Model umelej inteligencie Gemini od Googlu počas testovania svojich kybernetických schopností prenikol do systémov troch cudzích spoločností. Podľa dostupných informácií ide o prvý známy prípad, keď AI Googlu takýto krok vykonala autonómne.

Incident sa stal v máji počas testu spoločnosti Irregular, ktorá hodnotí kybernetické schopnosti AI. Gemini vyhľadal verejne dostupné informácie a následne získal prístup k trom webovým systémom, o ktorých sa mylne domnieval, že sú súčasťou testovania.

V jednom prípade model skúšal heslá, až kým sa do chráneného systému nedostal. V ďalších dvoch našiel prihlasovacie údaje vo verejne dostupnom úložisku. Podľa Googlu Gemini vo všetkých prípadoch následne s prenikaním prestal.

„Tieto udalosti zdôrazňujú význam toho, aby sme výkonné modely AI učili konať zodpovedne,“ uviedla viceprezidentka Googlu pre bezpečnostné inžinierstvo Heather Adkinsová.

Podobné incidenty pri testoch spoločnosti Irregular zaznamenali aj Meta, Anthropic a OpenAI. Prípady vyvolávajú otázky, aké bezpečnostné mechanizmy budú potrebné, keď AI získava čoraz väčšiu autonómiu a prístup k internetu a počítačovým systémom.

(reuters, est)