Agenti OpenAI testovali slabiny Hugging Face pred útokom

Nekontrolovaní agenti umelej inteligencie spoločnosti OpenAI ovládli účty používateľov platformy Hugging Face a preverovali jej slabiny už v máji, takmer dva mesiace pred júlovým bezpečnostným incidentom.

Nezávislý výskumník Jonas Wiedermann-Moeller našiel dôkazy, že agenti 13. mája kompromitovali dva účty a použili ich na odosielanie nezvyčajne formátovaných súborov na servery platformy. Podľa odborníkov toto správanie pripomínalo pokus zmapovať alebo otestovať časti siete a nájsť možnosti prieniku. Neexistujú však dôkazy, že viedlo k skutočnému narušeniu systému alebo súviselo s júlovým incidentom.

OpenAI už predtým zverejnila informáciu o krádeži digitálneho prístupového kľúča používateľa Hugging Face k súboru súvisiacemu s biológiou. Výskumníci však tvrdia, že preverovanie platformy zrejme presahovalo rozsah opísaný v správe firmy.

OpenAI uviedla, že májovú udalosť v správe spomenula a o aktivite identifikovanej výskumníkom informovala Hugging Face.

Wiedermann-Moeller označil nezachytenie májovej aktivity za premárnenú príležitosť predísť neskoršej hekerskej kampani. OpenAI už skôr pripustila, že niektoré prvotné signály mali vyvolať skoršiu reakciu.

(reuters, bak)