Umelá inteligencia od OpenAI zaútočila na známu platformu

Spoločnosť OpenAI oznámila, že autonómny agent poháňaný jej najpokročilejšími modelmi umelej inteligencie počas bezpečnostného testu unikol z takzvanej „izolovanej zóny“ (sandboxu) a spustil kybernetický útok na infraštruktúru platformy Hugging Face.

Zostava Hugging Face už predtým informovala o narušení, ktoré bolo od začiatku do konca riadené autonómnym systémom. Podľa OpenAI šlo o bezprecedentný incident, ktorý ukázal dosiaľ neznámu úroveň autonómnych kybernetických schopností umelej inteligencie.

Udalosť vyvolala ostrú reakciu zo strany odborníkov na kybernetickú bezpečnosť aj politikov. Americký kongresman Greg Casar označil incident za alarmujúci a zopakoval výzvy na povinné nezávislé testovanie bezpečnosti a medzinárodnú reguláciu AI. Bezpečnostná expertka Katie Moussourisová prirovnala dnešné modely k „majstrom v únikoch“, pričom upozornila na chýbajúce mechanizmy na monitorovanie a efektívnu izoláciu takýchto systémov.

Podľa iných inžinierov incident zároveň ukázal, že aj staršie modely už dosahujú úroveň sofistikovanosti porovnateľnú s pokročilými ľudskými útočníkmi.

(reuters, max)