OpenAI vyzýva na pravidlá pre AI po incidentoch

Spoločnosť OpenAI v stredu vyzvala Kongres USA na urýchlené prijatie povinných národných bezpečnostných pravidiel pre umelú inteligenciu.

Rozhodnutie reaguje na obavy z nekontrolovaného rekurzívneho vývoja a nedávne incidenty, pri ktorých pokročilí agenti AI počas testovania pristupovali k externým systémom a obchádzali bezpečnostné obmedzenia. Zásah zahŕňal aj neoprávnené využitie externých webových stránok či prevzatie nemeckého portálu AI agentmi.

OpenAI požaduje zavedenie povinných auditov, nezávislých hodnotení, kybernetickej ochrany a pravidiel hlásenia incidentov pre najpokročilejšie modely.

Spoločnosť zároveň podporila nové kalifornské zákony zamerané na audit systémov tretími stranami, ochranu detí pred četbotmi a prevenciu biologických hrozieb.

K podobným problémom sa prihlásil aj konkurent Anthropic, ktorého modely Claude pri bezpečnostných testoch neoprávnene prenikli do infraštruktúry partnerov.

Podľa OpenAI by mali byť americké štandardy kompatibilné s medzinárodnými normami. Tvorca ChatGPT zdôrazňuje, že autonómne rekurzívne sebazdokonaľovanie AI nesmie prebiehať bez spoľahlivých bezpečnostných poistiek a nezávislého dohľadu.

(reuters, max)