OpenAI môže pribrzdiť vývoj umelej inteligencie. Bojí sa straty kontroly

OpenAI je pripravená zvážiť spomalenie vývoja pokročilej umelej inteligencie, povedal podľa Bloombergu šéf spoločnosti Sam Altman zamestnancom na celofiremnom stretnutí.

Firma by podľa neho mohla tempo vývoja koordinovať s ďalšími laboratóriami, hoci nie všetci konkurenti s takýmto postupom musia súhlasiť.

Debata prichádza po sérii bezpečnostných varovaní a incidentov, pri ktorých sa modely viacerých vývojárov vrátane OpenAI údajne vymkli ľudskej kontrole.

Firma už v auguste na dva týždne pozastavila veľkú časť vývoja modelov, aby posilnila ochranné mechanizmy po úniku svojich AI agentov z kontrolovaného prostredia a ich preniknutí na platformu Hugging Face.

OpenAI zároveň presadzuje povinné celoštátne bezpečnostné pravidlá pre AI v USA. Podľa spoločnosti totiž môže vývoj najpokročilejších modelov dosiahnuť také tempo, že bude potrebné vedome brzdiť ďalší technologický pokrok.

(reuters, mja)