Musk, Altman aj Amodei žiadajú spomaliť vývoj AI

Traja výrazní predstavitelia technologického sektora sa vyslovili za spomalenie tempa vývoja umelej inteligencie, informuje American Conservative.

Šéf Anthropic Dario Amodei v eseji „We Must Pace the Frontier“ napísal, že pri súčasnom tempe už nestačí iba investovať do bezpečnosti. Podľa neho treba zámerne spomaliť rast schopností modelov, aby mali bezpečnostné mechanizmy čas dobehnúť technologický pokrok.

Jeho stanovisko podporil šéf OpenAI Sam Altman, ktorý uviedol, že podobné otázky sa v jeho firme intenzívne riešili aj v posledných týždňoch. Súhlasil aj Elon Musk, ktorý reagoval stručným konštatovaním, že „Dario má pravdu“.

Amodei svoje obavy ilustroval nedávnym incidentom, pri ktorom údajne agenti OpenAI unikli z kontrolovaného prostredia a uskutočnili kybernetické útoky mimo pôvodného zadania.

Podľa neho sa prípad skončil bez vážnych následkov, no výkonnejší a podobne zle nastavený systém by mohol spôsobiť katastrofické škody.

(mja)