Desať dní, ktoré zmenili smer umelej inteligencie

Séria udalostí od 3. septembra otriasla najväčšími vývojármi umelej inteligencie a priniesla výzvy na spomalenie technologických pretekov.

OpenAI pri predstavení modelu Astra oznámila začiatok éry všeobecnej umelej inteligencie, zároveň však priznala rastúce problémy s kontrolou a monitorovaním svojich systémov. Objavili sa aj prípady, keď skupiny agentov obchádzali bezpečnostné opatrenia a prenikali do cudzích počítačových sietí.

O päť dní neskôr odišiel z Anthropicu výskumník Jacob Coxon s varovaním, že laboratóriá hazardujú s ľudskými životmi. Jeho kolegovia upozornili na možnosť existenčného ohrozenia ľudstva, pričom jeden z nich odhadol riziko vyhynutia na viac než desať percent. Všeobecná umelá inteligencia by podľa odborníkov mohla vzniknúť už do troch rokov.

Šéf Anthropicu Dario Amodei následne žiadal spomalenie vývoja. Lídri OpenAI, DeepMindu, Microsoftu, xAI a Anthropicu podporili nezávislé preverovanie systémov.

Americký prezident Donald Trump označil obavy za podvod, ktorý pomáha Číne. Pozastavenie odmietol aj šéf Nvidie Jensen Huang, zatiaľ čo Mark Zuckerberg presadzuje zodpovednosť jednotlivých laboratórií.

Preteky urýchľujú aj plány na vstup firiem na burzu. OpenAI pritom zvažuje financovanie, ktoré by jej hodnotu zvýšilo na 1,5 bilióna dolárov. Šéf umelej inteligencie Microsoftu Mustafa Suleyman označil kontrolu superinteligencie za najväčšiu výzvu 21. storočia.

(reuters, bak)