Technologické spoločnosti súhlasili s bezpečnostnými opatreniami Bieleho domu pre umelú inteligenciu

Biely dom v piatok oznámil, že zabezpečil dobrovoľné záväzky siedmich amerických spoločností, ktoré majú zaistiť bezpečnosť ich produktov umelej inteligencie pred ich uvedením na trh. Niektoré zo záväzkov požadujú dohľad tretej strany nad fungovaním komerčných systémov umelej inteligencie, no neuvádzajú podrobnosti o tom, kto by mal technológie kontrolovať alebo brať spoločnosti na zodpovednosť.

Prudký nárast komerčných investícií do nástrojov generatívnej umelej inteligencie, ktoré dokážu presvedčivo písať texty podobné ľudským a vytvárať nové obrázky a iné médiá, priniesol fascináciu verejnosti, ako aj obavy z ich schopnosti klamať a šíriť dezinformácie.

Štyria spomenutí technologickí giganti spolu so spoločnosťou OpenAI, ktorá vytvorila chatbota ChatGPT, a startupmi Anthropic a Inflection, sa podľa Bieleho domu zaviazali k bezpečnostnému testovaniu, ktoré by mali čiastočne vykonávať nezávislí odborníci s cieľom ochrany pred veľkými rizikami, ako sú biologická a kybernetická bezpečnosť.

Spoločnosti sa tiež zaviazali k metódam nahlasovania zraniteľností svojich systémov a k používaniu digitálnych vodoznakov, ktoré by mali pomôcť rozlišovať medzi skutočnými obrázkami a obrázkami vytvorenými umelou inteligenciou, tzv. deepfakes. Mali by tiež verejne informovať o chybách a rizikách svojich technológií vrátane vplyvu na spravodlivosť a zaujatosť.