Otvorený list zamestnancov vyvíjajúcich umelú inteligenciu: Nebráňte diskusii o rizikách

Skupina bývalých aj súčasných pracovníkov firiem vyvíjajúcich umelú inteligenciu zverejnila otvorený list varujúci pred súčasnou praxou tohto odvetvia. Reagujú na fakt, že technológia umelej inteligencie (AI) je dnes hlavnou silou poháňajúcou priemysel informačných technológií, prináša však aj nezanedbateľné riziká.

Hoci signatári pripúšťajú, že AI môže prispieť k pokroku, zároveň varujú, že jej následkom môže byť zakonzervovanie existujúcich nerovností, manipulácia a dezinformácie, prípadne strata kontroly nad samostatne pracujúcimi umelými inteligenciami, čo v konečnom dôsledku môže viesť až k zániku ľudstva. Tieto riziká uznávajú aj dodávatelia umelých inteligencií, vlády a príslušní experti. 

Podpísaní aktéri dúfajú, že riziká je možné zmierniť pod dostatočným vedením vedeckej komunity, tvorcov politík a verejnosti. Spoločnosti pracujúce v tejto oblasti sú však silne finančne motivované brániť sa efektívnej kontrole. Autori listu preto neveria, že na zákazku vytvorené pravidlá firemného dohľadu sú na zmenu dostatočné.  

Signatári upozorňujú na to, že spoločnosti pracujúce v oblasti AI vlastnia výrazné množstvo neverejných informácií o schopnostiach a obmedzeniach ich systémov, adekvátnosti ochranných opatrení a úrovni prípadných rizík. Ich povinnosti ohľadom zdieľania týchto dát sú však veľmi slabé voči vládam a prakticky neexistujúce vo vzťahu k verejnosti.