Otvorený list zamestnancov vyvíjajúcich umelú inteligenciu: Nebráňte diskusii o rizikách

Hoci signatári pripúšťajú, že AI môže prispieť k pokroku, zároveň varujú, že jej následkom môže byť zakonzervovanie existujúcich nerovností, manipulácia a dezinformácie, prípadne strata kontroly nad samostatne pracujúcimi umelými inteligenciami, čo v konečnom dôsledku môže viesť až k zániku ľudstva. Tieto riziká uznávajú aj dodávatelia umelých inteligencií, vlády a príslušní experti. 

Podpísaní aktéri dúfajú, že riziká je možné zmierniť pod dostatočným vedením vedeckej komunity, tvorcov politík a verejnosti. Spoločnosti pracujúce v tejto oblasti sú však silne finančne motivované brániť sa efektívnej kontrole. Autori listu preto neveria, že na zákazku vytvorené pravidlá firemného dohľadu sú na zmenu dostatočné.  

Signatári upozorňujú na to, že spoločnosti pracujúce v oblasti AI vlastnia výrazné množstvo neverejných informácií o schopnostiach a obmedzeniach ich systémov, adekvátnosti ochranných opatrení a úrovni prípadných rizík. Ich povinnosti ohľadom zdieľania týchto dát sú však veľmi slabé voči vládam a prakticky neexistujúce vo vzťahu k verejnosti.

Pokiaľ neexistuje účinný vládny dohľad nad aktivitami spoločností podnikajúcich v oblasti AI, ich súčasní a bývalí zamestnanci predstavujú jedných z mála ľudí schopných dotiahnuť ich k zodpovednosti. Predmetom kritiky autorov výzvy je vysoká miera utajovania a prísnosť dohôd o mlčanlivosti týkajúcich sa zamestnancov odchádzajúcich z AI firiem.