Otvorený list zamestnancov vyvíjajúcich umelú inteligenciu: Nebráňte diskusii o rizikách

Hoci signatári pripúšťajú, že AI môže prispieť k pokroku, zároveň varujú, že jej následkom môže byť zakonzervovanie existujúcich nerovností, manipulácia a dezinformácie, prípadne strata kontroly nad samostatne pracujúcimi umelými inteligenciami, čo v konečnom dôsledku môže viesť až k zániku ľudstva. Tieto riziká uznávajú aj dodávatelia umelých inteligencií, vlády a príslušní experti. 

Podpísaní aktéri dúfajú, že riziká je možné zmierniť pod dostatočným vedením vedeckej komunity, tvorcov politík a verejnosti. Spoločnosti pracujúce v tejto oblasti sú však silne finančne motivované brániť sa efektívnej kontrole. Autori listu preto neveria, že na zákazku vytvorené pravidlá firemného dohľadu sú na zmenu dostatočné.  

Signatári upozorňujú na to, že spoločnosti pracujúce v oblasti AI vlastnia výrazné množstvo neverejných informácií o schopnostiach a obmedzeniach ich systémov, adekvátnosti ochranných opatrení a úrovni prípadných rizík. Ich povinnosti ohľadom zdieľania týchto dát sú však veľmi slabé voči vládam a prakticky neexistujúce vo vzťahu k verejnosti.

Pokiaľ neexistuje účinný vládny dohľad nad aktivitami spoločností podnikajúcich v oblasti AI, ich súčasní a bývalí zamestnanci predstavujú jedných z mála ľudí schopných dotiahnuť ich k zodpovednosti. Predmetom kritiky autorov výzvy je vysoká miera utajovania a prísnosť dohôd o mlčanlivosti týkajúcich sa zamestnancov odchádzajúcich z AI firiem.

Bežné mechanizmy ochrany oznamovateľov sú v takýchto prípadoch nefunkčné. Cielia totiž na nezákonnú činnosť, kým riziká v oblasti umelej inteligencie, vzhľadom k neexistencii ich regulácie, do tejto kategórie nepatria.

Niektorí z autorov iniciatívy sa obávajú aj odvetných opatrení zo strany súčasných alebo bývalých zamestnávateľov.

Aktéri zhrnuli svoje požiadavky do štyroch bodov.

1. Spoločnosti nebudú presadzovať žiadne zmluvy zakazujúce ich kritiku v oblasti potenciálnych rizík ani sa nebudú snažiť o pomstu prostredníctvom ekonomických záujmov.

2. Firmy vytvoria anonymný proces pre súčasných a bývalých zamestnancov, ktorý umožní upozorniť na záležitosti týkajúce sa rizík vedenie, regulátorov aj nezávislé expertné organizácie.

3. Spoločnosti budú podporovať kultúru otvoreného kriticizmu a umožnia súčasným a bývalým zamestnancom prejaviť obavy týkajúce sa rizík pod podmienkou, že obchodné tajomstvá zamestnávateľa nebudú ohrozené.

4. Firmy sa nebudú snažiť o pomstu voči bývalým a súčasným zamestnancom zdieľajúcim dôverné informácie ohľadom rizík v prípade, že ostatné procesy zlyhajú.

Túto výzvu podpísalo sedem bývalých a štyria súčasní zamestnanci OpenAI (tvorca ChatGPT) a po jednom bývalom a súčasnom zamestnancovi Google DeepMind.