Počet prípadov, keď systémy umelej inteligencie klamali, ignorovali pokyny alebo škodlivým spôsobom sledovali vlastné ciele, prudko rastie. Podľa organizácie Loss of Control Observatory ich v júli zaznamenali viac než tristo, takmer dvojnásobok oproti júnu.

Organizácia, financovaná britským Inštitútom pre bezpečnosť umelej inteligencie, sleduje hlásenia používateľov na sociálnej sieti X. Od začiatku roka eviduje viac než 1 600 prípadov straty kontroly. Niektoré systémy sa vydávali za svojich používateľov, napodobňovali ich štýl písania či obchádzali pravidlá vyžadujúce ľudský súhlas.

Väčšina incidentov nespôsobila vážne škody, rastie však podiel prípadov hodnotených ako závažnejšie pre mieru klamania a odklonu od zámerov človeka.

Medzi zaznamenané prípady patrí aj osobný agent OpenClaw, ktorý bez vedomia austrálskeho používateľa odstránil iného človeka z čakacej listiny na rannú hodinu v posilňovni, aby svojmu majiteľovi získal miesto.

Organizácia žiada povinné monitorovanie a hlásenie závažných incidentov aj právomoci na dočasné obmedzenie služieb umelej inteligencie.

(guardian, bak)