Európska únia chce regulovať škodlivé používanie umelej inteligencie prostredníctvom zákona

Medzi zakázaným využitím umelej inteligencie sú manipulatívne techniky, systémy zneužívajúce zraniteľnosť niektorých skupín, akými sú deti či ľudia s hendikepom, systémy sociálneho bodovania, ktoré používa napríklad Čína na automatické vyhľadávanie „rizikových“ osôb na základe rasových či etnických charakteristík, či hromadné scrapovanie obrázkov tvarí.

Zakázané bude aj automatizované rozoznávanie psychologických stavov na pracovisku či vo vzdelávaní. Výnimku bude mať jedine využitie z bezpečnostných dôvodov, napríklad kontrola vodiča, aby nezaspal.

V EÚ sa nebude môcť použiť ani softvér, ktorý by predvídal riziko spáchania trestného činu na základe osobnostných predpokladov.

Nie každé použitie umelej inteligencie bude zakázané. EÚ vyčlenila aplikácie s „vysokým rizikom“. Pred uvedením na trh budú musieť splniť viacero podmienok vrátane kompatibility s ľudskoprávnymi pravidlami. Musia byť postavené tak, aby minimalizovali riziká a diskriminujúce výsledky.

Medzi výnimky pri využívaní rizikových aplikácií bude patriť napríklad použitie pri ochrane práva a poriadku.

Zákon o umelej inteligencii je posledným z trojice legislatívy, ktorou chce EÚ regulovať digitálne technológie a trh. Na systém budú dohliadať národní regulátori a Úrad pre umelú inteligenciu, vytvorený pri Európskej komisii.

Za najvážnejšie porušenie môžu firmy zaplatiť pokutu až sedem percent globálneho ročného obratu alebo 35 miliónov eur. Pri porušení povinností pre poskytovateľov systémov a modelov je pokuta 15 miliónov alebo tri percentná obratu, pri poskytnutí nepravdivých informácií môže firma zaplatiť do 1,5 percenta obratu.

Finálne schválenie legislatívy sa očakáva v najbližších mesiacoch a ustanovenia by mali začať platiť dva roky po jej vstupe do účinnosti, zoznam zakázaných použití umelej inteligencie už po polroku.

(euractiv)