Trestanie deepfake videí bude nevyhnutné a inšpiráciou môže byť Nemecko

Virálne video vládnych politikov vytvorené pomocou umelej inteligencie otvorilo otázku trestnej zodpovednosti za porušovanie práv dotknutých osôb. Vo virálnom videu sú totiž veľmi realisticky a s vernou podobizňou predstavení politici Robert Fico, Robert Kaliňák, Matúš Šutaj Eštok, Andrej Danko a prezident Peter Pellegrini. Video ich vykresľuje ako odsúdené osoby, ktoré sa vo väzení nachádzajú v priateľskom vzťahu s odsúdenými zločincami Marianom Kočnerom a Alenou Zsuzsovou.

Hoci v danej veci začala konať polícia, niektorí vládni predstavitelia volajú po potrebe zavedenia vhodnej trestnoprávnej úpravy, ktorá by postihovala takéto zásahy do osobnostných práv.

Tajomníčka Roskoványi hovorí o chýbajúcej legislatíve

Štátna tajomníčka Ministerstva spravodlivosti SR Katarína Roskoványi upozornila, že napriek vyjadreniu autora deepfake videa, že ide o satiru, obsah daného videa nemožno považovať za sarkastický humor.

Podľa nej bolo „video už cez čiaru“ a zasahovalo do osobnostných práv politikov. Ďalej uviedla, že na Slovensku v podobných prípadoch „absentuje trestnoprávna úprava pri videách, ktoré naozaj poškodzujú práva určitých osôb, a je na čase sa zamyslieť nad tým, či by takáto trestnoprávna úprava nemohla byť aj v našom Trestnom zákone“.

Roskoványi spomenula prípad zo Spojených štátov amerických, kde politický konzultant Steve Kramer vytvoril podobné deepfake video s bývalým prezidentom Joeom Bidenom, pričom tvrdil, že išlo o upozornenie na riziká umelej inteligencie. Americké úrady tento argument neakceptovali a uložili Kramerovi pokutu vo výške šesť miliónov amerických dolárov, pričom za tento čin čelil aj viacerým trestným stíhaniam.

Riziká deepfake videí podľa Roskoványi nepredstavujú problém iba v politickej rovine, kde môžu mimoriadne realistickými, no falošnými naratívmi ovplyvňovať voličov pred voľbami. Realistické videá vytvorené pomocou umelej inteligencie sa často využívajú aj pri podvodoch alebo dokonca pri tvorbe sexuálneho obsahu s podobizňami maloletých.

Chrániť svoje práva proti AI je náročné

V jednom prípade zo Španielska boli zneužité fotografie 20 dievčat – stiahnuté z ich verejných profilov na Instagrame alebo Facebooku – a následne upravené tak, aby zobrazovali nahé telá. Tieto falošné snímky boli následne šírené internetom. Podľa Roskoványi mnohé z týchto dievčat v dôsledku toho trpia psychickými problémami.

Tieto a podobné prípady zneužívania AI podľa tajomníčky poukazujú na potrebu prijatia trestnoprávnej úpravy, ktorá by postihovala takéto zásahy do práv jednotlivcov, keďže civilnoprávna ochrana nie je postačujúca.

V civilnom konaní by totiž poškodený musel na vlastné náklady pred súdom preukazovať, že vo videu nevystupuje on, ale že ide o počítačovo vytvorený obraz. Rozbory alebo odborné analýzy tohto druhu sú však finančne náročné, preto je vhodné presunúť dôkazné bremeno na štát v prípadoch, keď dochádza k závažným zásahom do práv osôb, ktoré už majú trestnoprávny charakter.

Roskoványi tiež upozorňuje, že takéto videá zneužívajú osobné údaje – ako vzhľad alebo hlas – bez súhlasu dotknutej osoby, ktorá sa voči tomu často nemá ako účinne brániť. Tieto videá navyše často zverejňujú alebo šíria anonymné osoby, voči ktorým nie je možné uplatniť nápravu, ako je to bežné v prípade tradičných médií.

Štátna tajomníčka poukázala na medzeru v Trestnom zákone pri postihovaní tohto druhu konania, keďže podľa jej názoru podobné aktivity nespadajú pod existujúce trestné činy, ako je napríklad kyberšikana. Podľa jej vyjadrenia je prijatie osobitnej trestnoprávnej úpravy správnou cestou na postihovanie páchateľov takejto činnosti.

Nemecko predstavilo nový trestný čin

Ako príklad pre tvorbu právnej úpravy môže slúžiť Nemecko. Aj nemecký zákonodarca uznal, že ich vnútroštátne právne rámce na boj proti zneužívaniu deepfake technológií sú v súčasnosti nedostatočné.

Deepfake obsah môže predstavovať značné riziká pre osobné práva a majetok jednotlivcov, ako aj pre demokratické rozhodovanie, pričom sa môže využívať aj na dezinformačné účely, sledovanie zištných hospodárskych záujmov či porušovanie práva na ochranu osobnosti.

Nemecko sa domnieva, že európska legislatíva, najmä Akt o umelej inteligencii, je sama osebe nedostatočná na boj proti deepfake obsahu, ktorý porušuje osobné práva, a preto je potrebné zaviesť podrobnejšiu vnútroštátnu úpravu.

Nemecký Spolkový snem (Bundesrat) preto v roku 2024 navrhol doplniť Trestný zákonník (Strafgesetzbuch, StGB) o nový paragraf § 201b s názvom „Porušenie osobnostných práv prostredníctvom digitálneho falšovania“.

Tento trestný čin spácha ten, kto poruší právo na ochranu osobnosti inej osoby tým, že sprístupní tretej osobe mediálny obsah vytvorený alebo upravený počítačovými prostriedkami, ktorý vyvoláva dojem verného zobrazenia alebo zvukového záznamu vzhľadu, správania alebo ústneho prejavu tejto osoby.

Návrh zákona teda kriminalizuje vytváranie a distribúciu deepfake videí, ktoré porušujú osobné práva prostredníctvom využitia počítačovej technológie na napodobenie skutočných podobizní, správania alebo reči konkrétnych osôb.

Páchateľ tohto trestného činu môže byť potrestaný trestom odňatia slobody až na dva roky alebo peňažným trestom.

Digitálne falšovanie pozná aj výnimky

Návrh zákona zároveň obsahuje výnimky pre niektoré prípady, ktoré nebudú spadať pod trestnoprávnu zodpovednosť – ide najmä o aktivity v oblasti umenia, vedy, výskumu, vzdelávania, spravodajstva a histórie.

Precíznejšia právna úprava v oblasti nových technológií je nevyhnutná. Je len otázkou času, kedy zákonodarca upraví zneužívanie umelej inteligencie aj v Trestnom zákone, pretože bez jasne vymedzených mantinelov je zrejmé, že počet podobných videí bude narastať.

A nepôjde len o deepfake videá s politikmi – pri ktorých je síce väčšia miera zásahu do súkromia akceptovateľná, ale aj o bežných ľudí. Smutnou realitou je, že ak nejaká činnosť nie je regulovaná, dochádza k jej zneužívaniu. A práve na to má myslieť norma upravujúca obdobné vzťahy - ako predísť zneužitiu danej situácie.

Verejnosť sa síce môže zabávať na satirických videách o politikoch alebo verejne činných osobách, no táto satira nesmie prekračovať hranice únosnosti a meniť sa na cielené poškodzovanie bez opory v realite.

Aj takáto pomerne úsmevná činnosť veľmi rýchlo prešla od vytvárania komických videí do zneužívania podobizne osôb v najhoršom zmysle, a to je explicitný obsah s maloletými.

Postihovanie takýchto konkrétnych videí je dnes podľa Trestného zákona problematické, keďže hovorí o zobrazení „dieťaťa alebo osoby vyzerajúcej ako dieťa“. Deepfake videá v tomto smere však zobrazujú umelo vytvorené konštrukty a nie reálne osoby, a preto nie len v podmienkach Slovenskej republiky prebieha na úrovni právnickej obce diskusia, ako sa vysporiadať s problémom tvorby podobných AI videí.

Tento príklad ilustruje, kam až môže zájsť nová neregulovaná oblasť, a nikto nemôže tvrdiť, že počínanie tohto druhu je prospešné pre spoločnosť ako celok. Nová právna úprava by nebola postihom za deepfake videá politikov, ale garantom toho, že v budúcnosti sa v podmienkach Slovenskej republiky nebudú vyskytovať podobné prípady zneužívania podobizne osôb, ako tomu je v zahraničí.

Regulácia obsahu vytvoreného umelou inteligenciou by mala byť sankcionovaná už len z hľadiska prevencie pred bezbrehým zneužívaním moderných technológií. A to aj za cenu, že tvorba vhodnej právnej normy bude pretláčaná urazenými egami politikov.