Slovenské politické strany predkladajú návrhy zákonov, ktoré by zakazovali šírenie deepfakov, teda falošného, no realisticky vyzerajúceho obsahu vytvoreného prostredníctvom umelej inteligencie. V Národnej rade SR sú momentálne predložené dva návrhy, ktoré by podľa vyjadrení koaličných aj opozičných strán vrátili do digitálneho priestoru zákon a poriadok.
Na aplikácie, ktoré z bežnej fotografie vytvoria deepfakový obsah, upozornil podpredseda parlamentu Andrej Danko (SNS) s tým, že práve takéto možnosti, ktoré AI ponúka, predstavujú veľký problém. Pri zneužití fotografie totiž aplikácia s AI dokáže podľa neho vytvoriť „doslova porno scénu“ s nič netušiacou osobou.
Podobná ilúzia však môže vážne poškodiť súkromie človeka a nezriedka má vplyv na jeho psychiku. Preto je podľa Danka načase, aby aj slovenskí občania boli chránení pred aplikáciami, prostredníctvom ktorých môžu byť bez vlastného súhlasu zneužití.
„Slovenská národná strana preto navrhuje, aby takéto deepfakové video muselo byť označené, aby ho ten, kto ho vyhotovil, musel označiť,“ spresnil šéf SNS s tým, že pri šírení daného obsahu treba jasne oznámiť, že to nie je reálne, originálne video či fotka.
Legálny deepfake obsah by tak mohol fungovať len za predpokladu, že by bol označený a vznikol by so súhlasom dotknutej osoby.
Návrh však nie je koncipovaný ako osobitná regulácia online platforiem. „Ťažisko návrhu spočíva v ochrane fyzickej osoby v občianskoprávnej, priestupkovej a trestnoprávnej rovine,“ priblížila pre Štandard Zuzana Škopcová, riaditeľka kancelárie predsedu SNS.
Návrh z dielne SNS má chrániť bežných ľudí pred zneužívaním prostredníctvom AI tým, že sa jasne nastaví ochrana ľudí v prípadoch, ak druhá osoba zneužije tvár, hlas alebo podobu človeka bez jeho súhlasu.
Tento návrh zákona ráta s platnosťou od 1. januára 2027 a vyžadoval by úpravu Občianskeho zákonníka, v ktorom by sa rozšírila ochrana osobnosti.
Danko je toho názoru, že ak nieto vyhotoví podobné video s cieľom ublížiť inému, mal by znášať aj trestnoprávnu zodpovednosť. Koaličná SNS hovorí o zavedení presnejších pravidiel, aby mohlo byť takéto konanie postihované, a to od priestupkov až po tie, ktoré by mali trestnoprávny rozmer.
Nový trest za deepfake
Slovensko kriminalizovalo kyberšikanu v roku 2021, no nástup AI ukázal, že existujúca legislatíva na nové formy zneužitia identity nestačí. Zmena by sa teda podľa SNS týkala aj zákona o priestupkoch a Trestného zákona, v ktorom by bol upravený trestný čin nebezpečné elektronické obťažovanie.
„Návrh zavádza pri závažnejších prípadoch nový trestný čin neoprávneného vyhotovenia a sprístupnenia klamlivého záznamu,“ spresnila Škopcová.
Kým zákon z roku 2021 rieši zneužitie skutočných nahrávok a šírenie bez súhlasu a chráni reálne záznamy osoby, nový návrh chce chrániť aj umelo vytvorenú identitu. Zavádza tak postih pre tvorcov obsahu, ktorý reálne nikdy nevznikol, ale technológia ho dokáže presvedčivo simulovať.
Škopcová informovala, že v základnej skutkovej podstate sa navrhuje trest odňatia slobody až na dva roky.
V kvalifikovaných prípadoch, najmä ak páchateľ spôsobí značnú škodu, koná z osobitného motívu, verejne alebo v úmysle ovplyvniť výkon volebného práva alebo hlasovanie v referende, sa navrhuje trest odňatia slobody na jeden rok až päť rokov.
„Pri škode veľkého rozsahu alebo pri spôsobení inej obzvlášť závažnej ujmy na právach sa navrhuje trest odňatia slobody na tri roky až osem rokov,“ dodáva Škopcová.
Pripomeňme, že doposiaľ za nebezpečné elektronické obťažovanie hrozí páchateľovi maximálne šesť rokov odňatia slobody.
Menej závažné prípady návrh rieši v priestupkovej rovine. Ako riaditeľka kancelárie predsedu SNS ozrejmuje, ide o situácie, keď niekto bez súhlasu inej osoby vyhotoví a sprístupní alebo bez súhlasu sprístupní klamlivý záznam zachytávajúci podobu, hlas alebo iný prejav osobnej povahy tejto osoby, pričom ju môže také konanie poškodiť na cti alebo narušiť jej súkromie.
KDH: Zákon cieli aj na platformy
Opozičné Kresťanskodemokratické hnutie (KDH) prichádza so svojím návrhom lex deepfake, v ktorom okrem bežných ľudí spomína aj zodpovednosť platforiem.
Daný návrh počíta s tým, že bude postihnuteľné vytváranie aj šírenie deepfake obsahu bez súhlasu dotknutej osoby, ak jej môže privodiť ujmu na cti alebo narušiť jej súkromie. Priestupok určilo KDH v návrhu na sumu do 250 eur.
Ako pre Štandard uvádza komunikačné oddelenie kresťanských demokratov, za škodlivý deepfake navrhujú trestnú sadzbu dva roky. Päť rokov by dostala osoba za falošný obsah s pornografiou.
„Štúdie ukazujú, že drvivá väčšina deepfake obsahu na internete je pornografická, pričom v 99 percentách prípadov zobrazuje ženy,“ spresňujú v dôvodovej správe predkladatelia František Mikloško a Igor Janckulík.
Trestnú sadzbu osem rokov väzenia určilo hnutie pri zneužití podobizne dieťaťa.
Čo sa týka zodpovednosti platforiem, tie by mali povinne do 24 hodín odstrániť ohlásený nelegálny obsah, inak im hrozí pokuta až do výšky 500-tisíc eur. Návrh z dielne KDH počíta aj s expresným súdnym rozhodnutím, na základe ktorého môže súd nariadiť stiahnutie takéhoto obsahu do 48 hodín od podania návrhu.
Do Občianskeho zákonníka sa by zaviedlo úplne nové osobnostné právo, ktorým by sa chránila digitálna identita pred zneužitím prostredníctvom AI. Týmto zákonom by sa podľa strany mala zastaviť vlna digitálneho násilia a podvodu.
„Každá fyzická osoba má právo na ochranu svojej podoby, hlasu a ďalších jedinečných identifikovateľných charakteristík pred ich neoprávneným použitím na vytvorenie syntetického obsahu (deepfake),“ ozrejmujú v návrhu jeho predkladatelia.
Navrhujú, aby právo na ochranu digitálnej identity trvalo aj po smrti fyzickej osoby, pričom jeho ochranu si môžu uplatňovať rodinní príslušníci v trvaní 50 rokov.
„Jednou z najväčších a najnaliehavejších hrozieb je nekontrolované šírenie a zneužívanie technológie deepfake – vysoko realistického, no úplne falošného audiovizuálneho obsahu vytvoreného pomocou AI,“ prízvukujú Mikloško a Janckulík v dôvodovej správe.
Ako tlačové oddelenie ďalej špecifikuje, návrh sa zameriava na ochranu pre ženy a deti pred takouto formou kyberšikany, chráni seniorov pred okrádaním cez falošné hlasy ich vnúčat, pacientov pred podvodmi so zneužitými tvárami lekárov, ktorí ponúkajú nepravé a nebezpečné lieky, pričom ohrozujú zdravie občanov, a zároveň cieli na odstránenie manipulácie verejnej mienky pred voľbami.
O tom, či návrh postúpi do druhého čítania, rozhodne parlament podľa informácií z komunikačného oddelenia v hlasovaní na aprílovej schôdzi, ktorá sa začína 14. apríla.
Deepfake podľa pravidiel EÚ
Samotný Akt o umelej inteligencii (AI Act) na pôde Európskej únie nadobudol účinnosť už v roku 2024, pričom jednotlivé pravidlá vyplývajúce z neho sa zavádzajú postupne.
Únia rozdeľuje AI systémy do štyroch úrovní rizika: od tých, ktoré majú úplný zákaz, cez vysokorizikové až po tie s obmedzeným alebo minimálnym rizikom.
Ak umelá inteligencia vygeneruje obrázok alebo vytvorí deepfake, ten patrí do kategórie limited risk (obmedzené riziko). Firmy používajúce AI a pracujúce s takýmto obsahom musia zaviesť označovanie príslušného obsahu, keďže v akte EÚ už je tento bod zapracovaný.
Povinnosť označovať obsah vytvorený umelou inteligenciou (obrázok, video, text, audio) vrátane deepfakov začne v EÚ platiť od augusta 2026 a bude záväzná aj pre Slovensko.
Deepfake v EÚ však nie je automaticky zakázaný ani vysokorizikový. Rozhodujúce je, ako a načo sa používa. Jeho legálnosť teda závisí od toho, či zasahuje do práv osoby, napríklad jej súkromia alebo povesti. Ak je AI zneužitá na podvod či poškodenie reputácie, mal by sa prípad riadiť trestným právom, ktoré navrhujú upraviť SNS a KDH.
V prípadoch „nudify“ deepfakov [falošná nahota osoby vytvorená pomocou AI, pozn. red.] chce EÚ pritvrdiť a takéto nástroje na zneužitie osoby vo forme sexuálneho a intímneho obsahu úplne zakázať.
Chránené by boli najmä deti, keďže zákaz smeruje k zabráneniu ich sexuálneho zneužívania. „Nudify“ deepfake by sa tak ocitol v kategórii unacceptable risk – neprípustné riziko, teda úplne zakázaný –, ale len v prípade, ak by bol bez súhlasu dotknutej osoby.
V prípade schválenia by začal tento návrh úplného zákazu aplikácií na generovanie sexuálne explicitného obsahu bez súhlasu platiť v celej EÚ vrátane Slovenska. Príprava legislatívy je však ešte stále v procese.