Deepfake pornografia zneužíva ženy aj deti. Štáty začali prijímať tvrdé opatrenia

V septembri tohto roka však juhokórejská vláda prijala zákon, podľa ktorého osoby prechovávajúce deepfake obrázky a videá môžu dostať pokutu do výšky 30 miliónov wonov (približne 20-tisíc eur) alebo až tri roky väzenia. Za vytváranie takéhoto obsahu za účelom distribúcie môže byť osoba pokutovaná do výšky 50 miliónov wonov (približne 33 400 eur) alebo až piatimi rokmi väzenia.

Problém rezonuje v USA

V októbri 2023 sa obeťami deepfake pornografie stali študentky strednej školy v New Jersey, keď ich spolužiak vygeneroval nahé fotografie, ktoré následne kolovali po škole. Jednou z obetí bola v tom čase 14-ročná Francesca Maniová. Francesca spolu s jej mamou pri riešení tohto problému prišli na to, že žiaden zákon voči tvorbe deepfake pornografie nie je, a teda ich tvorcovia nemôžu byť trestne stíhaní. Na vygenerovanie ich nahých fotiek mala byť použitá aplikácia ClothOff, ktorá má podľa The Guardian korene v Bielorusku a Rusku. ClothOff obvinenia z využitia ich aplikácie v tomto prípade popiera.

Podobný problém riešili aj na škole v Beverly Hills v marci tohto roku, keď bolo päť študentov vylúčených za generovanie nahých fotografií až 16 spolužiačok.

Začiatkom tohto roka demokratická kongresmanka Alexandria Ocasio-Cortezová, ktorá sa sama stala obeťou takýchto videí, predstavila návrh zákona, ktorý by umožnil obetiam deepfake pornografie podať žalobu, pokiaľ by dokázali, že deepfakes boli vytvorené bez ich súhlasu. V júni zase republikánsky senátor Ted Cruz predložil zákon, ktorý by od platforiem vyžadoval vymazávanie deepfake pornografie.

Hoci mnohé z týchto opatrení majú obojstrannú podporu, v americkom zákonodarnom prostredí môže trvať roky, kým budú prijaté. Jednotlivé americké štáty sa však snažia postupovať rýchlejšie, pričom nejakú formu opatrení voči tvorbe deepfake pornografie prijalo už 23 štátov USA.

Opatrenia prijala aj EÚ

Problém si uvedomujú aj politici v Bruseli. V júni 2024 prijala Európska únia opatrenia pod názvom „EU AI Act“, ktoré by mali chrániť ľudí pred zneužívaním a deepfake tvorbou generovanou AI.

Vyplýva z neho, že generovanie takýchto materiálov na rozdiel od Južnej Kórey v EÚ nebude zakázané. Autori ich však vždy budú musieť označiť ako AI-generované a v prípade deepfake bude potrebný súhlas vyobrazenej osoby. Prvé regulácie by mali nadobudnúť platnosť vo februári budúceho roka.