Deepfake pornografia zneužíva ženy aj deti. Štáty začali prijímať tvrdé opatrenia
Deepfake označuje technológiu, ktorá dokáže pomocou umelej inteligencie vytvoriť falošné, ale dôveryhodné obrázky, videá a audionahrávky. Pomocou deepfake technológie môžu okrem vtipných videí vzniknúť aj vyjadrenia politikov, ktoré nepovedali, či pornografické materiály rôznych osôb vrátane detí. Podľa štatistík až jedna tretina deepfake nástrojov umožňuje tvorbu pornografie.
Joshua Bengio, jeden z priekopníkov AI, podpísal otvorený list zameraný na reguláciu deepfake tvorby vrátane pornografie. V liste sú uvedené ďalšie problémové oblasti, kde môže byť táto technológia zneužitá ako podvody, voľby či kradnutie identity. Firmy ako Alphabet (Google), Amazon a Meta Platforms (Facebook a Instagram) dali záväzok na monitorovanie svojich platforiem, aby zabránili tvorbe a šíreniu detskej pornografie vrátane generovanej AI.
Najčastejšími obeťami sú ženy z Južnej Kórey
Podľa projektu Security Hero, ktorý sa venuje krádežiam identity, je až v 99 percentách deepfake pornografického materiálu obeťou žena. Vo viac ako polovici prípadov sú to speváčky a herečky z Južnej Kórey.
V apríli minulého roka mal tiež istý Juhokórejčan vygenerovať 360 obrázkov detskej pornografie pomocou AI. Za tento skutok bol v septembri minulého roka odsúdený odňatím slobody na dva a pol roka.
V septembri tohto roka však juhokórejská vláda prijala zákon, podľa ktorého osoby prechovávajúce deepfake obrázky a videá môžu dostať pokutu do výšky 30 miliónov wonov (približne 20-tisíc eur) alebo až tri roky väzenia. Za vytváranie takéhoto obsahu za účelom distribúcie môže byť osoba pokutovaná do výšky 50 miliónov wonov (približne 33 400 eur) alebo až piatimi rokmi väzenia.
Protest proti deepfake pornografii v Južnej Kórei. Foto: ČTK/AP/Ahn Young-joon
Problém rezonuje v USA
V októbri 2023 sa obeťami deepfake pornografie stali študentky strednej školy v New Jersey, keď ich spolužiak vygeneroval nahé fotografie, ktoré následne kolovali po škole. Jednou z obetí bola v tom čase 14-ročná Francesca Maniová. Francesca spolu s jej mamou pri riešení tohto problému prišli na to, že žiaden zákon voči tvorbe deepfake pornografie nie je, a teda ich tvorcovia nemôžu byť trestne stíhaní. Na vygenerovanie ich nahých fotiek mala byť použitá aplikácia ClothOff, ktorá má podľa The Guardian korene v Bielorusku a Rusku. ClothOff obvinenia z využitia ich aplikácie v tomto prípade popiera.
Podobný problém riešili aj na škole v Beverly Hills v marci tohto roku, keď bolo päť študentov vylúčených za generovanie nahých fotografií až 16 spolužiačok.
Začiatkom tohto roka demokratická kongresmanka Alexandria Ocasio-Cortezová, ktorá sa sama stala obeťou takýchto videí, predstavila návrh zákona, ktorý by umožnil obetiam deepfake pornografie podať žalobu, pokiaľ by dokázali, že deepfakes boli vytvorené bez ich súhlasu. V júni zase republikánsky senátor Ted Cruz predložil zákon, ktorý by od platforiem vyžadoval vymazávanie deepfake pornografie.
Hoci mnohé z týchto opatrení majú obojstrannú podporu, v americkom zákonodarnom prostredí môže trvať roky, kým budú prijaté. Jednotlivé americké štáty sa však snažia postupovať rýchlejšie, pričom nejakú formu opatrení voči tvorbe deepfake pornografie prijalo už 23 štátov USA.
Opatrenia prijala aj EÚ
Problém si uvedomujú aj politici v Bruseli. V júni 2024 prijala Európska únia opatrenia pod názvom „EU AI Act“, ktoré by mali chrániť ľudí pred zneužívaním a deepfake tvorbou generovanou AI.
Vyplýva z neho, že generovanie takýchto materiálov na rozdiel od Južnej Kórey v EÚ nebude zakázané. Autori ich však vždy budú musieť označiť ako AI-generované a v prípade deepfake bude potrebný súhlas vyobrazenej osoby. Prvé regulácie by mali nadobudnúť platnosť vo februári budúceho roka.