Intenzívnejší záujem o riešenie deepfake videí prišiel v súvislosti so sieťou X, ktorú vlastní Elon Musk. Potenciálny problém zneužívania žien a detí nastal pri používaní jeho četbotu Grok, ktorý umožňoval upravovať fotografie používateľov tak, aby pôsobili, akoby boli zachytení v odhaľujúcom oblečení, často bez ich súhlasu.
Nástroj pritom vedel takto meniť aj snímky detí. Po silnej kritike Musk túto funkciu v rámci četbotu zrušil. Vyšetrovanie jeho sociálnej siete X však pokračuje a americký miliardár by mal v apríli v tejto veci vypovedať v Paríži.
Deepfake videá alebo fotografie sa však netýkajú len tejto spoločnosti. V online priestore existuje viac takzvaných „vyzliekacích“ (nudify) aplikácií.
Redaktorka Štandardu zisťovala, ako zareaguje umelá inteligencia v podobe četbotu ChatGPT (od spoločnosti OpenAI) na príkaz „urob mi z fotky deepfake“.
„S týmto ti nepomôžem. Vytváranie deepfakov (najmä takých, ktoré menia podobu reálnej osoby) sa veľmi často zneužíva a môže zasahovať do súkromia alebo poškodzovať ľudí,“ odpovedal ChatGPT s tým, že na fotke môže zmeniť iba svetlo, farby, vyretušovať či zmeniť na iný štýl.
„Prepáč, ale takéto niečo neurobím,“ odvetil aj digitálny asistent Gemini vyvinutý spoločnosťou Google s dôvetkom, že generovanie deepfake obsahu (teda realisticky zmanipulovaných fotiek alebo videí reálnych ľudí) odmieta z etických a bezpečnostných dôvodov.
Polícia varuje pred falošnou nahotou
Polícia SR upozorňuje na zneužitie detí alebo dospelých v prípadoch, keď ďalšia osoba prostredníctvom umelej inteligencie vytvorí na základe skutočnej fotografie podobizeň nahej alebo sporo odetej osobu, pričom hlava zostáva reálna. Takýto obsah potom páchateľ šíri ďalej internetom.
„Ide o situácie, keď páchateľ zneužije bežne dostupnú fotografiu (napríklad zo sociálnych sietí) a pomocou rôznych nástrojov ju upraví alebo vytvorí falošný, no realisticky pôsobiaci obsah. Ten následne používa na vydieranie, zosmiešňovanie alebo jeho ďalšie šírenie,“ spresňuje pre Štandard „falošnú nahotu“ hovorca Prezídia PZ Roman Hájek.
Obeť vtedy prichádza o kontrolu nad svojou podobou, zažíva hanbu, úzkosť a strach z reakcie okolia. „Obeťou sa môže stať ktokoľvek vrátane detí a mladistvých,“ dodáva.
Polícia k takýmto špecifickým prípadom nevedie samostatné štatistiky. Ako však Hájek približuje, z praxe vedia, že online priestor prináša nové formy zneužívania technológií vrátane umelej inteligencie.
Každý prípad je podľa neho individuálny a závisí od konkrétnych okolností. Ako Hájek vraví, vo všeobecnosti takéto konanie môže napĺňať znaky viacerých trestných činov, napríklad v oblasti neoprávneného nakladania s osobnými údajmi, poškodzovania cudzích práv, ohovárania, nebezpečného vyhrážania alebo vydierania.
„V prípade, že ide o maloleté osoby, môže ísť aj o závažnejšie trestné činy súvisiace s ochranou detí a mládeže, kde sú trestné sadzby prísnejšie,“ spresnil.
Umelá inteligencia podľa slov hovorcu prináša spoločnosti množstvo pozitív, no rovnako ako každá technológia môže byť zneužitá. „V rukách páchateľov sa stáva nástrojom na podvody, manipuláciu, vydieranie či poškodzovanie dobrého mena,“ konštatuje Hájek.
Policajný zbor z dôvodu predchádzania podobným situáciám spustil preventívnu kampaň „Temná strana umelej inteligencie“. Jej súčasťou bude upozorňovať verejnosť na riziká a varovné signály v online priestore.
Cieľom je informovať, ako predchádzať situáciám, ktoré môžu mať vážne následky vo forme deepfaku alebo falošnej nahoty.
Medzi odporúčania, ktoré polícia uvádza, patrí nezdieľať obsah, ktorý niekoho ponižuje, aj keď je vytvorený AI, ďalej nahlásiť podozrivý obsah prevádzkovateľom platforiem a „dôkladne zvážiť, aké fotografie a informácie zverejňujeme na sociálnych sieťach“.
Pomoc pri zneužití fotiek
Ak majú detí a mladí ľudia skúsenosti s témou nelegálneho obsahu, ako je napríklad materiál zobrazujúci sexuálne zneužívanie detí, môžu sa obrátiť aj na linku pomoci Viac ako ni(c)k, ktorá je zriadená v rámci projektu Centrum bezpečného internetu a je určená pre deti a mladých ľudí.
Kompetentní z projektu Centrum bezpečného internetu, ktorého koordinátorom je ministerstvo práce, sociálnych vecí a rodiny, pre Štandard hovoria, že pred zneužitím fotografie sa dá brániť tak, že fotografia nebude dostupná online.
„Rada, ktorá platí pre túto konkrétnu problematiku, ale aj pre iné problémy súvisiace s ochranou osobných údajov detí na internete, je, aby sme si vždy dobre premysleli, aký obsah zdieľame a komu,“ upozornili.
Väčšia striedmosť pri zdieľaní fotografií a osobných údajov podľa centra znižuje riziko ich zneužitia.
Nebezpečný grooming detí
Najzraniteľnejšou skupinou sú práve deti. Na ich potenciálne zneužitie Štandard upozorňuje aj Marek Madro, psychológ a riaditeľ občianskeho združenia IPčko, podľa ktorého sa v dnešnej dobe sexuálne zneužívanie detí na internete deje úplne novými formami.
Bližšie špecifikuje pojem „groomovanie“ detských obetí, čo znamená, že páchateľ si napríklad na sociálnej sieti k dieťaťu postupne vybuduje dôverný vzťah s cieľom neskoršieho sexuálneho zneužívania.
Pri tejto manipulácii môže prísť v rozhovoroch medzi groomerom a dieťaťom k poskytnutiu nevinných fotografií zo strany dieťaťa. Tie by mohol následne páchateľ zneužiť aj na vytvorenie deepfake fotografie a vydierať tak dieťa na ďalšie sexuálne materiály.
„Veľmi často groomeri vyzývajú svoje obete aj na sebapoškodzovanie, nielen na sexuálne zneužívanie, ale mieša sa to aj s novými, inými formami násilia, ktoré potom groomeri využívajú na to, aby vydierali deti a vytvárali na ne ešte oveľa väčší tlak,“ vraví Madro.
Ako dodáva, zneužívanie detí groomerom cez sociálne siete je niečo, čo sa naozaj deje. Ipčko v týchto prípadoch spolupracuje s políciou na odhaľovaní daných jedincov.
EÚ podporuje zákaz sexualizovaných deepfakov
Na rastúce riziká reagujú aj európske inštitúcie. Rada EÚ najnovšie podporila zákaz sexualizovaných deepfake fotografií a videí vytvorených pomocou umelej inteligencie. Znamená to teda, že nové pravidlá by mali zakázať generovanie sexualizovaného alebo intímneho obsahu bez súhlasu osoby, ktorú obsah zobrazuje.
Zákaz by sa mal týkať aj materiálov zobrazujúcich sexuálne zneužívanie detí vytvorených pomocou AI.
Do Aktu o umelej inteligencii (AI Act), ktorý stanovuje aj pravidlá pre vývojárov, by sa teda malo doplniť ustanovenie s týmto konkrétnym zákazom, ktorý Výbor stálych predstaviteľov vlád členských štátov pri Európskej únii (COREPER) v Bruseli odsúhlasil.
Deepfaky upravuje už samotný Akt o umelej inteligencii, ktorý vyžaduje ich označovanie, pričom nové návrhy EÚ idú ďalej a sprísňujú pravidlá najmä pri sexualizovanom obsahu bez súhlasu.
Na základe obmedzenia AI technológií by už nemalo dochádzať k „vyzliekaniu“ a sexualizácii osôb a k ich zneužitiu bez súhlasu zobrazenej osoby.
Za najzávažnejšie porušenia pravidiel hrozia firmám pokuty až do výšky 35 miliónov eur alebo siedmich percent ich celosvetového ročného obratu.
Legislatíva je však stále v procese. Rada EÚ už svoj postoj schválila (COREPER) a výbory Európskeho parlamentu (IMCO a LIBE) návrh zmien k pravidlám pre umelú inteligenciu vrátane deepfakov 18. marca 2026 podporili.
Návrh zmien k pravidlám pre AI vrátane zákazu „nudify“ aplikácií podľa oficiálnej tlačovej správy Európskeho parlamentu prešiel jasnou väčšinou – 101 europoslancov hlasovalo za, deväť proti a osem sa zdržalo.
Zo slovenských europoslancov, ktorí sa na hlasovaní zúčastnili, návrh podporili Michal Wiezik (PS), Milan Mazurek a Milan Uhrík (obaja Republika). Erik Kaliňák (Smer) sa pri finálnom hlasovaní zdržal, čo znamená, že nepodporil celý návrh. Podporil však jeden z pozmeňujúcich návrhov.
Konečné hlasovanie celého Európskeho parlamentu je naplánované na 26. marca 2026.
Výbory tak posunuli návrh do ďalších rokovaní medzi Európskym parlamentom a členskými štátmi (Rada EÚ), kde sa musia dohodnúť na finálnom znení legislatívy. Až po jeho schválení začne platiť v celej EÚ.