Tempo rastu sa blíži k 900 percentám ročne. Ide o dramatickú zmenu, ktorá má priamy vplyv na dôveryhodnosť digitálneho priestoru.
Prečo sa deepfaky tak zlepšili
Za prudkým posunom stojí niekoľko technologických faktorov. Prvým je skok v kvalite generovaného videa. Nové modely dokážu udržať časovú konzistenciu – tváre sa nedeformujú, identita postáv zostáva stabilná a pohyb pôsobí prirodzene. Zmizli typické chyby, ako blikanie obrazu či neprirodzené línie okolo očí a úst, ktoré boli kedysi spoľahlivým varovným signálom.
Druhým faktorom je klonovanie hlasu. Umelá inteligencia dnes potrebuje len niekoľko sekúnd nahrávky, aby vytvorila presvedčivý hlasový klon so správnou intonáciou, rytmom, emóciami aj pauzami. Táto technológia už dnes poháňa rozsiahle podvodné schémy.
Niektoré firmy hlásia stovky až tisíce falošných hovorov denne, pri ktorých je hlas takmer nemožné odlíšiť od originálu.
Tretím dôvodom je dostupnosť nástrojov. Generovanie deepfakov už nie je doménou špecialistov. Spotrebiteľské platformy a nové generácie modelov umožňujú vytvoriť realistické video či audio v priebehu minút – bez technických znalostí.
Stačí textový opis, zvyšok zabezpečí umelá inteligencia. Tvorba presvedčivého falošného obsahu sa tým stala masovou záležitosťou.
Keď sa falošné stáva živým
Kombinácia rastúceho množstva a vysokej kvality deepfakov vytvára vážne riziká. Obsah sa šíri rýchlejšie, než ho možno overiť, a škody vznikajú ešte predtým, ako sa ukáže, že ide o podvrh. Dôsledky siahajú od politických manipulácií cez cielené obťažovanie až po finančné podvody.
Vývoj zároveň smeruje k ďalšiemu prelomu: k deepfakom v reálnom čase. Namiesto vopred vytvorených videí nastupujú digitálni „herci“, ktorí dokážu reagovať na otázky, meniť správanie a prispôsobovať sa situácii.
Modely identity už nezachytávajú len vzhľad, ale aj spôsob reči, gestá a typické správanie v rôznych kontextoch. Rozdiel medzi „vyzerá ako niekto“ a „správa sa ako niekto“ sa rýchlo stiera.
V takomto prostredí prestáva stačiť spoliehať sa na ľudský úsudok. Obrana sa bude musieť presunúť na systémovú úroveň – k overiteľnému pôvodu obsahu, kryptografickému podpisovaniu médií a pokročilým forenzným nástrojom umelej inteligencie.
Jednoducho povedané: pozerať sa pozornejšie už nebude stačiť.
Text vychádza z analýzy publikovanej na platforme The Conversation, následne prevzatej agentúrou Reuters. Bol redakčne upravený a skrátený.
(reuters)
