Deepfake a AI podvody: ako rozoznať falošné video, hlas a fotku

Telefonát od „šéfa“, ktorý naliehavo žiada urýchlený prevod peňazí. Videohovor, na ktorom vystupujú „kolegovia“ s ich vlastnými tvárami aj hlasmi. Fotografia známej osobnosti, ktorá odporúča pochybnú investíciu. To všetko dnes dokáže vytvoriť umelá inteligencia, a to v kvalite, akú by ste pred pár rokmi nepovažovali za možnú. Hovoríme o takzvaných deepfakoch, teda o syntetických záznamoch, ktoré vyzerajú a znejú ako skutočnosť, hoci nikdy nevznikli.

Problém už dávno nie je okrajový. Bezpečnostné firmy odhadujú, že len za prvé tri mesiace roka 2025 spôsobili podvody s využitím deepfakov celosvetovo škody za viac než 200 miliónov dolárov, pričom ide len o odhady založené na nahlásených prípadoch. Najznámejším varovaním je prípad inžinierskej spoločnosti Arup, ktorý vyšiel najavo v roku 2024: zamestnanec v Hongkongu previedol v presvedčení, že koná na pokyn vedenia, približne 25 miliónov dolárov po videohovore, na ktorom boli všetky tváre aj hlasy umelo vygenerované.

Dobrá správa je, že väčšina podvodov stále zlyhá na tom istom mieste, kde zlyhávala vždy: na overení. V tomto článku si vysvetlíme, ako deepfaky technicky vznikajú, na čo sa zneužívajú a najmä podľa čoho ich viete rozpoznať skôr, než narobia škodu.

Čo sú deepfaky a ako vznikajú

Slovo deepfake spája anglické „deep learning“ (hlboké učenie) a „fake“ (falzifikát). Ide o obraz, video alebo zvuk, ktorý vytvorila alebo upravila umelá inteligencia tak, aby zobrazoval konkrétneho človeka pri niečom, čo v skutočnosti nepovedal ani neurobil.

Systémy sa učia na veľkom množstve reálnych záznamov danej osoby. Z fotografií a videí sa naučia mimiku, tvar tváre a spôsob pohybu, zo zvukových nahrávok zasa farbu hlasu, intonáciu a tempo reči. Práve preto sú najľahšími terčmi verejne známe osoby a vrcholoví manažéri: ich prejavy, rozhovory a videá z konferencií sú voľne dostupné. Útočníci v prípade Arup nepotrebovali nič tajné, stačili im verejné materiály.

Technológia sa pritom rýchlo zlacňuje a zjednodušuje. Pri klonovaní hlasu podľa údajov bezpečnostných firiem dnes stačí len niekoľko sekúnd kvalitnej nahrávky na vytvorenie použiteľnej napodobeniny, hoci výsledná presnosť závisí od kvality vstupu. To, čo kedysi vyžadovalo filmové štúdio, dnes zvládne bežne dostupný program.

Na čo sa deepfaky zneužívajú

Najčastejším a finančne najbolestivejším využitím sú podvody. Typický scenár: zamestnanec dostane hovor alebo videohovor od „riaditeľa“, ktorý pod zámienkou dôverného obchodu žiada urýchlený a tajný prevod peňazí. Tento postup je obdobou klasického podvodu „na šéfa“, lenže s umelo vytvoreným hlasom a tvárou pôsobí oveľa presvedčivejšie.

Druhou veľkou oblasťou sú dezinformácie. Falošné video politika alebo predstaviteľa štátu dokáže za pár hodín obletieť internet a ovplyvniť verejnú mienku skôr, než ho stihne niekto vyvrátiť. Tretím rozšíreným zneužitím je krádež identity a tváre vrátane falošných reklám, v ktorých „odporúčajú“ investície či lieky známe osobnosti, ktoré o tom nemajú ani tušenie, a žiaľ aj tvorba zneužívajúceho obsahu bez súhlasu zobrazenej osoby.

Ako rozoznať falošné video, hlas a fotku

Technické nedostatky sa síce zmenšujú, no pri mnohých falzifikátoch sú stále viditeľné. Pri videu si všímajte neprirodzené žmurkanie, rozmazané alebo „rozmazávajúce sa“ okraje tváre, nezhodu pohybu pier so zvukom, čudné tiene a osvetlenie, prípadne neprirodzene vyzerajúce vlasy, zuby alebo uši. Pri zvuku býva podozrivá monotónna, plochá intonácia, chýbajúce dýchanie, kovový tón či zvláštne prízvuky a pauzy na nesprávnych miestach.

Pri fotografiách hľadajte typické chyby generatívnych systémov: deformované prsty a ruky, nesymetrické okuliare či náušnice, nečitateľný text v pozadí alebo pozadie, ktoré „nesedí“ s perspektívou. Užitočné je aj spätné vyhľadávanie obrázka, ktoré ukáže, či fotografia nekoluje aj inde alebo či nejde o upravený originál.

Tieto signály sú však len pomôcka, nie záruka. Kvalitné deepfaky ich nemusia mať vôbec a naopak, aj pravé video môže pôsobiť čudne pre zlé svetlo či kompresiu. Preto je oveľa spoľahlivejšie overenie zdroja a kontextu než lov na obrazové chyby.

Overenie zdroja je dôležitejšie než hľadanie chýb

Najúčinnejšia obrana je jednoduchá zásada: dôveruj, ale preveruj cez druhý, nezávislý kanál. Ak vám „šéf“ či príbuzný volá s naliehavou žiadosťou, zložte a zavolajte mu späť na číslo, ktoré máte uložené, nie na to, z ktorého vám volal. Pri citlivých prevodoch trvajte na osobnom alebo telefonickom potvrdení vopred dohodnutým spôsobom.

Pri verejnom obsahu sa pýtajte, kto je pôvodný zdroj. Naozaj to zverejnilo overené konto inštitúcie alebo dôveryhodné médium? Existuje záznam aj inde? Pomáhajú aj nové technické riešenia: viacerí poskytovatelia AI dnes do generovaných obrázkov vkladajú neviditeľné vodoznaky (napríklad SynthID od Googlu) a kryptografické údaje o pôvode podľa štandardu C2PA, ktoré umožňujú overiť, či a akým nástrojom obsah vznikol. Tieto nástroje sa rýchlo vyvíjajú, no zatiaľ nimi nie je označený všetok obsah, takže ich berte ako doplnok, nie ako konečný verdikt.

Čo robiť, ak narazíte na deepfake

Ak máte podozrenie, predovšetkým nekonajte pod tlakom. Prerušte komunikáciu a overte si situáciu nezávisle. Nič neplaťte, neposielajte údaje a obsah ďalej nešírte, aby ste neprispeli k dezinformácii.

Deepfaky budú pravdepodobne čoraz dokonalejšie a podľa odhadov spoločnosti Deloitte by ročné škody z podvodov s umelou inteligenciou mohli v USA do roku 2027 narásť až na desiatky miliárd dolárov. Práve preto sa oplatí prijať jednoduchý návyk, ktorý funguje bez ohľadu na technológiu: pri každej naliehavej a nezvyčajnej žiadosti o peniaze či údaje si dajte chvíľu a overte ju cez kanál, ktorý poznáte. Zdravá nedôvera je dnes najlacnejšia a najúčinnejšia ochrana.

Zdroje: CNN Business (prípad Arup, 2024); Resemble AI (Q1 2025 Deepfake Incident Report); Google DeepMind (SynthID); Coalition for Content Provenance and Authenticity (štandard C2PA); analýzy a štatistiky bezpečnostných firiem a Deloitte Center for Financial Services. Spracovala redakcia.