Deepfake: Ako rozoznať videá a fotky vytvorené umelou inteligenciou

Predstavte si, že vám príde videohovor od šéfa, ktorý naliehavo žiada prevod 25 000 eur na účet dodávateľa.

Hlas znie presne ako jeho, tvár má jeho typické črty, dokonca aj gestá rúk sú rovnaké. V skutočnosti ste sa však rozprávali s deepfake – videom vygenerovaným umelou inteligenciou. Presne takýto podvod sa v roku 2024 stal vo firme v Hongkongu, kde zamestnanec previedol 25 miliónov dolárov na základe falošného videohovoru.

Deepfake je syntetické video, audio alebo fotografia vytvorená umelou inteligenciou, ktorá natoľko realisticky napodobňuje reálnu osobu, že je pre ľudské oko (a ucho) takmer nerozoznateľná od originálu.

Ako deepfake funguje a prečo je taký nebezpečný

Technológia stojí na dvoch kľúčových pilieroch: generatívnych neurónových sieťach (GAN – Generative Adversarial Network) a dolaďovaní tváre (face swapping). Dve neurónové siete medzi sebou súťažia – jedna vytvára falošný obraz, druhá sa ho snaží odhaliť ako falošný. Tento „súboj“ trvá, kým výsledok nie je na nerozoznanie.

Predstavte si to ako profesionálneho maliara portrétov (generátor) a znalca umenia (detektor). Maliar maľuje portrét, znalec hľadá chyby. Maliar sa z každej chyby učí a čoraz lepšie napodobňuje skutočnosť. Po tisíckach kôl vznikne portrét, ktorý oklame aj najskúsenejšieho odborníka.

V praxi to znamená, že na vytvorenie presvedčivého deepfake videa dnes stačí: - 30 sekúnd autentického videa danej osoby (na trénovanie hlasu a mimiky) - Výkonný grafický procesor (GPU) – cena od 1 500 € - Softvér voľne dostupný na internete

Konkrétny príklad z praxe – finančný podvod

Scenár: Firma ABC, s. r. o., dostane urgentný e-mail od „konateľa“, ktorý je na služobnej ceste v Londýne. V prílohe je video, kde konateľ osobne žiada o okamžitý prevod 12 000 € na účet „právnej kancelárie“ – vraj ide o kauciu za prepustenie kolegu z väzby.

Ako to odhaliť: 1. Skontrolujte e-mailovú adresu – deepfake často používajú adresy líšiace sa o jeden znak (napr. Táto e-mailová adresa je chránená pred spamovacími robotmi. Na jej zobrazenie potrebujete mať nainštalovaný JavaScript. namiesto Táto e-mailová adresa je chránená pred spamovacími robotmi. Na jej zobrazenie potrebujete mať nainštalovaný JavaScript.). 2. Overte si informáciu cez iný kanál – zavolajte na známe číslo, nie na číslo uvedené v e-maile. 3. Požiadajte o potvrdenie cez overenú aplikáciu (napr. WhatsApp s dvojfaktorovým overením).

Časté omyly a na čo si dať pozor

Mýtus č. 1: Deepfake spoznáte podľa toho, že osoba nemrká. Realita: Moderné deepfake modely (od roku 2022) už dokonale simulujú mrkanie. Tento indikátor je dnes nepoužiteľný.

Mýtus č. 2: Stačí sa pozrieť na kvalitu videa. Realita: Deepfake v rozlíšení 4K sú dnes bežné. Naopak, podvodníci často zámerne znižujú kvalitu videa, aby zamaskovali nedokonalosti.

Skutočné varovné signály, ktoré fungujú v roku 2024: - Neprirodzené osvetlenie tváre – ak je tvár príliš hladká alebo tiene nedávajú zmysel (napr. svetlo prichádza z dvoch strán, ale tieň je len na jednej). - Asynchrónnosť pier a zvuku – pri pozornom sledovaní pery mierne zaostávajú za slovami (oneskorenie 50 – 100 ms). - Neprirodzené očné kontakty – osoba sa pozerá priamo do kamery príliš dlho bez prirodzeného odvrátenia pohľadu. - Chyby v pozadí – rozmazané okraje, „tečúca“ textúra steny, neprirodzené tiene.

Ako sa chrániť – praktické odporúčania

1. Zaveďte viacúrovňové overovanie – pre akýkoľvek finančný prevod nad 1 000 € vyžadujte potvrdenie cez dva nezávislé kanály (telefonát na známe číslo + e-mail z overenej domény).

2. Používajte detekčné nástroje – bezplatné online nástroje ako Deepware Scanner (deepware.ai) alebo Microsoft Video Authenticator dokážu analyzovať video a odhaliť deepfake s presnosťou nad 90 %.

3. Nastavte si heslové frázy – dohodnite si s rodinou alebo kolegami tajné slovo, ktoré použijete v núdzovej situácii (napr. „fialový nosorožec“).

4. Vzdelávajte zamestnancov – väčšina firiem nemá žiadne školenie na rozpoznávanie deepfake. Odporúčame aspoň raz ročne simulovaný phishingový útok s deepfake videom.

Verdikt

Deepfake nie je technológia budúcnosti – je to aktuálna hrozba, ktorá už dnes stojí firmy milióny eur. Kým pred piatimi rokmi ste na rozpoznanie deepfake potrebovali odborníka s výkonným počítačom, dnes na jeho vytvorenie stačí notebook za 1 000 € a hodina času.

Kľúčové pravidlo: Ak vás video alebo audio nahrávka vyzýva na naliehavú akciu (najmä finančnú), vždy si ju overte nezávislým spôsobom. Dôvera je v digitálnom svete najcennejšia – a zároveň najzraniteľnejšia – komodita.

Súvisiace pojmy

• Generatívna neurónová sieť (GAN) – technológia, ktorá stojí za tvorbou deepfake.
• Syntetické médiá – širšia kategória zahŕňajúca deepfake, ale aj legitímne využitie (napr. vo filmovom priemysle).
• Phishing – podvodné techniky, ktoré deepfake posúva na novú úroveň.
• Biometrické overenie – spôsob, ako sa chrániť pred deepfake podvodmi (napr. rozpoznávanie tváre v reálnom čase).

Podrobnejšie články a návody nájdete na ai.ezin.sk.