Od profesionálního portrétu k deepfake: Tenká hranice mezi kreativitou a zneužitím technologií

Jan, IT konzultant z Prahy, chtěl osvěžit svůj profil na profesní síti LinkedIn. Místo drahého focení v ateliéru využil moderní platformu pro generování AI portrétů. Výsledek byl ohromující – Jan vypadal sebevědomě, v obleku, s perfektním pozadím.

O dva týdny později však kolega z brněnské pobočky narazil na Janovu tvář na pochybném investičním webu. Nebyla to jen fotka; bylo to video vytvořené technologií deepfake, kde Janův digitální klon přesvědčivě lákal lidi do finanční pasti.

Jan se stal obětí syntetické identity, což je fenomén, který dnes propojuje užitečné nástroje s bezpečnostními riziky.

Přístupnost vizuální

identity vs. nekontrolovaná dostupnost Dostupnost nástrojů pro tvorbu realistických lidských tváří se v posledních letech výrazně změnila. Zatímco dříve byla tvorba věrohodných digitálních avatarů výsadou hollywoodských studií, dnes stačí nahrát několik nekvalitních selfie do mobilní aplikace.

Podle Statista Research Department dosáhl globální trh s AI generovanými portréty v roce 2024 hodnoty přibližně 580 milionů USD [1]. Tento růst je dán posunem k digitální sebeprezentaci, kde se syntetický obraz stává standardem.

Problém však spočívá v tom, že stejný algoritmus, který vám vykouzlí perfektní úsměv pro životopis, může být použit k vytvoření falešného profilu pro průmyslovou špionáž nebo sociální inženýrství.

Zatímco většina uživatelů vnímá tyto nástroje jako neškodné zjednodušení práce, bezpečnostní experti varují před systémovými riziky. Data od Cisco Systems ukazují, že 72 % firem má vážné obavy o soukromí dat v souvislosti s AI [2].

Tato nedůvěra pramení z neprůhlednosti toho, jak jsou trénovací data uchovávána a zda jsou biometrické rysy uživatelů bezpečně smazány po vygenerování výsledku.

V českém prostředí na tato rizika opakovaně upozorňuje Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB), který v souvislosti s generativní AI zdůrazňuje riziko manipulace s veřejným míněním a krádeží identity.

Nejde již o teoretickou hrozbu; útoky využívající syntetické obrazy jsou stále častější a jejich detekce lidským okem je prakticky nemožná.

Technologická propast

a ekonomické dopady Rozpor mezi tradiční fotografií a AI generovanými obrazy vytváří novou ekonomickou realitu. Trh s digitálními portréty a virtuálními avatary roste tempem 35,2 % ročně [4]. Tento růst je poháněn především úsporou nákladů a času.

Nicméně, tato efektivita s sebou nese daň v podobě ztráty autenticity. Tradiční profesionální fotograf dokáže zachytit mikrovýrazy a osobitost, které algoritmy často nahrazují generickou „dokonalostí“. Právě v této nedokonalosti však spočívá biologický důkaz identity, který je u syntetických portrétů potlačen.

Níže uvedená tabulka porovnává různé přístupy k tvorbě vizuální identity z hlediska efektivity a bezpečnosti: | Parametr hodnocení | Místní profesionální fotograf | Služba pro online retušování | Platforma pro AI generování |

|:--- |:--- |:--- |:--- |

| Výrobní čas (minuty) | 60–90 min | 30–45 min | 2–5 min |

| Dodací lhůta (dny) | 3–7 dní | 1–2 dny | 0,01 dne |

| Rozlišení výstupu (px) | 6000+ px | 3000–5000 px | 1024–2048 px |

| Počet variant (ks) | 10–20 ks | 5–10 ks | 50+ ks |

| Autenticita (1–10 bodů) | 9/10 | 8/10 | 4/10 |

| Personalizace (1–10 bodů) | 9/10 | 7/10 | 5/10 | Z analýzy vyplývá, že ačkoliv AI platformy drtivě vítězí v rychlosti a kvantitě, tradiční fotografování zůstává nepřekonané v oblastech, kde je klíčová autenticita a vysoké rozlišení pro tiskové účely.

Pro kritické aplikace, jako je ověřování identity nebo reprezentace na nejvyšší úrovni, je lidský prvek stále nezastupitelný.

Jak zjistila IBM Security, průměrné náklady na únik dat v roce 2024 dosáhly 4,88 milionu USD [3]. Část těchto nákladů je přímo spojena s kompromitací identit, což podtrhuje důležitost obezřetnosti při nahrávání biometrických dat do nekontrolovaných cloudových systémů. Syntetická identita (Synthetic Identity) je forma podvodu, při které jsou reálné osobní údaje (například jméno nebo biometrické rysy) kombinovány s uměle vytvořenými daty za účelem vytvoření zcela nové, věrohodné digitální osobnosti.

Na rozdíl od klasické krádeže identity je odhalení syntetické identity mnohem náročnější, protože neexistuje jediná oběť, která by okamžitě nahlásila zneužití svých údajů.

V kontextu AI generování tváří se toto riziko násobí, protože útočníci mohou generovat tisíce unikátních profilů, které působí lidsky a důvěryhodně. Globální trh s AI, který by měl do roku 2025 dosáhnout přibližně 254,5 miliardy USD [5], prochází změnou.

Technologické společnosti jsou pod tlakem regulací, jako je Akt EU o umělé inteligenci (AI Act), který vyžaduje jasné označování syntetického obsahu. Nicméně, vynutitelnost těchto pravidel u platforem sídlících mimo jurisdikci EU zůstává problematická.

Pro běžného uživatele to znamená nutnost přejít od pasivní konzumace k aktivní verifikaci digitálního obsahu.

Rámec pro bezpečné

využívání syntetických portrétů Při zvažování využití generativních nástrojů pro osobní nebo firemní účely je nezbytné nehledět pouze na estetický výsledek, ale především na infrastrukturu důvěry.

Nejčastější chybou uživatelů je předpoklad, že smazáním výsledného obrázku v prohlížeči dochází i k odstranění zdrojových dat ze serveru.

Ve skutečnosti mnoho bezplatných platforem využívá nahrané fotografie k dalšímu trénování svých modelů, čímž uživatel nevědomky ztrácí kontrolu nad svou biometrickou stopou. Dalším rizikem je tzv. „uniformita generování“.

Pokud tisíce lidí používají stejný model se stejným nastavením, vznikají vizuální vzorce, které jsou pro algoritmy sociálních sítí snadno detekovatelné jako „spamové“. To může vést k penalizaci dosahu profilu nebo dokonce k jeho zablokování z důvodu podezření na botovou aktivitu.

Kvalitní analytický přístup vyžaduje hodnocení platforem podle tří kritérií: transparentnost trénovacích dat, možnosti exportu s metadaty o původu a existence mechanismů pro ochranu proti scrapingu (stahování dat třetími stranami).

Organizace by se měly i jednotlivci měli zaměřit na nástroje, které umožňují lokální zpracování nebo nabízejí striktní podnikové záruky (Enterprise SLA). V českém právním řádu, konkrétně v rámci zákona o ochraně osobních údajů, je biometrický údaj považován za citlivý údaj.

Jeho zpracování v netransparentních systémech mimo EU může představovat nejen bezpečnostní, ale i právní riziko pro české firmy. Pro Jana to bylo poučení.

Dnes kombinuje AI nástroje pro rychlé skicování nápadů, ale pro svou oficiální digitální tvář se vrátil k profesionálnímu fotografovi v Praze.

Zdroje

[1] https://www.statista.com/statistics/1484693/ai-generated-images-market-value/ -- Hodnota trhu s AI generovanými obrazy v roce 2024

[2] https://www.cisco.com/c/en/us/about/trust-center/data-privacy-benchmark-study.html -- Studie o obavách firem z ochrany soukromí v AI

[3] https://www.ibm.com/reports/data-breach -- Průměrné náklady na únik dat v roce 2024

[4] https://www.marketsandmarkets.com/Market-Reports/ai-in-photography-market-261552028. html -- Roční růst trhu s virtuálními avatary

[5] https://www.statista.com/forecasts/1474143/global-ai-market-size -- Prognóza globálního trhu s AI pro rok 2025