Zodpovědnost za bezpečnost samoobslužné AI: Proč kontrola neznamená bezpečí

Marek, CTO v jedné pražské finanční firmě, se cítil bezpečně. Rozhodl se pro cestu absolutní suverenity: žádné externí API, žádné servery v zámoří. Veškerá citlivá data a modely AI běžely na vlastním hardwaru v serverovně v Holešovicích.

Pocit naprosté kontroly byl však uspokojivý jen do chvíle, kdy rutinní audit odhalil neoprávněný přístup přes neopravenou zranitelnost v lokálním rozhraní. Marek zjistil, že vlastnit kabel neznamená vlastnit bezpečnost.

Past absolutní kontroly a mýtus o nezávislosti

Mnoho technologických lídrů se domnívá, že přechod na samoobslužná řešení automaticky řeší dilema soukromí. Tato iluze pramení z přesvědčení, že fyzická blízkost dat je ekvivalentem jejich ochrany.

Podle průzkumu společnosti PwC z roku 2026 uvádí 56 % generálních ředitelů, že AI zatím nepřinesla očekávané výnosy [1], což odráží rostoucí hlad po suverenitě. Tato suverenita však přichází s cenou, kterou si mnohé týmy neuvědomují až do prvního incidentu.

Zatímco cloudoví poskytovatelé investují miliardy do automatizovaných patchů a penetračního testování, lokální instalace často zůstávají na původní verzi. Paradoxně se tak „bezpečné“ lokální prostředí stává křehčím než auditovaný cloud.

Podle průzkumu Cisco Systems vyjádřilo 72 % firem vážné obavy o soukromí dat v souvislosti s AI [2]. Přesto právě v lokálních prostředích, kde je ostražitost paradoxně nižší, dochází k nejzávažnějším konfiguračním chybám.

Někteří odborníci namítají, že i s rizikem údržby je on-premise řešení jedinou cestou pro kritickou infrastrukturu. Je pravdou, že pro subjekty podléhající přísným regulacím NÚKIB (Národní úřad pro kybernetickou a informační bezpečnost) je přímý dohled nad datovými toky klíčový.

Nicméně tento dohled nesmí být statický. Bez aktivní správy se samoobslužný provoz mění v digitální pevnost, která sice nemá okna, ale jejíž základy pomalu podléhají korozi.

Kvantifikace rizik: Lidský faktor jako nejslabší článek

Bezpečnost není jednorázový produkt, ale nepřetržitý proces. Při provozu vlastního AI rozhraní se odpovědnost za každý řádek kódu a každou otevřenou bránu přenáší na interní IT tým. Náklady na selhání jsou přitom drtivé.

Společnost IBM uvádí, že průměrné náklady na únik dat dosáhly v roce 2024 výše 4,88 milionu USD [3]. Pro českou firmu střední velikosti může být taková částka, v kombinaci s reputačním poškozením, likvidační.

Největší hrozba přitom nepřichází od sofistikovaných útočníků, ale zevnitř. Zpráva Verizon Business potvrzuje, že 74 % úniků dat zahrnuje lidský faktor [4].

V kontextu samoobslužné AI to znamená špatně nastavené API klíče, chybějící šifrování v lokální síti nebo prostou nedůslednost při správě uživatelských účtů.

Následující srovnání ukazuje rozdíly v nákladech a rizicích mezi různými modely nasazení AI:

Tradiční SaaS řešení v tomto srovnání jasně vítají v oblasti dostupnosti a automatizace aktualizací. Pro týmy s omezenou personální kapacitou je riziko výpadku u vlastního serveru, který nikdo nehlídá o víkendu, příliš vysoké.

SaaS platformy spravují bezpečnost za vás, což je v kritických momentech výhoda, kterou lokální server bez dedikovaného správce nemůže nabídnout.

Bezpečnostní brána pro AI

je specializovaná softwarová vrstva, která funguje jako prostředník mezi uživateli a lokálně běžícími modely, zajišťující jednotnou autentizaci, logování a vynucování bezpečnostních politik bez nutnosti upravovat samotné modely.

Tato vrstva je klíčová pro snížení provozního břemene, které s sebou správa vlastních instancí nese.

Tři fatální chyby v řízení suverénní AI

I v českém prostředí, kde Hospodářská komora ČR upozorňuje na rostoucí potřebu digitalizace, se firmy dopouštějí tří opakujících se chyb, které devalvují výhody samoobslužného provozu.

Chyba 1: Zanedbání aktualizací zabezpečení a správy oprav

Mnoho správců považuje AI model za hotovou věc. Nicméně rozhraní, která tyto modely zpřístupňují, jsou plná závislostí třetích stran. Jedna neopravená knihovna v Docker obrazu může otevřít cestu do celé podnikové sítě.

Ignorováním patchů se z bezpečného řešení stává časovaná bomba.

Chyba 2: Zanedbání zálohování dat a plánů obnovy

Suverenita znamená, že pokud selže váš disk, žádná podpora Microsoftu nebo Googlu vám data nevrátí. Chybějící metodika obnovy po havárii je u lokálních AI projektů až děsivě běžná. Ztráta vyladěných modelů nebo historie firemních promptů může znamenat měsíce ztracené práce.

Chyba 3: Chaos ve správě oprávnění a chybějící kontrola přístupu

Pokud má každý zaměstnanec přístup ke stejnému administrátorskému rozhraní, riziko úniku citlivých informací roste exponenciálně. Bez granulární kontroly toho, kdo může volat jaký model a s jakými daty, je celá idea bezpečného on-premise řešení pouhou fasádou.

Pokuty za porušení GDPR, které v roce 2024 celosvětově přesáhly 2,1 miliardy EUR [5], jsou jasným varováním i pro české subjekty pod dohledem ÚOOÚ.

---

V blízké budoucnosti se očekává, že regulace jako EU AI Act donutí firmy k ještě přísnějšímu auditu lokálních systémů.

Trh se pravděpodobně rozdělí na ty, kteří budou AI provozovat „na divoko“ s obrovským rizikem, a na ty, kteří adoptují standardizované brány pro správu přístupu.

Marek z našeho příběhu nakonec pochopil, že kontrola vyžaduje nástroje, nejen hardware. Do své infrastruktury implementoval vrstvu pro správu a audit, čímž sice zvýšil komplexitu o jeden prvek, ale radikálně snížil riziko lidské chyby [4].

Dnes už neřeší každý patch jednotlivě, ale má systém, který mu dává skutečnou suverenitu bez nutnosti probdělých nocí.

Přesto přiznává, že první měsíce provozu bez dozoru byly hazardem, který by už neopakoval, zejména s vědomím, že průměrné náklady na incident neustále rostou [3].

References

[1] https://www.pwc.com/gx/en/news-room/press-releases/2026/pwc-2026-global-ceo-survey.html -- PwC uvádí, že 56 % CEO zatím nezaznamenalo výnosy z AI

[2] https://www.cisco.com/c/en/us/about/trust-center/data-privacy-benchmark-study.html -- Podle společnosti Cisco má 72 % firem obavy o soukromí dat u systémů AI

[3] https://www.ibm.com/reports/data-breach -- IBM uvádí, že průměrné náklady na únik dat dosáhly v roce 2024 výše 4,88 milionu USD

[4] https://www.verizon.com/business/resources/reports/dbir/ -- Zpráva Verizonu potvrzuje, že 74 % úniků dat zahrnuje lidský faktor

[5] https://www.enforcementtracker.com/statistics.html -- Pokuty za porušení GDPR přesáhly v roce 2024 částku 2,1 miliardy EUR