Bezpečný provoz LLM modelů a agentních aplikací: Proč je klíčový pokročilý monitoring a jak pomáhá Etnetera Core MDR
PŘEČÍST ČLÁNEK
Příběh Shadow AI většinou začíná u kolegy s dobrým nápadem. Jak takový příběh pokračuje a jak může skončit jinak, jsem ukazoval na Etnology #6. Záznam najdete tady.
Pamatuji si firmu, která uspořádala interní AI soutěž. Lidé ukazovali, co si s pomocí AI sami vytvořili. Byli to hlavně lidé mimo IT a jejich výtvory pomáhaly třeba s nákupem nebo s administrativou.
Jeden zaměstnanec předvedl nástroj, který opravdu fungoval. Měl ale háček: nechtěně zpřístupnil firemní data komukoli na internetu. Jeho autor na něj byl hrdý, protože dokázal něco, na co by dřív potřeboval programátora.
Z toho, co vidím ve firmách, je únik dat spíš výjimka. Typický je ale důvod, proč nástroj vznikl: člověk si chtěl usnadnit práci. Shadow AI tak roste z nadšení, kterému chybí hranice.
Shadow AI je umělá inteligence, kterou lidé v práci používají nebo si s ní něco staví mimo to, co firma schválila a o čem ví. Vzniká třemi způsoby:
První cesta je zákaz. Firma AI zakáže a lidé ji začnou používat po svém. Podle studie společnosti Cisco z ledna 2026 ale AI úplně zakazuje už jen 7 % firem, rok předtím to bylo 28 %. Firmy tedy přešly od plošných zákazů k hledání cesty, jak AI svým zaměstnancům zpřístupnit. Zbývá tak spíš otázka, jestli firemní nástroje lidem dovolí naplno využít to, co je dnes u AI běžné. Třeba vytvářet a sdílet hotové návody, podle kterých AI opakovaně postupuje (říká se jim skilly), napojit AI na firemní data tak, aby je mohla číst i do nich zapisovat, nebo pracovat s kolegy ve sdílených projektech.
Na některé systémy se ale AI napojit nedá, jinde se konektor teprve chystá. Nadšenec pak data do AI stejně dostane, jen je tam naštvaně kopíruje. Lepší než plošný zákaz jsou omezená práva. AI třeba nesmí smazat celý SharePoint, jen jeden dokument, a to až po potvrzení.
K Shadow AI ale může vést i druhá cesta. Firma AI zavede, lidé ji používají čím dál víc, až narazí. Licencí začne být málo, rozpočet už nestačí nebo pravidla nedovolí to, co lidé potřebují. Shadow AI tak vzniká i tam, kde firma AI podporuje a dělá to dobře. Přitom jen 11 % českých zaměstnanců říká, že má od firmy jasná pravidla pro bezpečné používání AI (Ipsos pro Vodafone, jaro 2026).
Pravidla přitom nemusí vznikat od stolu. Firmy stejně nestíhají měnit AI governance tak rychle, jak se lidé posouvají. Osvědčuje se nechat lidi jít trochu napřed, sledovat, co jim funguje, a to pak zapsat do governance jako firemní standard.
Jestli je vůbec na čem stavět, tedy v jakém stavu firma svá data má, rozebírá kolega Pavel Pola v článku o datové připravenosti pro AI.
Jak rychle může firemní AI narazit na peníze, ukazuje Uber. Letos vyčerpal roční rozpočet na AI za čtyři měsíce. AI nezakázal. Jen stanovil, kolik smí každý člověk měsíčně utratit za jednotlivé služby. (TechCrunch, červen 2026).
Firmy dnes mohou zaměstnancům platit používání AI dvěma základními způsoby. Prvním je týmové předplatné. Za měsíční paušál může zaměstnanec používat AI až do limitů daného účtu. Spotřeba AI se měří v takzvaných tokenech, zjednodušeně v kouscích textu, které AI přečte a napíše. V předplatném vycházejí tokeny v zásadě levněji, než je jejich tržní cena, a rozdíl dotují poskytovatelé. Týmová předplatná ale často mají strop na počet uživatelů, takže větší firmě nestačí.
Druhým způsobem je platba za spotřebu přes takzvané enterprise účty, tedy smlouvy pro velké organizace. Může je používat i několik tisíc lidí v jedné firmě, jenže za tokeny se tu platí plná tržní cena. Právě tady ceny pro firmu skokově rostou, klidně až dvacetinásobně. Je to, jako byste doteď kupovali kafe za stovku a najednou museli přejít na jiný kávovar, který vám stejné kafe uvaří za dva tisíce. Důvodem není jen počet uživatelů. Firemní bezpečnost navíc chce audit a další funkce, které mají až enterprise účty. Tomuhle skoku říkám údolí smrti: pro týmové předplatné je firma moc velká a platba za spotřebu ji vyjde mnohem dráž.
Peněz přitom ubývá rychleji, než se čeká. Kdo AI jednou začne používat, spotřebuje jí měsíc od měsíce víc. Znám firmu, kde AI začalo používat víc lidí, než kolik jich týmové předplatné dovoluje. Přešla proto na platbu za spotřebu a každý dostal měsíční rozpočet v řádu stovek dolarů. Nejaktivnějším lidem došel rozpočet uprostřed měsíce, někomu vydržel do konce jen díky dovolené.
Úplně se to vyřešit nedá. Pomáhá automatický routing na levnější modely a lidé, kteří umí s AI pracovat efektivně a zbytečně nepálí tokeny. Firmy, které se pustily do routingu, srazily cenu třeba o 10 %. Na ceny předplatného se tím ale nevrátíte. Počítejte i s tím, že dodavatel může zdražit a budete muset přejít k jinému. A pokud to jde, udržte si předplatné aspoň pro největší uživatele. Když se AI ve firmě úspěšně ujme, nechceme lidi nechat v situaci, kdy se musí po část pracovní doby vracet k původnímu způsobu práce nebo přemýšlet, jak si práci ulehčit pomocí Shadow AI.
Třetím způsobem, jak Shadow AI vzniká, jsou nástroje, které si lidé s pomocí AI postaví sami. Díky AI dnes ve firmách vzniká spousta prvních verzí nových aplikací a přibývá pokusů nahradit jimi interní systémy. Jejich tvůrci jsou často lidé z netechnických pozic, kteří bezpečnost těchto aplikací a to, jak je dlouhodobě provozovat, moc neřeší.
Často pak zjistíte, že stejnou věc ve firmě staví několik lidí najednou, každý trochu jinak podle toho, co zrovna ví. Proto firmy budují interní marketplace skillů a agentů, aby nikdo nezačínal od nuly.
Představte si obchodníka, který si postaví agenta na příchozí poptávky. Agent je čte v e-mailu, zakládá do systému se zákazníky a rovnou posílá první odpověď. Funguje to a ušetří to hodiny týdně. Pak obchodník odejde z firmy. Agent běží dál, protože ho nikdo nevypnul. Odpovídá zákazníkům jménem firmy, sahá do dat a nikdo neví, podle jakých pravidel se rozhoduje ani na kterém počítači vlastně běží. Když se v jeho odpovědích objeví chyba, není koho se zeptat.
Ani tady nejsem příznivcem plošných zákazů. Navrhuji ale několik pravidel, která pomohou tyto situace zvládnout.
Agent na notebooku jednoho člověka má i čistě praktický limit. Jakmile notebook zaklapnete, přestane pracovat a tým z něj nic nemá. Když se experiment osvědčí a má sloužit zákazníkům nebo pracovat s firemními daty, bývá dalším krokem ho přestavět na platformě Etnetera Agentic. Tam běží pro celý tým nonstop, s jasnými přístupy a auditní stopou, v podstatě s pravidly jako každý jiný produkční systém.
Další věc, kterou lidé teprve budou chtít a na kterou firmy pravděpodobně nejsou úplně připravené, jsou osobní agenti. Na začátku roku se hodně mluvilo o OpenClaw, mně doma běží na Mac Studiu a dělá různé věci. Takových agentů vzniká čím dál víc a lidé je dřív nebo později budou chtít používat.
Představte si agenta napojeného na všechny vaše systémy, kterému zavoláte, povídáte si s ním cestou autem a on vám mezitím vyřizuje poštu, vytváří dokumenty a kontaktuje kolegy. Tenhle způsob práce ještě ve firmách úplně vyřešený není.
Mluvil jsem tu hlavně o nadšencích, ale ostatní ve firmě budou brzy chtít totéž. Když budeme sledovat, kam nadšenci míří, a připravovat cestu spolu s nimi, připravíme ji i pro zbytek firmy. Přednášku na Etnology #6 jsem proto zakončil jednoduše: dejme cestu našim nadšencům. Celý záznam najdete tady.
_____
.png)
.png)
