1 of 15

AI a (kyber)bezpečnost

Daniel Bradbury Dočekal

2025/10

​

2 of 15

  1. Co dnes znamená „AI“
  • Asistenti na text/hlas, generování obrázků/videa, …�
  • Nástroje napojené na firemní data (chat nad dokumenty)�
  • Proč je to jiné než běžný software (učení, nepředvídatelnost)�
  • Kde běží: cloud vs. on-prem vs. hybrid, mobilní, atd.�
  • Budoucnost: AI agenti

3 of 15

  • Jak AI pomáhá útočníkům
  • Phishing na míru během minut (text, e-mail, chat)�
  • Deepfake hlas/videohovor: „volá šéf, pošli peníze“�
  • Falešné weby/chatboti, co vypadají legitimně�
  • Automatizovaný OSINT: rychlé zjišťování detailů o firmě�
  • Bezpečnostní nedostatky AI, prompt engineering/inserting

4 of 15

  • Nejčastější chyby ve firmách
  • Vkládání citlivých dat do veřejných chatbotů�
  • Přílišná důvěra výstupům AI (bez ověření)�
  • Plugin/doplněk s příliš širokými právy�
  • “AI coding” bez odpovídajícího ověřování�
  • Nekontrolované sdílení výstupů (kopírování dál)�
  • Otrávená znalostní báze (RAG poisoning): někdo změní „podklady“ a AI pak sebevědomě lže.

5 of 15

  • Jednoduchá pravidla pro lidi
  • Do AI nedávat osobní, smluvní, tajné údaje�
  • Ani jakkoliv „citlivé“, např: mzdy, smlouvy, zákaznická data, firemní finance, ale třeba ani zdravotní údaje�
  • „AI řekla“ ≠ pravda; vždy druhé oko/ověření, hodí se i více AI. A nutno správně volit modely vs. deep research�
  • Pozor na urgence a emoce v mailech/hlasu�
  • Nejasnosti a podezření hlásit na jedno místo

​

6 of 15

  • Jednoduchá pravidla pro techniku
  • Zapnout 2FA/passkeys, role a minimální práva�
  • Logovat a hlídat odchozí data z AI nástrojů�
  • Egress kontrola + segmentace: hlídat odchozí provoz AI nástrojů. Oddělit testovací/provozní prostředí a přístupy�
  • Maskovat/mazat citlivé údaje (DLP, Data Loss/Leak Prevention) před odesláním�
  • Správa secretů/API klíčů: vault, rotace, minimální scope (žádné klíče v skriptech).

​

7 of 15

  • Zálohy & obnova = záchrana
  • Pravidlo 3-2-1 (jedna kopie mimo firmu/off-site)�
  • Snapshoty a „nezměnitelné“ zálohy proti ransomwaru�
  • Pravidelný test obnovy: bez testu jako by nebyla�
  • Runbook: kdo co dělá při průšvihu
  • ​

Nové průzkumy od CSO a CrowdStrike ukazují, že 38 % bezpečnostních lídrů považuje AI-poháněné ransomware útoky za hlavní obavu, přičemž 78 % organizací zažilo ransomware útok v posledním roce. (CSO)

8 of 15

  • AI phishing / útoky
  • Jak z veřejných dat vyrobit věrohodný e-mail�
  • Detekční checklist: tón, doména, urgence, přílohy�
  • Protokol proti deepfake: peníze/hesla nikdy neschvalujeme po hlasu/video; vždy „call-back“ na známé číslo.�
  • Interní oznamovací kanál + krátký trénink

​

9 of 15

  • Co udělat zítra
  • Vydat 1-stránkovou AI policy + allowlist nástrojů�
  • Vypnout shadow AI cesty, rotovat klíče, zapnout 2FA�
  • Zapnout snapshoty + imutabilní zálohu, test obnovy�
  • DPIA (Data Protection Impact Assessment)/posouzení rizik pro AI use-case
  • DPA (Data Processing Agreement) se službami (kde jsou data, kdo je zpracovává).`

10 of 15

  • Co udělat zítra
  • Zkrátit retenční doby AI logů (7-30 dní) a zapnout redakci PII (Personally Identifiable Information)�
  • Zavést „call-back“ pravidlo pro citlivé požadavky (peníze/hesla).�
  • Spustit základní školení a nastavit jedno kontaktní místo

​

11 of 15

  • Firemní allowlist nástrojů
  • Obecný AI asistent pro lidi ve firmě�Microsoft 365 Copilot (tenants)�Google Gemini for Workspace�ChatGPT Enterprise/Business (OpenAI)�Claude for Work/Enterprise (Anthropic)�
  • V žádném případě? Grok, DeepSeek atd.�
  • „AI nad našimi daty“ (RAG, interní knowledge base)�Azure OpenAI Service�AWS Bedrock�EU-native: Mistral

​

12 of 15

  • Firemní allowlist nástrojů
  • On-prem / lokální (data neopustí síť)�Ollama + Open WebUI�PrivateGPT (self-hosted)�
  • Specializované nástroje�GitHub Copilot Business/Enterprise�DeepL Pro/Teams�
  • Obrázky (text-to-image / image editing)�Adobe Firefly (Enterprise / CC)�Getty Images Generative AI�Google Vertex AI (Imagen v rámci Vertex/Gemini)�Open-source/on-prem (vyšší kontrola)

​

13 of 15

  • Firemní allowlist nástrojů
  • Video (text-to-video, generativní editace)�Google Veo (Vertex AI / Gemini)�Runway (Enterprise)�
  • TTS (text-to-speech) / hlasové avatary�Azure AI Speech (Text-to-Speech / Custom Neural Voice)�Google Cloud Text-to-Speech�ElevenLabs Enterprise

​

14 of 15

  • Firemní allowlist nástrojů
  • Přepisy audia (STT) / diarizace�Azure Speech-to-Text (STT)�Google Cloud Speech-to-Text�Deepgram / AssemblyAI (enterprise)�On-prem/edge: OpenAI Whisper (self-hosted)�NVIDIA Riva (on-prem stack pro ASR/TTS)�

​

15 of 15

Někdy na viděnou

  • 365tipu.cz kde postupně přidávám tipy a triky i pro AI, včetně newsletteru�
  • #TYDEN zpravodajství o AI/ITC (newsletter)

​

Daniel Dočekal�daniel@pooh.cz