AI та LLM у AI ТА LLM У бізнесі та кіберзахисті: можливості, загрози та управління ризиками
  • Формат проведення – он-лайн
  • Час проведення -  з 10.00 до 15.00

Контроль, захист та автоматизація: як безпечно впроваджувати ШІ у фінансовій установі.

Загальна теза:
Стрімке впровадження штучного інтелекту створює новий периметр кіберзагроз, де регуляторні штрафи та витоки даних через «Shadow AI» стають щоденною реальністю.

Цей курс об'єднує топменеджерів, комплаєнс-офіцерів та технічних інженерів навколо єдиної стратегії захисту та управління ризиками за фреймворками OWASP та EU AI Act.

Керівники отримають інструменти для захисту репутації та капіталу банку, а ІТ-фахівці та SOC ознайомляться з підходами до будівництва надійної архітектури безпеки й автоматизації протидії атакам нового покоління.

Інвестуйте в синергію вашої команди, щоб перетворити інновації на контрольовану та захищену конкурентну перевагу.

Очікуваний результат для учасників

Після семінару учасники зможе:

  • Оцінити ризики використання AI у компанії
  • Побудувати AI security strategy
  • Впровадити governance
  • Захистити бізнес від нових класів атак

Цільова аудиторія

  • CISO / Head of Cybersecurity
  • Security Architects
  • Risk / Compliance / GRC
  • SOC / Threat Intelligence Leads

Програма курсу:

1. Вступ: роль AI/LLM у сучасній кіберекосистемі

Цілі блоку:

  • Вирівняти розуміння AI/LLM
  • Аналіз бізнес-контексту

Зміст:

  • Еволюція: ML → Generative AI → LLM → Agents
  • Де вже використовується:
    • Customer support (чат-боти)
    • Coding assistants
    • Threat intelligence
  • Різниця:
    • Narrow AI vs Generalized LLM
  • Архітектура LLM:
    • Tokens, embeddings, inference
    • API vs self-hosted

Важливо для CISO: де в стеку виникають ризики

2. Бізнес-використання AI: можливості + Shadow AI

Теми:

  • ТОП use cases у бізнесі:
    • генерація контенту
    • автоматизація документообігу
    • аналітика
  • Shadow AI:
    • співробітники використовують ChatGPT / Copilot
  • Дані як новий perimeter

Обговорення:

  • Чому бізнес впроваджує AI швидше за безпеку
  • Як це змінює threat landscape
  1.  Threat Modeling для AI/LLM (1 год)

Фреймворки:

  • STRIDE for AI
  • MITRE ATLAS
  • OWASP Top 10 for LLM

3. Основні класи загроз:

  1. Prompt Injection
  2. Data Exfiltration
  3. Training Data Poisoning
  4. Model Inversion / Reconstruction
  5. Hallucinations → бізнес-ризики
  6. Supply chain (моделі, плагіни, API)

Практика:

  • Побудова attack tree для LLM system

4. Attack Scenarios (реальні кейси)

Кейси:

  • Prompt injection через email або PDF
  • Витік внутрішніх документів через ChatGPT / Copilot
  • Malicious plugins
  • RAG exploitation (retrieval attacks)

 5. Захист і мітігація ризиків

Архітектурні підходи

  • AI Gateway
  • Isolation layers
  • Zero Trust для AI

Контролі

Безпека вхідних даних:

  • Аналіз та «очистка» промтів
  • filtering

Безпека вихідних даних:

  • валідація контенту
  • DLP + AI

Безпека «Моделі»:

  • удосконалення управління
  • розділення даних

AI Security Stack:

  • LLM firewall
  • Моніторинг «Моделі»
  • Детектування аномалій

Політики:

  • Політика прийнятного використання для AI
  • Класифікація даних + використання AI

6. Управління, юридичні питання, дотримання вимог

Теми:

  • GDPR + AI
  • EU AI Act (ризик-орієнтовний підхід)
  • Ризики порушення авторських прав
  • Ризики AI третіх сторін

 Для CISO:

  • як інтегрувати AI в:
    • Реєстр ризиків
    • ISMS (ISO 27001)
    • Керування ризиками третіх сторін

 7. AI для кіберзахисту (blue team + red team)

Blue Team:

  • SOC автоматизація
  • Детектування загроз
  • Сортування інцідентів
  • Аналіз логів

Red Team:

  • Генерація фішингових листів
  • Асістент для розробки malware
  • Соціальна інженерія

 Баланс: AI як мультітул і для атакуючого, і для захисника

 8. SOC та операційна інтеграція AI

Use cases:

  • AI copilots у SOC
  • інженерія виявлення
  • автоматизація playbooks

Ризики:

  • надмірна залежність від AI
  • хибні спрацювання\ пропуск реальних інцидентів

 Доповідач:

Максим Ященко - Начальник Служби Інформаційної Безпеки АТ «УКРСИББАНК»

Учасники отримають Свідоцтва НЦПБПУ.

Вартість участі одного учасника складає 9720 грн., в т.ч. ПДВ 1620 грн.

Вебінар відбудеться на платформі Zoom

Увага! Напередодні заходу буде проведено обов'язкове тестування під’єднання до платформи Zoom, а також аудіо і відео зв’язку.

Для довідок та подання заявок на участь в семінарах

тел.:    (097) 411-64-40, (095) 212-32-42, (067) 235-09-23, (044) 253-07-02.

e-mail:   center@nctbpu.org.ua