Контроль действий и безопасность ИИ-агентов

Запись лекции "Контроль действий и безопасность ИИ-агентов" подробности в канале Топ Кибербезопасности https://t.me/safebdv и на сайте https://batrankov.ru/ai-safe/ Вводная часть и природа ИИ-агентов [00:00] — Проблема безопасности ИИ-агентов в компании и ключевые темы вебинара [01:44] — Лестница зрелости CMMI в контексте ИИ: от отрицания до контроля [02:45] — Разница между LLM-ассистентом и автономным агентом (обвязка, harness, tool calls) [04:10] — Живая демонстрация: запуск Claude Code в терминале, MCP-серверы и генерация игры Угрозы, автономность и векторы атак [09:50] — Уровни зрелости компании и слепые зоны (Shadow AI, локальные агенты) [13:26] — Смена парадигмы: от текстовых промптов к циклам действий и автономным решениям [16:59] — Статистика внедрения ИИ-агентов в корпоративные процессы [19:03] — Три класса радиуса поражения: ассистент, доступ к коду и прямой доступ к инфраструктуре [22:14] — Реальные инциденты: удаление почты, взломы и сбои контекстного окна [25:29] — Механика непрямых промпт-инъекций через тикеты и внешние файлы [29:02] — Разделение полномочий: почему чтение данных и отправка наружу — это разные действия [30:40] — Архитектура Runtime-контроля, Human-in-the-Loop и проблемы автоматических аппрувов [34:13] — Результат работы агента: готовая игра на HTML5 за 12 минут [36:32] — Разбор атаки через issue на GitHub и вредоносные CLI-агенты [37:59] — OWASP Top-10 for Agentic Applications: основные риски и отравление памяти [40:43] — Отличие LLM Firewall от Runtime Security: проверка текста против проверки действий Практика Runtime Security и демонстрация решения [44:28] — Что должен проверять Runtime Security: чек-лист требований к защите [48:03] — Точки перехвата действий: хуки в IDE, MCP-врапперы, eBPF и сетевой контроль [50:13] — Почему классические DLP, EDR и NGFW не закрывают угрозы от агентов [52:23] — Иллюзия запретов: как борьба с ИИ повторяет историю с флешками и смартфонами [56:47] — Подключение Infiro Security: архитектура связки Safe Agent и сетевого шлюза [01:00:36] — Три направления защиты: сканирование скилов, анализ активности и исполнение политик [01:04:27] — Механизмы обнаружения Shadow AI без нагрузки на рабочую станцию [01:06:19] — Управляющий контур: текстовые политики, MCP-реестры и сбор событий в SIEM [01:09:15] — Поддерживаемые среды: Kubernetes, рабочие станции, IDE-плагины [01:13:46] — Демонстрация консоли Safe Agent: инвентаризация, карточки сессий и аномалии Ответы на вопросы и внедрение контроля [01:21:05] — Сессия Q&A: создание политик доступа, правила для MCP-серверов и цепочки вызовов [01:25:19] — Ответы на вопросы: обработка конфликтов политик при масштабировании до тысяч агентов [01:29:40] — Юридическая ответственность за действия ИИ: кейс Air Canada и судебная практика [01:32:06] — AI Bill of Materials (AIBOM), перехват тулколов и отправка событий в SOC/SIEM [01:36:43] — С чего начать наведение порядка: аудит платежей, инструментальная инвентаризация и пилотирование