Инфосистемы Джет: Доклад «Темная сторона открытых нейросетей» - видео HD

Тёмная сторона ИИ: как нейросети с открытым исходным кодом становятся оружием киберпреступников

Кирилл Одиноков из лаборатории информационной безопасности Сбера рассказывает о рисках использования общедоступных моделей: от скрытых бэкдоров до генерации вредоносного кода. Узнайте, как злоумышленники атакуют системы с помощью промпт-инъекций, джейлбрейка и фреймворков для ИИ-агентов. Наши эксперты покажут, как защититься: от матрицы MITRE ATLAS и статического анализа до динамических инструментов вроде Lamator. Практические кейсы, методологии и готовые решения для безопасной интеграции ИИ в бизнес.

00:11:03 — Топ-наборы угроз и базы данных для анализа рисков при внедрении ИИ
00:11:30 — MITRE ATLAS: матрица атак на искусственный интеллект
00:14:28 — Как злоумышленники используют IDE и фреймворки для создания вредоносных ИИ-агентов
00:15:23 — Контроль ввода: разделение пользовательских и системных данных, чёрные и белые списки
00:15:48 — Защита вывода: экранирование, SAST-анализ сгенерированного кода
00:17:36 — Изоляция сред выполнения и данных при работе с ИИ
00:19:53 — Статический анализ (фаззинг) и обнаружение подозрительных конструкций в коде
00:20:21 — Lamator: российский инструмент для проверки ИИ на прочность (ИИ против ИИ)
00:24:28 — Где можно использовать ИИ, а где категорически нельзя (жизнь, здоровье, ценности)