Защита самого разума: безопасность AI-систем | Next Generation Security: AI vs AI

Третья и заключительная дискуссия конференции Next Generation Security 2026 посвящена одной из самых острых и актуальных проблем: безопасности самих AI-систем. Эксперты обсуждают, как защитить собственные модели машинного обучения от компрометации и воздействия.

Модератор: Алексей Лукацкий

Эксперты:
• Александр Балабанов, BI.ZONE
• Андрей Зима, Ростелеком
• Алина Князева, VK

Если AI — это инструмент защиты, то его самого нужно защищать. Эта дискуссия рассматривает вопросы безопасности AI-систем, которые становятся всё более критичными. Эксперты разбирают:

✓ Атаки на модели машинного обучения (adversarial attacks)
✓ Prompt-injection: уязвимости в LLM и chat-ботах
✓ Отравление данных обучения (data poisoning)
✓ Извлечение и кража моделей (model extraction)
✓ Обратное проектирование и инверсия моделей
✓ Компрометация обучающих данных
✓ Риски использования публичных моделей и fine-tuning
✓ Защита конфиденциальности в ML (differential privacy)
✓ Верификация целостности моделей
✓ Стандарты и regulatory требования (NIST AI RMF, EU AI Act)
✓ Best practices обеспечения безопасности при deployment
✓ Мониторинг и детекция атак на AI-системы

Тайм-коды:

00:00 Вступление
01:08 С чего начать безопасное внедрение ИИ
04:56 Три ключевых шага для безопасности и доверия к ИИ
13:20 Аудит ИИ, матрица доступа и контроль сценариев
23:11 Главные риски при использовании ИИ
30:55 Классические подходы к безопасности и изолированная среда
39:29 Защита от утечек данных через промпты
52:51 MLSecOps, MLOps, DevSecOps и тестирование ИИ-моделей
01:03:40 Закон об ИИ: влияние регулирования
01:09:39 Ошибки безопасного внедрения ИИ и взаимодействие с ML
01:17:12 Три главные ошибки и лучшие практики защиты
01:26:20 Завершение

Смотрите тут ⬇️

📺 YouTube 
📺RUTUBE    
📝Дзен