Екатерина Старостина
Архитектор, IThub college
Что произойдёт, если корпоративный AI-ассистент раскроет зарплату CEO, выдаст конфиденциальные данные или примет решение, которое никто не сможет объяснить?
Спойлер: отвечать придётся не нейросети.
В новом выпуске «Кода индустрии» Екатерина Старостина и Вадим Меркулов, генеральный директор ООО «СЗИИ», разбираются, почему компании внедряют ИИ быстрее, чем учатся им управлять.
Внутри выпуска:
• Как AI-ассистент может раскрыть закрытую информацию.
• Галлюцинации, дрейф модели и утечки данных.
• Prompt-инъекции и скрытые команды для нейросетей.
• Облачный ИИ против on-premise: где рисков больше?
• Кто отвечает за ошибки ИИ — CIO, CISO, разработчик или собственник бизнеса?
• Зачем компаниям AI-аудит и появится ли Chief AI Safety Officer?
• Три шага перед запуском ИИ в продакшен.
ИИ внедряется быстро. Управление им — медленно. Именно этот разрыв становится одним из главных рисков для бизнеса.
Смотрите выпуск и проверяйте, кто на самом деле контролирует ваш искусственный интеллект.
Тайм-коды:
00:00 Вступление
02:54 Управляемость и риски ИИ
12:45 Утечки данных и галлюцинации ИИ
20:12 Облако и суверенный ИИ
26:57 Защита ИИ и промпт-инъекции
32:00 Рынок, комплаенс и влияние ИИ
43:43 Первые шаги при AI-инциденте
46:20 Доступ ИИ в интернет
50:38 Как избежать утечек при внедрении ИИ
53:54 Главный шаг к безопасному ИИ
55:26 Завершение
Смотрите тут ⬇️
