Коротко о главномРазвернутьСвернуть
- К2 Кибербезопасность и «Лаборатория Касперского» представили новые итоги исследования «Безопасность ИИ в России: практика, риски, зрелость» .
- Согласно результатам, 38% российских корпораций уже занимаются разработкой ИИ-решений для внутренних процессов.
- Однако зрелость ИБ-процессов не успевает за внедрением новых технологий — почти половина опрошенных компаний (46%) не знакомы с методологией MLSecOps, а 40% знают о ней лишь поверхностно.
К2 Кибербезопасность и «Лаборатория Касперского» представили новые итоги исследования «Безопасность ИИ в России: практика, риски, зрелость» . Согласно результатам, 38% российских корпораций уже занимаются разработкой ИИ-решений для внутренних процессов. Однако зрелость ИБ-процессов не успевает за внедрением новых технологий — почти половина опрошенных компаний (46%) не знакомы с методологией MLSecOps, а 40% знают о ней лишь поверхностно.
MLSecOps (Machine Learning Security Operations) — подход, объединяющий машинное обучение, DevOps и информационную безопасность. Он подразумевает, что безопасность ИИ-систем обеспечивается на каждом этапе их жизненного цикла, начиная от самых ранних этапов разработки до эксплуатации. Внедрение MLSecOps позволяет существенно снизить ИБ-риски. Результаты исследования говорят о том, что пока эта методология не стала общепринятым стандартом управления безопасностью ИИ в российских компаниях.
«Рынок MLSecOps находится на этапе становления, и единая зрелая практика пока еще не сформировалась. Защитные подходы и специализированные решения появляются разрозненно, прежде всего в тех областях, где риски уже проявились на практике и стали ощутимыми для бизнеса, разработки и ИБ-команд. Ситуация осложняется тем, что задачи безопасности ИИ-систем распределены между несколькими уже существующими функциями: безопасностью разработки, защитой данных, контролем инфраструктуры, мониторингом эксплуатации и расследованием инцидентов. Именно поэтому безопасность ML-разработки невозможно эффективно выстроить без постоянного взаимодействия ИБ-отдела с командами по исследованию данных. Значительная часть рисков возникает не только в инфраструктуре, но и непосредственно в данных, пайплайнах обучения, логике валидации и процессе поставки модели в промышленную среду», — прокомментировал Александр Лысенко, Ведущий эксперт по безопасности разработки и ИИ в К2 Кибербезопасность.
«Из-за скорости развития технологий рынок решений по безопасности ИИ очень динамичен: меняется набор инструментов, которые нужно защищать, параллельно растет набор угроз, которые необходимо предотвратить. Если еще недавно речь шла о защите от джейлбрейков и утечке персональных данных в чатах, то сейчас необходимо обнаруживать потенциально опасные действия код-ассистентов и вредоносный код в агентных навыках. Роль ИБ-вендора в данном случае — отслеживать ландшафт угроз и оперативно реагировать на его изменения: понимать, какие из рисков уже закрываются имеющимися решениями (например, они адаптируются для поиска вредоносных закладок в открытых моделях), для каких необходимо реализовывать продукты в новых классах (например, AI Firewall), а где (например, в трендах, которые могут не войти в общую практику) первоочередную роль играют повышение осведомленности среди пользователей и разработчиков инструментов на базе машинного обучения — в частности, путем создания руководств, регламентов и обучающих курсов», — комментирует Владислав Тушканов, руководитель группы исследования технологий машинного обучения в «Лаборатории Касперского» .
Не все российские организации оперативно внедряют необходимые меры контроля за ИИ-системами:
Рынок уже научился переносить на ИИ часть зрелых практик классического ИБ- и ИТ-управления. Однако из-за отсутствия устоявшихся методологий защиты некоторые аспекты безопасности остаются без внимания:
- Блог компании К2Тех
- Информационная безопасность
- Искусственный интеллект
- Исследования и прогнозы в IT
- Управление разработкой
