Угроза подмены модели машинного обучения
Разбор для модели угроз
Аналитика сервиса на основе признаков угрозы — как учесть её при разработке модели угроз (методика ФСТЭК 05.02.2021).
- Применимость
- Объекты воздействия присутствуют в типовой информационной системе — угрозу стоит рассмотреть для большинства ИСПДн и ГИС.
- Затрагиваемые объекты (таксономия сервиса)
- Программное обеспечение (общее)
- Группы мер приказа ФСТЭК №21 для нейтрализации
- идентификация и аутентификация (ИАФ), управление доступом (УПД), ограничение программной среды (ОПС), регистрация событий безопасности (РСБ), контроль (анализ) защищённости (АНЗ), обеспечение целостности (ОЦЛ), реагирование на инциденты (ИНЦ), управление конфигурацией (УКФ)
Чтобы отобрать эту и смежные угрозы под параметры вашей системы, воспользуйтесь фильтром угроз БДУ; полную модель угроз с обоснованием сервис формирует в личном кабинете. Итоговый состав конкретных мер определяется по уровню защищённости (базовый набор + адаптация, п. 10 приказа №21).
Официальные данные БДУ ФСТЭК
Угроза заключается в возможности подмены нарушителем модели машинного обучения, используемой в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта. Данная угроза обусловлена слабостями разграничения доступа в информационных (автоматизированных) системах, использующих машинное обучение. Реализация данной угрозы возможна при наличии у нарушителя непосредственного доступа к модели машинного обучения
- Источник угрозы
- Внутренний нарушитель с высоким потенциалом
- Объект воздействия
- Программное обеспечение (программы), использующее машинное обучение; модели машинного обучения
- Потенциал нарушителя
- высокий (Н4)
- Нарушаемые свойства
- Конфиденциальность, Целостность
- Изменена в БДУ
- 19.12.2025
Официальная формулировка приведена по записи УБИ.222 на bdu.fstec.ru. Актуальность и точную формулировку выверяйте по официальному БДУ.
Похожие угрозы · Программное обеспечение (общее)
Нужно определить актуальные угрозы для модели угроз? Воспользуйтесь фильтром угроз БДУ — он отберёт кандидатные УБИ по параметрам вашей системы.
Сервис не является официальным ресурсом ФСТЭК России; официальная и актуальная версия — в Банке данных угроз ФСТЭК. Раздел «Разбор для модели угроз» (применимость, таксономия объектов, группы мер) — аналитическая обработка сервиса, а не часть исходных данных БДУ.