Угроза модификации модели машинного обучения путем искажения («отравления») обучающих данных
Разбор для модели угроз
Аналитика сервиса на основе признаков угрозы — как учесть её при разработке модели угроз (методика ФСТЭК 05.02.2021).
- Применимость
- Объекты воздействия присутствуют в типовой информационной системе — угрозу стоит рассмотреть для большинства ИСПДн и ГИС.
- Затрагиваемые объекты (таксономия сервиса)
- Программное обеспечение (общее)
- Группы мер приказа ФСТЭК №21 для нейтрализации
- управление доступом (УПД), ограничение программной среды (ОПС), регистрация событий безопасности (РСБ), обнаружение вторжений (СОВ), контроль (анализ) защищённости (АНЗ), обеспечение целостности (ОЦЛ), защита ИС и каналов связи (ЗИС), реагирование на инциденты (ИНЦ), управление конфигурацией (УКФ)
Чтобы отобрать эту и смежные угрозы под параметры вашей системы, воспользуйтесь фильтром угроз БДУ; полную модель угроз с обоснованием сервис формирует в личном кабинете. Итоговый состав конкретных мер определяется по уровню защищённости (базовый набор + адаптация, п. 10 приказа №21).
Официальные данные БДУ ФСТЭК
Угроза заключается в возможности модификации (искажения) модели машинного обучения, используемой в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта. Данная угроза обусловлена: - недостатками реализации процесса машинного обучения; - недостатками устройства алгоритмов машинного обучения. Реализация данной угрозы возможна при наличии у нарушителя возможности воздействовать на процесс машинного обучения
- Источник угрозы
- Внешний нарушитель с высоким потенциалом; Внутренний нарушитель со средним потенциалом
- Объект воздействия
- Программное обеспечение (программы), использующее машинное обучение; модели машинного обучения; обучающие данные машинного обучения
- Потенциал нарушителя
- высокий (Н4)
- Нарушаемые свойства
- Целостность
- Изменена в БДУ
- 19.12.2025
Официальная формулировка приведена по записи УБИ.221 на bdu.fstec.ru. Актуальность и точную формулировку выверяйте по официальному БДУ.
Похожие угрозы · Программное обеспечение (общее)
Нужно определить актуальные угрозы для модели угроз? Воспользуйтесь фильтром угроз БДУ — он отберёт кандидатные УБИ по параметрам вашей системы.
Сервис не является официальным ресурсом ФСТЭК России; официальная и актуальная версия — в Банке данных угроз ФСТЭК. Раздел «Разбор для модели угроз» (применимость, таксономия объектов, группы мер) — аналитическая обработка сервиса, а не часть исходных данных БДУ.