ФСТЭК России впервые официально зафиксировала угрозы, связанные с использованием искусственного интеллекта, в Банке данных угроз безопасности информации. Речь идёт о рисках, возникающих на всех этапах жизненного цикла ИИ-систем — от разработки и обучения до практической эксплуатации, включая генеративные модели.
В обновлённом перечне описаны сценарии атак, характерные именно для ИИ-технологий. Среди них — манипуляции промптами и шаблонами запросов, вмешательство в работу ИИ-агентов, компрометация обучающих датасетов, а также атаки на отказ в обслуживании ИИ-сервисов. Отдельно выделены риски утечек чувствительных данных и нарушения целостности моделей.
Регулятор подчёркивает, что такие угрозы актуальны как для государственных информационных систем, так и для объектов критической информационной инфраструктуры. Включение ИИ-угроз в БДУ означает их обязательный учёт при моделировании угроз и проектировании систем защиты.
Отраслевые эксперты считают, что сформированный перечень станет базой для будущего стандарта по безопасной разработке и внедрению ИИ. Его обсуждение запланировано до конца 2025 года. Ожидается, что новые требования усилят контроль за применением ИИ в гос- и корпоративных системах на фоне роста числа инцидентов и усложнения атак.
