Цикл статей о безопасности ИИ-систем

С 1 марта 2026 года в России вступил в силу Приказ ФСТЭК № 117, устанавливающий обязательные требования к защите информации в ИИ-системах, используемых в государственных информационных системах, значимых объектах КИИ и у подрядчиков. Документ не является отдельным законом об ИИ, а дополняет существующую нормативную базу в области защиты информации. Приказу предшествовали стратегические документы, включая Указ Президента № 490, который закрепил терминологию и принципы безопасного применения ИИ.

Российское регулирование выстроено иерархически: верхний уровень задаёт стратегию, средний (приказы ФСТЭК, ГОСТы) вводит обязательные требования, нижний (методики) предлагает инструменты для их выполнения. Указ № 490 определяет безопасность как отсутствие неприемлемого риска и вводит понятие «доверенные технологии ИИ». Эти определения помогают снимать разногласия при согласовании мер защиты с заказчиками и смежными подразделениями.

Приказ № 117 выделяет защиту ИИ-систем как отдельное мероприятие. Пункт 60 требует защищать наборы данных, модель, параметры и процессы обработки, а также запрещает передавать разработчику информацию ограниченного доступа. Пункт 61 устанавливает требования в зависимости от типа системы: для шаблонных запросов нужно фиксировать шаблоны и контролировать их соблюдение, для свободного текста (LLM) — определять допустимые тематики и выявлять недостоверные ответы. На практике это означает контроль за использованием внешних ИИ-сервисов сотрудниками.

В ноябре 2025 года ФСТЭК выпустил методический документ, описывающий порядок проверки выполнения требований приказа № 117. Методика предлагает изучить устройство системы, провести внешнюю оценку защищённости интерфейсов «запрос-ответ» и внутреннюю — инфраструктуры обучения, датасетов и доступа к модели. Результаты оформляются в формате, напоминающем DREAD: критичность, условия эксплуатации, затрагиваемые активы, компенсирующие меры. Для внешнего анализа существуют специализированные red team-инструменты, для внутреннего требуется экспертиза.

В апреле 2026 года ФСТЭК утвердил методический документ «Состав и содержание мероприятий и мер по защите информации», который детализирует приказ № 117. В пункте 3.18 описаны меры для ИИ: выделение инфраструктуры разработки в изолированный сегмент с классом защищённости не ниже класса системы оператора, отказ от небезопасных форматов (например, pickle) в пользу ONNX и protobuf, приоритетное использование доверенных наборов данных. Эти требования направлены на снижение рисков на всех этапах жизненного цикла ИИ-систем.

Параллельно Минцифры в марте 2026 года опубликовало проект федерального закона «Об основах государственного регулирования сфер применения технологий ИИ», который может вступить в силу с сентября 2027 года. Законопроект предусматривает создание реестра доверенных ИИ, введение ответственности операторов за безопасность моделей и возможность обучения суверенных моделей на государственных данных после согласования с ФСТЭК и ФСБ. Документ распределяет роли между разработчиком, оператором, владельцем и пользователем ИИ-системы, закрепляя обязанности для каждой из них.

Таким образом, к 2026 году в России сформирована многоуровневая система регулирования безопасности ИИ, охватывающая стратегические документы, обязательные требования и методические рекомендации. Для специалистов по безопасности это означает необходимость учитывать не только технические аспекты, но и нормативные предписания при проектировании и эксплуатации ИИ-систем. В следующих частях цикла авторы обещают разобрать методологии защиты, техники атак и инструменты для red team.