Новые модели OpenAI и Google обходят запреты на нюдсы

Исследователи из организации White Circle обнаружили, что новейшие генераторы изображений от OpenAI и Google поддаются обходу защитных фильтров с помощью относительно простых методов. По данным preprint-публикации, атака под названием RISE (Red-teaming via Iterative Strategy Evolution) позволяет генерировать откровенный контент примерно в 13% случаев. Для этого не требуются кастомные или фронтирные модели — достаточно общедоступных инструментов и API-запросов.

Метод RISE состоит из двух компонентов: атакующей модели, которая создаёт джейлбрейки, и модели-судьи, проверяющей, является ли результат запрещённым контентом. В качестве атакующей использовалась модель Qwen, скачанная с Hugging Face, а в роли судьи выступила Gemini 3.8 Flash. По словам основателя White Circle Дениса Шилова, «вам не нужны фронтирные модели, чтобы взломать защиту фронтирной модели».

Тестирование выявило уязвимости в DALL·E 3, Google Nano Banana 2 и GPT-Image-2. При этом новые версии — ChatGPT Images 2.5 и Nano Banana 2.1 — оказались «значительно более взламываемыми», чем их предшественники. Ни OpenAI, ни Google не ответили на запросы Ars Technica о комментариях по поводу найденных уязвимостей.

White Circle позиционирует себя как внешний аудитор фронтирных лабораторий и планирует открыть исходный код всего пайплайна атаки, чтобы производители моделей могли оценить масштаб проблемы. Публичная презентация исследования запланирована на конференции NeurIPS 2026 в ноябре, что может усилить давление на Google и OpenAI.

Шилов отмечает, что успешный обход фильтров в такой простой категории, как откровенный контент, вызывает тревогу за более серьёзные системы защиты — например, от взлома или вредоносного поведения. По его мнению, лаборатории либо делают модели более способными генерировать широкий спектр контента, либо сознательно снижают приоритет безопасности в пользу возможностей.

White Circle ведёт переговоры с государственными чиновниками о введении обязательного независимого тестирования безопасности. Шилов сравнивает это с системой мониторинга ядерных угроз и предлагает создать коалицию для обнаружения AI-угроз в реальном времени. Он также указывает на конфликт интересов: почти все исследователи безопасности так или иначе связаны контрактами с фронтирными лабораториями.