OpenAI выпустит модель до конца года

OpenAI, по данным The Information, планирует выпустить до конца года «одну или две новые модели», однако неясно, войдёт ли в их число текущий флагманский проект. Новая топовая модель пока требует доработки в части alignment — её цели должны соответствовать ожиданиям исследователей и клиентов компании. Кроме того, OpenAI необходимо укрепить инфраструктуру тестирования перед запуском.

Флагманская модель использует ту же технику looped transformers, что и Astra — текущая топовая модель OpenAI. Вместо однократного прохождения токена через слои трансформера модель прогоняет его через одни и те же слои несколько раз, прежде чем выдать следующее слово. Это повышает качество на задачах математики и программирования и снижает затраты, поскольку меньшая модель показывает результаты выше своего класса.

Обратная сторона подхода — усложнение контроля безопасности. Часть «размышлений» модели уходит из читаемого текста во внутренние числовые представления, недоступные для проверки людьми, что подрывает мониторинг chain-of-thought. По данным The Information, OpenAI сознательно ограничила число циклов Astra, чтобы сохранить цепочку рассуждений читаемой.

После инцидента с Hugging Face OpenAI направила около 10% общих вычислительных мощностей на alignment и безопасность. По данным источника, это сотни мегаватт мощностей дата-центров, что по рыночным ценам стоило бы миллиарды долларов в год при аренде. Исследователь ИИ Ноам Браун в подкасте в середине сентября заявил, что примерно 10% его команды также занимается безопасностью.

Детали применения техники стали известны из-за утечки в Microsoft. Крупнейший инвестор OpenAI, имеющий доступ к её интеллектуальной собственности, опубликовал техническое описание GPT-6.1 Sol — более дешёвой альтернативы Astra, выпущенной ранее в этом месяце. Впоследствии удалённый раздел описывал «looping inference», при котором модель прорабатывает одну задачу за несколько «проходов»; GPT-6.1 Sol использует те же базовые веса, что и GPT-6 Sol, но с двумя проходами вместо трёх.

Источник, знакомый с ситуацией, подтвердил, что описание соответствовало тому, что OpenAI сообщала Microsoft приватно. Microsoft удалила раздел, осознав, что он не предназначался для публикации. Looped transformers остаются чувствительной частью разработки OpenAI — как на этапе обучения, так и при инференсе.

Главный научный сотрудник OpenAI Якуб Пачоцки уже признал, что мониторинг chain-of-thought становится «хрупким» и «к сожалению, движется в негативном направлении». Он также предостерег от гонки в отрасли за моделями без читаемых рассуждений. Дополнительным барьером для запуска флагмана остаётся указ президента Трампа: OpenAI обязалась предоставлять правительству США доступ к новым моделям за 30 дней до передачи внешним партнёрам и ещё раньше — до публичного релиза.