Очистка истории чата улучшает решения ИИ-агентов

Исследователи из Microsoft Research обнаружили, что длительно работающие автономные ИИ-агенты перестают улучшать результаты, даже если им выделяют дополнительные вычислительные ресурсы. Причиной, по данным работы, становится накопленный контекст диалога: он сужает поиск и удерживает агента в узкой области решений.

Учёные изучали так называемых autoresearch-агентов — системы, которые многократно предлагают решения, оценивают их и уточняют на основе обратной связи. Восемь независимых запусков одного и того же агента на одной задаче вышли на разные уровни производительности: итоговые оценки варьировались от 68,3 до 100,0. Разрыв сохранялся даже при существенном увеличении вычислений.

Если отобразить решения всех запусков на двумерной карте, где похожие варианты расположены рядом, решения одного запуска почти всегда остаются в небольшой области. Авторы называют такие зоны «идеа-бассейнами» (idea basins). Агент тратит значительную часть оставшегося бюджета вычислений на доработку решений внутри менее продуктивной области вместо поиска лучших подходов, найденных в других запусках.

Для решения проблемы предложен метод Fork-and-Flush. Он сочетает два механизма: «форк» разветвляет агента на K параллельных ветвей, каждая из которых наследует рабочее пространство и все созданные файлы, а «флаш» очищает у каждой ветви весь контекст диалога, сохраняя рабочее пространство. Ветвь со старым контекстом склонна возвращаться в тот же идеа-бассейн, поскольку предыдущие рассуждения направляют её следующие шаги; свежий контекст возвращает разнообразие поиска.

Метод протестировали на 13 длительных задачах, включая упаковку полимино, планирование в job-shop и криптоанализ, а также сжатие классификатора CIFAR и оптимизацию ядра VLIW. Отдельные запуски длились от нескольких часов до более чем 100 часов, использовались модели GPT-5.6-terra и GPT-5.5 через GitHub Copilot CLI.

При том же бюджете вычислений Fork-and-Flush показал среднюю нормализованную оценку 0,78 против 0,47 у одиночных запусков и 0,54 у стратегии best-of-4 — относительный прирост 66,0% и 44,4% соответственно. Метод дал лучший средний результат в 12 из 13 задач, а нормализованное стандартное отклонение снизилось с 0,26 до 0,16. Простая очистка контекста без ветвления улучшила результаты на 22%.

Отдельно исследователи проверили, избегают ли идеа-бассейнов более мощные модели, на задачах MAX-3-SAT с моделями Qwen3.5-4B, 9B и 27B. Разброс между запусками описывался перевёрнутой U-образной кривой с пиком на задачах на границе возможностей модели — примерно посередине между случайным угадыванием и эталонным решателем. Авторы заключают, что открытые исследовательские задачи по определению лежат на пределе способностей моделей, поэтому эффект, который использует Fork-and-Flush, вероятно, сохранится и при улучшении моделей — граница просто сместится к более сложным задачам.