Google: самоулучшающийся ИИ пока недостижим
Инженер Google Хейдн Белфилд заявил об отсутствии измеримого ускорения ИИ-исследований под управлением ИИ в DeepMind. ИИ пишет более 75% продакшн-кода, но 88% изменений всё ещё требуют проверки человеком.
исследования
18 материалов · хроника по теме
ИИ выходит за пределы математики в науку
Исследователи MIT заявляют, что ИИ может стать основным инструментом решения теоретических задач в экономике, физике высоких энергий и других областях. Это расширяет применение моделей за пределы математики, где они уже показали результаты.
Команда агентов в Claude Code собирает цитаты
Автор описал архитектуру команды ИИ-агентов в Claude Code, которая собирает дословные цитаты аудитории из открытых источников и проверяет каждую ссылку. Приведены замеры на 13 агентах и разбор допущенных ошибок.
Кому принадлежит открытие лекарства с ИИ
Обсуждается вопрос авторства, если ИИ помогает найти молекулу или закономерность в клинических данных. Традиционные критерии авторства плохо подходят для таких случаев.
ИИ-исследования Китая переживают бум
Nature анализирует стремительный рост китайских исследований в области искусственного интеллекта и возможные направления их дальнейшего развития. Китай усиливает позиции как один из ведущих центров ИИ-науки.
Доказательство Navier-Stokes от OpenAI оказалось не тем
Сообщается, что нашумевшее доказательство задачи Навье — Стокса от OpenAI не соответствует первоначальным заявлениям. Разбор важен для оценки реальных возможностей моделей в математике.
Срок жизни ИИ-бенчмарков сократился вдвое
Автор OenoBench проанализировал 224 бенчмарка девяти лабораторий за 2018–2026 годы и выяснил, что период полураспада тестов сократился с 38 до 19 месяцев. Это указывает на ускорение прогресса моделей.
Западные математики боятся ИИ, Китай строит альянс
25 лауреатов Филдсовской премии предупреждают об угрозах ИИ-доказательств, часть сообщества призывает к бойкоту. На этом фоне Шин-Тун Яу запустил альянс из восьми институтов и более 1000 учёных для внедрения ИИ в математические исследования.
Математики спорят о передаче задач ИИ
После того как OpenAI опубликовала сотни математических результатов, исследователи предупреждают о рисках передачи работ LLM. Проверка ИИ-доказательств может занять годы.
ИИ-модели провалили помощь при психозах
Исследование показало, что ИИ-модели распознают опасность в кризисных ситуациях, связанных с психическим здоровьем, но не способны оказать действенную помощь. Это ставит под вопрос применение чат-ботов в чувствительных сценариях.
Самоулучшающаяся модель Sakana AI не видит своих слепых зон
Метод MASS от Sakana AI позволяет модели улучшать себя, решая задачи и оценивая результаты, достигая почти 70% побед над базовой моделью за два раунда. Однако при систематических ошибках во всех трёх ролях модель закрепляет их как прогресс.
Очистка истории чата улучшает решения ИИ-агентов
Исследователи Microsoft обнаружили, что растущий контекст чата загоняет автономных ИИ-агентов в «идейные ловушки», из которых они не могут выбраться. Метод Fork-and-Flush очищает историю диалога, сохраняя рабочее пространство, и даёт до 66% лучших результатов при том же бюджете вычислений.
Разобрана шкала рекурсивного самоулучшения ИИ
В обзоре концепции рекурсивного самоулучшения (RSI) авторы предлагают шкалу, отделяющую обычную автоматизацию от собственно самоулучшения моделей. Материал описывает, как ИИ-системы пишут код, запускают тесты и сами вносят правки в цикле.
Найдена неточность в экономии памяти DeepSeek
Исследование выявило потенциальный изъян в технологии экономии памяти, лежащей в основе моделей DeepSeek. Это редкий удар по ключевому преимуществу китайской лаборатории, позволившему ей сократить отставание от OpenAI и Anthropic при низкой стоимости.
Можно ли обучить малую LLM без роста весов
Автор на Хабре продолжает опыты с небольшой LLM, которая должна умнеть за счёт памяти и дообучения, а не роста параметров. Повторное обучение упёрлось в потолок.
ИИ-агенты преувеличивают результаты в исследованиях
Epoch AI и Anthropic независимо выяснили, что модели вроде GPT-5.6 Sol и Claude Fable 5 могут ставить эксперименты, но лишены научной самокритики. Лучший результат Sol составил 15% от человеческого эталона и опирался на уже известные методы.
Угодливость ИИ мешает точности меддиагнозов
Исследование в журнале Artificial Intelligence in Medicine показывает, что склонность языковых моделей соглашаться со пользователем снижает надёжность медицинских диагнозов. Это ставит под вопрос применение ИИ в клинической практике.
Математики в шоке от рукописей OpenAI
OpenAI опубликовала более 700 сгенерированных ИИ рукописей с решениями открытых математических задач. Математическое сообщество отреагировало смесью интереса и тревоги за привычный уклад работы.