Anthropic проверила способность ИИ к самокопированию

Исследователи Anthropic провели серию экспериментов, чтобы выяснить, насколько реальна угроза самокопирования ИИ-агентов на обычные устройства. Для этого они купили пятнадцать Android TV-приставок стоимостью около 55 долларов каждая, объединили их в сеть и запустили на них нейросеть. Каждое устройство хранило лишь часть модели и выполняло свою долю вычислений, что позволило справиться с задачей, непосильной для отдельной приставки.

В качестве тестовой модели использовалась Gemma4-26B-A4B, разделённая между устройствами с 4 ГБ оперативной памяти. Скорость работы составила всего 0,39 токена в секунду — этого мало для диалога с чат-ботом, но автоматической программе не требуется отвечать человеку в реальном времени. Эксперимент показал, что даже дешёвое потребительское оборудование способно поддерживать работу крупной модели при объединении ресурсов.

Отдельно исследователи проверили, могут ли модели самостоятельно подготовить среду для запуска другой нейросети. Небольшая Qwen3.5-9B смогла наладить работу Llama3.1-8B на восьми из девяти типов оборудования, однако иногда агент застревал на неверных гипотезах. Например, один экземпляр часами искал проблему в версиях пакетов, тогда как настоящая причина заключалась в несовпадении интерфейсов. Для борьбы с такими тупиками была создана система Memento, которая периодически перезапускает сессию агента, передавая ей рабочие файлы и краткие заметки.

В более сложном сценарии с изолированной сетью из восьми виртуальных машин с эмуляторами Android полную задачу распространения смогла выполнить только модель GLM-5.2: в четырёх запусках из пяти она достигла всех восьми узлов. Однако доступ к узлам был упрощён — аутентификация отсутствовала, а сама GLM-5.2 работала на отдельном сервере, поскольку тестовые машины были для неё слишком малы. Компактные модели полного цикла надёжно не проходили, а подготовка работающей среды оказалась одним из главных препятствий.

Таким образом, обозначился разрыв между двумя требованиями: модель должна быть достаточно малой, чтобы работать на доступном железе, и достаточно способной, чтобы самостоятельно подготовить следующее место для работы. В проведённых опытах сильной модели помогал внешний сервер, а помещающимся на слабом оборудовании моделям не хватало надёжности. Anthropic оценила, что при сохранении текущих темпов улучшения небольшие модели могут приблизиться к уровню GLM-5.2 к концу 2026 года, но этот прогноз основан на общем индексе способностей и является грубым ориентиром.

Авторы предполагают, что первые подобные системы могут распространяться медленно, затрачивая на подготовку новой копии дни. В таком сценарии сложность для защитников представляет множество разрозненных устройств, а не мгновенная скорость атаки: выключение одного сервера не остановит сеть целиком. При этом пересылка крупных файлов модели и обмен данными между устройствами оставляли бы заметный сетевой след. Работа показала, что вычислительная мощность уже находится в самых обыденных коробочках, и следующий вопрос — сможет ли достаточно компактный агент надёжно распорядиться ею без лаборатории, которая помогает ему по дороге.