Открытые модели: выгоды против рисков

Дискуссия о том, должны ли передовые ИИ-модели быть открытыми или оставаться закрытыми, вновь обострилась после публикации отчёта Anthropic. Компания утверждает, что модель GLM-5.3, выпущенная в августе китайской Z.ai, представляет серьёзный риск для кибербезопасности, поскольку её можно свободно скачать и модифицировать. Это лишь очередной эпизод давнего спора о судьбе открытых моделей.

Спор подогревается коммерческими интересами. Глава Nvidia Дженсен Хуанг, заинтересованный в продажах оборудования для локального запуска открытых моделей, активно выступает за их развитие в США. Генеральный директор Anthropic Дарио Амодеи, чей бизнес может пострадать от дешёвых и мощных открытых моделей, призывает к осторожности. По мнению исследователя Дэвида Грея Уиддера из Техасского университета в Остине, позиция по открытости во многом определяется общим отношением к ИИ.

Сторонники безопасности опасаются, что открытые модели легко использовать во вред, тогда как их оппоненты настаивают, что передовые технологии не должны оставаться в руках нескольких корпораций. Между полным запретом и бесконтрольным распространением есть множество промежуточных вариантов, но любой из них предполагает компромисс между безопасностью и демократизацией доступа.

Технически закрытые модели вроде ChatGPT и Claude доступны только через сайт, приложение или API. Открытые модели можно скачать: их веса — числовые параметры внутренней структуры — публичны. Сейчас закрытые модели мощнее: все восемь лидеров рейтинга Artificial Analysis LLM являются закрытыми, хотя открытые отстают всего на несколько месяцев.

У открытых моделей есть практические преимущества. Исследователи могут изучать их внутреннюю работу и цепочки рассуждений, комбинировать и дообучать под свои задачи. По данным Mozilla, открытые модели обычно дешевле закрытых, а локальный запуск на собственном оборудовании помогает компаниям защищать конфиденциальные данные.

Главный аргумент в пользу открытости — предотвращение концентрации власти. Элизабет Сигер из Института Тони Блэра сравнивает контроль над ИИ-инфраструктурой с контролем над информацией в интернете. Хэмиш Хоббс из Centre for Long-Term Resilience считает, что мир, где у каждого есть безопасный персональный ИИ, предпочтительнее зависимости от непрозрачных государственных систем.

Однако открытость не является геополитической панацеей. Пол Азунре, соучредитель Ghana NLP, указывает на «экстрактивную» модель: компании публикуют модели, наблюдают за улучшениями сообщества и внедряют их в свои продукты без компенсации авторам. Марк Цукерберг сам признавал, что интеграция доработок сообщества в стек Meta — ключевая выгода открытых релизов.