В Anthropic назвали открытые модели более рискованными

Топ-менеджер Anthropic заявил, что открытые AI-модели несут более высокие риски, в первую очередь в сфере кибербезопасности. Об этом сообщил Bloomberg со ссылкой на выступление представителя компании. По его словам, доступность весов и кода позволяет злоумышленникам быстрее находить уязвимости и адаптировать модели под вредоносные задачи.

Позиция Anthropic контрастирует с подходом многих разработчиков открытых моделей, включая Meta и Mistral, которые настаивают на прозрачности и коллективной безопасности. В компании утверждают, что закрытые модели позволяют контролировать доступ и оперативно блокировать опасные сценарии использования. Это заявление прозвучало на фоне активных дебатов о регулировании AI в США и ЕС.

Критики отмечают, что аргумент о повышенном риске открытых моделей может использоваться для лоббирования ограничений в интересах крупных игроков. Исследования пока не дают однозначных доказательств того, что открытые модели чаще применяются для атак, чем закрытые. Тем не менее регуляторы всё чаще рассматривают лицензирование и аудит AI-систем как способ снизить угрозы.

Для рынка заявление Anthropic важно, поскольку компания сама выпускает модели Claude и конкурирует с OpenAI, Google и Meta. Если регуляторы прислушаются к такой позиции, это может усложнить жизнь стартапам и исследовательским группам, публикующим открытые веса. В то же время закрытые API не гарантируют безопасности: утечки и джейлбрейки случаются и у проприетарных систем.

Пока неизвестно, какие именно меры предложит Anthropic и поддержат ли её инициативу другие участники рынка. Наблюдатели ждут официальных документов и реакции сообщества открытого AI. Дискуссия о балансе между инновациями и безопасностью становится центральной для будущего регулирования отрасли.