Microsoft: ИИ регулируют слабее молока

Президент Microsoft Брэд Смит заявил, что искусственный интеллект регулируется меньше, чем молоко или стиральные машины. По его словам, для ИИ необходимы глобальные правила безопасности, включая юридическую обязанность уведомлять пострадавших в случае взлома системы вредоносным ИИ-агентом, а также определять, когда независимые оценщики должны одобрять продукт перед выпуском. Об этом он сказал в интервью BBC.

Позиция Смита расходится с мнением президента США Дональда Трампа, который считает, что отрасль должна саморегулироваться, чтобы американские компании не проиграли китайским конкурентам. Смит же настаивает: «Прямо сейчас ваша стиральная машина подчиняется большему числу правил безопасности, чем ИИ. Каждый пакет молока в магазине проходит проверки и инспекции».

Смит назвал ИИ одновременно «инструментом и оружием», требующим срочного регулирования. Он предложил компаниям внедрять «аварийные тормоза» (kill switches) для приостановки или замедления ИИ в случае выхода из-под контроля, а также ввести юридическое требование составлять «отчёты об инцидентах» и уведомлять пострадавших. Кроме того, он выступил за независимую государственную экспертизу новых ИИ-технологий.

По мнению Смита, Великобритания находится в лучшем положении, чтобы продвигать глобальные правила для ИИ, благодаря своему Институту безопасности ИИ (AI Security Institute), созданному при бывшем премьер-министре Риши Сунаке. «В технологическом мире большинство моих знакомых, если спросить, какая страна лидирует по техническим возможностям, ответят: это очень просто — Соединённое Королевство. Они лучшие», — сказал он.

Смит считает, что США могут отнестись к британским стандартам более благосклонно, чем к европейским. «В Вашингтоне на Великобританию и Лондон смотрят не так, как на Брюссель — это сила», — отметил он. По его словам, настал момент для спокойного, но твёрдого объединения усилий: «Когда вы видите ИИ-агентов, вышедших из-под контроля человека, модели, ставящие под угрозу глобальную кибербезопасность, я бы сказал: момент настал».

В конце прошлого месяца Трамп принял в Белом доме руководителей OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google, где они подписали «морально обязывающий» документ. Компании согласились работать с независимыми аудиторами для проверки соответствия ИИ-систем заявленным целям и предотвращения несанкционированного доступа к техническим системам. Смит приветствовал это заявление и сказал, что Microsoft готова его подписать, но добавил: «Это хороший шаг, необходимый шаг... но я не думаю, что его уже достаточно».

Смит подчеркнул, что проблема любого режима саморегулирования в том, что «хорошие компании будут делать то, что вы хотите», но беспокоиться нужно о безответственных компаниях. Его выступление отражает растущее давление на технологический сектор с требованиями ввести обязательные нормы безопасности ИИ на фоне опасений экспертов о потенциальных угрозах для человечества.