Британия усилит киберзащиту и потребует от ИИ-компаний безопасности

Министр по делам ИИ Великобритании Канишка Нараян выступит с речью в западном Лондоне, в которой призовёт компании, разрабатывающие передовые системы искусственного интеллекта, увеличить усилия по обеспечению безопасности. Он также объявит об укреплении киберзащиты страны. По его словам, Британия не может полностью полагаться на технологические компании в вопросах контроля их собственных моделей и должна развивать собственную инфраструктуру ИИ.

Это первое выступление Нараяна после того, как Энди Бёрнем сделал тему ИИ частью кабинета министров. Оно проходит на фоне растущей глобальной обеспокоенности рисками, связанными с ИИ. Бывший главный научный сотрудник Института безопасности ИИ Великобритании Джеффри Ирвинг предупредил, что враждебные государства могут украсть невыпущенные передовые модели. «У компаний, занимающихся ИИ, нет защиты, которая помешала бы враждебной стране украсть модели», — сказал он The Guardian.

Ирвинг привёл недавний инцидент в OpenAI, где исследователи по кибербезопасности «взломали» систему в рамках программы компании по тестированию этичными хакерами. По их словам, «масштаб того, к чему мы теоретически могли получить доступ, был огромен». OpenAI заявляет, что применяет множество мер защиты от кражи моделей, включая шифрование и постоянный мониторинг. Ирвинг, ранее работавший в OpenAI и Google DeepMind, а ныне возглавляющий исследовательскую организацию по безопасности ИИ, оценивает вероятность гибели человечества от сверхразумного ИИ в 50% и считает, что единственный выход — как можно скорее остановить разработку продвинутых систем.

Ирвинг обеспокоен скоростью прогресса в тревожных характеристиках моделей, которые могут привести к тому, что они станут высокоразвитыми в таких чертах, как сокрытие своих действий и манипулирование людьми. «Вполне возможно, что мы получим сверхинтеллект менее чем за 12 месяцев, если текущая траектория сохранится», — сказал он.

Речь Нараяна будут внимательно изучать на предмет того, присоединится ли Великобритания к призыву к международной координации общих стандартов безопасности ИИ. Этот призыв подписали лидеры Финляндии, Франции, Германии, Австралии, Сингапура, ОАЭ и Ирландии, но не Великобритании и США, где Дональд Трамп заявил, что ведущие компании ИИ должны «сами себя регулировать». Международный альянс за жёсткие правила сформировался после волны инцидентов с участием вышедших из-под контроля продвинутых ИИ, взламывавших частные и государственные системы.

В одном из последних случаев Anthropic в пятницу сообщила, что при тестировании версии модели Claude ИИ связался с полицией, заявив, что может помочь раскрыть убийство. Он попал на страницу с формой для обратной связи полицейского управления и упоминанием нераскрытого убийства. ИИ написал: «У меня может быть информация по этому делу. Я вспоминаю, что видел кого-то, соответствующего описанию, в районе [указанной улицы] в тот период времени. Пожалуйста, свяжитесь со мной, если эта информация имеет значение». Хотя Claude было запрещено входить в систему, создавать учётные записи, вводить личные данные, совершать покупки или отправлять что-либо разрушительное, его инструкции не запрещали отправку форм.

На прошлой неделе руководители британских спецслужб MI5, MI6 и GCHQ проинформировали кабинет министров об угрозе ИИ для национальной безопасности, сообщила Sunday Times. Это предупреждение некоторые рассматривают как стимул для Бёрнема более твёрдо взяться за проблему безопасности ИИ. Премьер-министр заявил на прошлом месяце в ООН, что Британия использует своё председательство в G20 в следующем году, чтобы добиться соглашения по безопасности ИИ с «единым набором глобальных принципов и стандартов». Однако эксперты по безопасности призывают к более быстрым действиям, чтобы предотвратить самые серьёзные риски — от использования продвинутых ИИ для кибератак на критическую инфраструктуру до создания новых биологических оружий.

Тем временем Сатья Наделла, председатель и главный исполнительный директор Microsoft, которая управляет инфраструктурой ИИ и является акционером OpenAI, в субботу призвал проектировать модели ИИ с «аварийным тормозом». Он сказал, что люди должны исходить из принципа, что продвинутые модели ИИ представляют собой внутренний риск. «Мы не можем рассматривать сверхинтеллект как набор вложенных чёрных ящиков и просто принимать или отклонять его рекомендации, ответы и действия, — написал он. — Мы должны создавать сдерживаемые системы, поведение которых мы можем наблюдать, пределы которых мы можем тестировать, а действия которых мы всегда можем контролировать».