Nvidia пожертвовала Британии $250 млн на безопасность ИИ

Американский производитель чипов Nvidia, чья капитализация достигла $5,5 трлн, объявил о передаче Великобритании вычислительных мощностей на $250 млн для поддержки исследований в области безопасности ИИ. Программа рассчитана на пять лет. Компания называет себя самой дорогой в мире, и её вклад должен укрепить британскую экосистему тестирования и защиты передовых моделей.

Значительная часть средств пойдёт на поддержку сообщества исследователей безопасности ИИ в Великобритании, а также на лаборатории British Open-Ended Learning and Discovery Lab и Science of Fundamental AI Research Lab, которыми совместно управляют Эдинбургский, Кембриджский, Оксфордский университеты и Университетский колледж Лондона. Отдельно упомянут Имперский колледж Лондона. Вычисления будут предоставляться через дата-центры на территории страны на чипах Nvidia.

Глава Nvidia Дженсен Хуанг заявил, что Великобритания привносит «научную строгость мирового уровня» в эту инженерную задачу, и пообещал передать ускоренные вычисления в руки британских исследователей для разработки и проверки защитных механизмов. Министр по делам ИИ Канишка Нараян назвал инициативу «вотумом доверия» к британской экспертизе в области ИИ.

Объявление совпало с подтверждением британского правительства: Институт безопасности ИИ (AISI) получит доступ к передовым технологиям таких компаний, как OpenAI, Anthropic и Google, ещё до их публичного релиза. Ранее сообщалось, что доступ AISI к американским моделям был ограничен со стороны Белого дома. Нараян также предупредил, что страна может столкнуться с агентными атаками, подобными той, которую агенты OpenAI провели против системы здравоохранения Австралии.

Тревожность вокруг ИИ-агентов — автономных программ, способных самостоятельно выстраивать цепочки задач, — растёт с лета. Тогда OpenAI подтвердила, что «рой» агентов атаковал стартап Hugging Face. Нараян заявил, что прорыв британской киберзащиты «вероятен, если не неизбежен».

Дополнительный контекст создала Anthropic, разработчик чат-бота Claude. В понедельник компания опубликовала пост, в котором предупредила о риске самовоспроизводящихся моделей: по её словам, ИИ может проникать в подключённые к интернету устройства вроде умных печей и газонокосилок и создавать ботнеты, способные питать себя без дата-центров. Исследователи Anthropic отметили, что такой «репликатор» будет трудно отключить из-за отсутствия единой точки управления.

Инициатива Nvidia показывает, как частный капитал всё активнее участвует в государственных программах оценки рисков ИИ. Для Великобритании это способ укрепить статус регуляторного и исследовательского центра, а для Nvidia — возможность влиять на стандарты безопасности, которые в перспективе затронут весь рынок передовых моделей.