OpenAI и Anthropic призвали Британию регулировать ИИ

На парламентских слушаниях в Великобритании представители OpenAI и Anthropic заявили, что добровольных обязательств по безопасности ИИ уже недостаточно и необходимо принять новые законы. Это выступление выявило публичный раскол с Google DeepMind и Meta, которые отказались поддержать законодательные инициативы.

Слушания организовал комитет по бизнесу, инновациям, науке и торговле, состоящий из межпартийной группы депутатов. Во вторник на заседании выступили представители четырёх передовых ИИ-компаний, четыре бывших сотрудника, ставших информаторами, и высокопоставленные британские чиновники.

Глава европейского подразделения Anthropic Лиам Бут-Смит заявил комитету: «Правила должны быть обязательными». По его словам, компания «последовательно считает, что должны существовать обязательные правила для компаний, а добровольные обязательства недостаточны». Вице-президент OpenAI Том Дафф Гордон был более осторожен, но поддержал законодательную базу и международную конвенцию, отметив, что «некоторые элементы должны быть обязательными», начиная с отчётности об инцидентах.

Однако их конкуренты не последовали этому примеру. На прямой вопрос о поддержке законодательной базы представитель Google DeepMind Оуэн Лартер ответил: «Мы бы сосредоточились на стандартах». Представитель Meta Роб Шерман указал на существующие британские регуляторы, заявив депутатам, что они «не пишут на чистом листе».

Слушания обнажили существующий раскол в вопросе регулирования, зафиксировав конфликтующие подходы лидеров ИИ в британском парламентском протоколе. По словам председателя комитета Лиама Бирна, цель заключалась в том, чтобы «осветить широкие различия во мнениях между некоторыми из самых богатых компаний мира» и показать, «что нельзя полагаться на добровольное саморегулирование».

В то время как четыре руководителя давали показания комитету по безопасности ИИ, всего в нескольких сотнях метров директор британской службы безопасности MI5 Кен Маккаллум выступил с предупреждением об опасностях ИИ. В своём ежегодном обзоре угроз он назвал потенциальное использование биологического оружия значительной угрозой, связанной с ИИ. «Пока не реализовано, но случай злоупотребления, которому я придаю наибольшее значение, — это потенциал ИИ изменить ставки в существующем или даже новом биологическом оружии», — сказал Маккаллум.

В заключительной части слушаний чиновники признали, насколько мало обязывает текущая система. Британский институт безопасности ИИ (AISI) тестирует передовые модели перед выпуском, но только когда компании сами их предоставляют. Генри де Зоте, директор AISI, признал, что институт полностью зависит от сотрудничества компаний и иностранных правительств для получения доступа. Кэт Литтл, высший гражданский служащий Кабинета министров, на вопрос, является ли весь режим добровольным, ответила: «На данный момент да».

На вопрос, что произойдёт, если AISI сочтёт модель слишком опасной, но компания всё равно её выпустит, де Зоте признал, что у AISI нет возможности этому помешать. «Мы не занимаемся сертификацией, — сказал он. — Мы не говорим да или нет какой-либо модели». Он добавил: «Эти компании — либо американские, либо китайские, которые строят на переднем крае... В таком контексте Великобритания может сделать лишь ограниченно много».

Руководители передовых компаний также дали понять, что британский доступ зависит от Вашингтона. «Мы предоставляем наши модели перед развёртыванием в CAISI, — сказал Дафф Гордон из OpenAI, имея в виду американский аналог AISI. — Мы продолжим предоставлять наши модели перед развёртыванием в AISI в Великобритании... и пока мы можем делать это в соответствии с правительством США, мы будем продолжать».

Напряжённость существующей договорённости стала ясна британским чиновникам из слов Бут-Смита из Anthropic. «К сожалению, мы не смогли предоставить полный неограниченный доступ к [Mythos 5.1] для AISI Великобритании в то время... Это вопрос к правительству США», — сказал он, добавив, что теперь у AISI есть доступ.

На слушаниях также выступили четыре бывших исследователя лабораторий, среди них бывший сотрудник OpenAI Дэниел Кокотайло. «Я не думаю, что компаниям можно доверять саморегулирование», — сказал он депутатам. Стивен Адлер, покинувший OpenAI в конце 2024 года, заявил, что «не уверен в культуре безопасности в отрасли». Джеффри Ирвинг сказал, что лаборатории считают, будто они заперты в гонке, которую правительства не прервут и из которой они не могут выйти. «И то, и другое — ложь, — сказал он. — Они могли бы просто остановиться».

После слушаний Бирн сообщил WIRED, что его комитет теперь посвятит много времени изучению пути Великобритании как средней державы в области ИИ. Он хочет, чтобы министры использовали предстоящее председательство Великобритании в G20 вместе с Южной Кореей, которая будет председательствовать после, для посредничества в международной конвенции, не зависящей от текущей администрации Белого дома. «Председательство в G20 переживёт президентство Трампа в США», — сказал он. «Риски, — добавил он, — растут быстрее, чем наша система безопасности может их контролировать».