Эксперты оценили риски ИИ для биооружия

Глава британской контрразведки MI5 сэр Кен Маккаллум в ежегодной речи об угрозах национальной безопасности заявил, что искусственный интеллект способен «изменить ставки» в сфере существующего и потенциально нового биологического оружия. По его словам, технология может как помочь злоумышленникам, так и усложнить противодействие. Эксперты, опрошенные The Guardian, подтверждают: риски реальны, но пока не фатальны.

Один из сценариев — непрофессиональные одиночки или террористические группы, работающие в кустарных лабораториях. ИИ-чатботы могут подтянуть их знания: собрать информацию, спланировать эксперименты, помочь с ошибками. Речь идёт об использовании уже известных патогенов и токсинов. В прошлом году полиция Индии раскрыла предполагаемый заговор с применением биологического оружия: врач и несколько человек, по версии следствия, использовали запросы к ИИ-чатботу и поиск с ИИ, чтобы получить инструкции по производству рицина кухонными инструментами. Помогли ли ответы ИИ на самом деле — неизвестно, но другие данные говорят, что такие инструменты могут выдавать опасную информацию.

Более серьёзную угрозу представляют хорошо финансируемые организации и государства с квалифицированными учёными, лабораториями высокого уровня биобезопасности и доступом к реагентам. ИИ может ускорить поиск генетических правок, повышающих летальность существующих патогенов. «Здесь ИИ не устраняет потребность в экспертизе, он усиливает уже имеющуюся экспертизу», — говорит доктор Филиппа Ленцос из Королевского колледжа Лондона. По её мнению, это наиболее актуальный риск. Ещё более отдалённая перспектива — создание с помощью ИИ совершенно новых патогенов и токсинов, устойчивых к лекарствам или не имеющих антидотов.

В сентябре компания Anthropic сообщила о пяти случаях, когда учёные из неназванных стран пытались использовать её чатбот Claude для потенциально опасной работы с вирусами или токсинами. Один из тревожных сигналов — после блокировки исследователи искали обходные пути. В одном случае, по данным Anthropic, чатбот применяли для планирования экспериментов по внесению мутаций в высокопатогенный вирус птичьего гриппа, чтобы он легче адаптировался и распространялся среди млекопитающих. Такие исследования проводятся и в легальных лабораториях для прогнозирования пандемий и разработки вакцин, поэтому намерения установить сложно.

Серия экспериментов демонстрирует, насколько легко ИИ выдаёт опасные сведения. В ходе недавнего упражнения в MIT студентам-небиологам предложили выяснить, можно ли с помощью чатбота спровоцировать пандемию. В течение часа чатботы перечислили четыре потенциальных пандемических патогена, объяснили, как синтезировать их из ДНК, и назвали компании по синтезу ДНК, которые вряд ли проверяют заказы. Исследователь Стэнфордского университета Дэвид Релман описал, как ИИ объяснил, как модифицировать патоген, чтобы сделать его устойчивым к лечению. Другой учёный рассказал, что чатбот подсказал, как использовать метеозонд для распыления биологического оружия с воздуха.

Двойное назначение биологических исследований затрудняет отличие полезной работы от попыток создать биооружие. В 2025 году учёные Лос-Аламосской национальной лаборатории обучили ИИ предсказывать, как нейротоксины морских улиток прикрепляются к клеткам человека, что может помочь в разработке антидотов. Но американское правительство обеспокоилось, когда китайские исследователи на основе этой работы создали собственный инструмент для дизайна новых токсинов. Китайские учёные заявили, что цель — исключительно разработка лекарств. В апреле учёные выразили дополнительную озабоченность, создав первые вирусы, спроектированные ИИ; эти вирусы заражают только бактерии и могут привести к новым лекарствам, но эксперты предупредили о «срочных вопросах биобезопасности».

Большинство работ над биооружием недоступно неквалифицированным группам: это не только технически сложно, но и крайне опасно. Даже если чатбот выдаст инструкции, этого недостаточно. «Информация — лишь часть проблемы, — говорит Ленцос. — Неявная экспертиза, доступ к биологическим материалам и оборудованию, экспериментальная проверка, масштабирование и доставка остаются серьёзными барьерами». Соня Бен Уаграм-Гормли из Университета Джорджа Мейсона отмечает, что неявное знание — неписаные навыки, с которыми ИИ вряд ли поможет, — было ключом к успеху исторических государственных программ биооружия. Профессор Мартин Пачеса из Цюрихского университета сравнивает: любой физик может набросать план более эффективной ядерной бомбы, но где он возьмёт уран? То же с биооружием: при доступе к материалам и мощностям ИИ мало что меняет.

Некоторые ИИ-компании принимают меры, чтобы не допустить использования своих инструментов для разработки биооружия, но большинство не раскрывает, что именно делает, говорит профессор Том Инглсби, директор Центра здоровья и безопасности Джонса Хопкинса. «Ни в одной стране пока нет формальной государственной политики для защиты от такого злоупотребления», — подчёркивает он. Инглсби призывает к независимой оценке новых ИИ-моделей до выпуска с устранением опасностей, ограничению доступа к высокорисковым биологическим данным и обязательной проверке заказов на синтез генетического материала. Сейчас скрининг в основном добровольный, и его можно обойти, если исследователи с помощью ИИ проектируют новые опасные последовательности, которые компании не проверяют.