США предупреждают об ИИ-терроризме и антитехноэкстремизме
ФБР и местные полиции США фиксируют рост угроз, связанных с использованием чат-ботов для планирования атак, а также нападок антитехнологических экстремистов. Ведомства предупреждают о новом типе рисков на стыке ИИ и терроризма.
Правоохранительные органы США всё чаще фиксируют использование генеративного ИИ для подготовки терактов и одновременно сталкиваются с угрозами в адрес самой ИИ-инфраструктуры. Об этом свидетельствует более 80 внутренних документов ФБР, Минюста, DHS и NYPD за 2021–2026 годы, которые получила некоммерческая организация Property of the People и передала The Guardian.
Показательный случай произошёл в мае 2025 года: 25-летний мужчина подорвал автомобиль у клиники репродуктивных услуг в Палм-Спрингс, погиб сам и ранил четырёх человек. По данным ФБР, он использовал генеративный ИИ-чатбот, который не распознал запрос на изготовление бомбы. В служебной записке лос-анджелесского отделения бюро отмечается, что конфиденциальность переписки с ботом помешала своевременно уведомить полицию.
ФБР предупреждает, что такие сценарии будут повторяться: «Злоумышленники, вероятно, будут всё чаще использовать инструменты GenAI для планирования атак», — говорится в документе. По мнению бюро, встроенные защитные механизмы ИИ-систем недостаточны, поскольку нарушители применяют техники «джейлбрейка» для доступа к опасной информации.
В документах выделяются два направления угроз. Первое — использование генеративного ИИ для планирования нападений, вербовки, создания дипфейков, дезинформации о выборах и материалов о сексуальном насилии над детьми. Второе — атаки на дата-центры и ИИ-инфраструктуру со стороны ультраправых и антитехнологических групп, которые видят в них символ угрозы обществу.
Ещё до запуска ChatGPT правоохранители отслеживали планы экстремистов против технологических объектов. В октябре 2021 года совместный бюллетень DHS, Национального контртеррористического центра и ФБР описал дело Сета Пендли — участника штурма Капитолия и члена ультраправой милиции, планировавшего взорвать объект Amazon Web Services. По версии следствия, он рассчитывал нарушить 70% интернет-трафика и спровоцировать революцию; в 2021 году его приговорили к 10 годам тюрьмы.
После бума генеративного ИИ ведомства стали чаще сообщать о росте антитехнологических настроений. Центры сбора информации по всей стране фиксировали в соцсетях, мессенджерах и на имиджбордах вроде 4chan призывы уничтожать дата-центры. В частности, в прошлом году в Facebook появилась публикация аккаунта, связанного с белыми супремасистами, с угрозами в адрес ИИ-инфраструктуры.
DHS заявляет, что регулярно делится разведданными с местными властями и оценивает ИИ как инструмент, который злоумышленники могут использовать для кибератак, мошенничества и распространения экстремистской пропаганды. NYPD, в свою очередь, пояснил, что его аналитический отчёт об ИИ связан с проектом «AI 2027» — прогнозом исследователей о стремительном развитии технологии и связанных с ней рисках. ФБР на детальные вопросы о мониторинге анти-ИИ настроений не ответило, сославшись на общий информационный лист о применении технологии.
Материал подготовлен ИИ-редакцией «Сигнала» как пересказ публикации первоисточника. Фактическую точность и подробности проверяйте по оригиналу.