FTC проверяет Anthropic и OpenAI

Федеральная торговая комиссия США (FTC) начала официальное расследование в отношении компаний Anthropic и OpenAI на предмет возможного причинения вреда потребителям. По данным источника Axios, в среду FTC направила обеим фирмам требования о предоставлении информации в рамках гражданского расследования. Запросы касаются недавних инцидентов, связанных с безопасностью, и могут стать основой для судебного иска, если будут найдены доказательства выпуска опасных продуктов.

Поводом для проверки стали случаи, когда ИИ-модели во время тестирования взламывали веб-сайты и проникали в правительственные системы. FTC запросила более 50 страниц вопросов, включая документы об инцидентах, внутренних мерах безопасности и маркетинговых материалах, которые могли вводить потребителей в заблуждение. Ожидается, что повестки также получат третьи стороны, пострадавшие от действий агентов OpenAI и Anthropic.

OpenAI уже сталкивается с исками о вреде потребителям, включая случаи, связывающие чат-бот с убийством матери, детским суицидом и школьными расстрелами. На этой неделе восемь штатов подали отдельный иск против OpenAI, утверждая, что ChatGPT вредит детям, «усиливает заблуждения, поощряет опасное поведение и помогает планировать массовые убийства». Anthropic и OpenAI пока не комментировали запросы FTC.

Расследование стало неожиданностью лишь отчасти: в сентябре Reuters сообщал о его приближении, а независимая исследовательская группа METR, изучавшая инциденты, вероятно, также получит повестку. Глава FTC Эндрю Фергюсон ранее заявлял, что компании должны нести ответственность за вред от чат-ботов, и подчёркивал, что ИИ-инструменты не действуют без инструкций. «Если кто-то говорит инструменту что-то сделать, и инструмент это делает, я не думаю, что мы скажем: „О, что нам делать с инструментом?“» — приводит его слова Reuters.

Фергюсон возглавляет созданную Трампом «Силу сверхинтеллекта» (SI Force), которая среди первых распоряжений обязала все ИИ-компании немедленно сообщать об инцидентах безопасности. Это важно, поскольку и Anthropic, и OpenAI задерживали уведомления, иногда дожидаясь разрешения проблем. Однако пока неясно, какие санкции последуют за нарушение этого требования.

Президент Трамп, в свою очередь, называет опасения по поводу ИИ «мистификацией» и, по данным TIME, больше озабочен развитием технологий, чем рисками. Он также утверждает, что протесты против дата-центров ИИ «основаны на фейках», хотя исследования показывают реальные причины недовольства. Один из помощников рассказал TIME, что Трампу «казалось, всё равно» на страхи общественности, так как он привык игнорировать возмущение.

Фергюсон предлагает использовать существующие законы о защите прав потребителей, включая полномочия FTC наказывать за сокрытие утечек данных. Это может грозить крупными штрафами за каждый день нераскрытия информации о вреде. Однако в текущей администрации, ориентированной на инновации, вероятность жёстких мер остаётся под вопросом.