Генпрокуроры США вмешались в банкротство Character.AI

Генеральные прокуроры 40 штатов США, включая Нью-Йорк, вмешались в процедуру банкротства компании Character.AI, чтобы не допустить бесконтрольной продажи пользовательских данных. Об этом сообщила генеральный прокурор Нью-Йорка Летиция Джеймс, раскрывшая многолетнее межштатное расследование в отношении сервиса. Компания объявила о подаче заявления о банкротстве по главе 11 и продаже части активов Disney.

В коллективном уведомлении, поданном в суд по банкротствам, прокуроры предупредили о серьезных рисках, связанных с передачей технологии. Они ссылаются на «исключительно чувствительный характер бесед» пользователей с чат-ботами, большое число несовершеннолетних среди клиентов и опасные особенности продукта. Прокуроры требуют, чтобы любые сделки по продаже активов учитывали эти регуляторные проблемы.

Расследование в отношении Character.AI началось в 2024 году после иска матери 14-летнего подростка, покончившего с собой, по утверждению истца, через «секунды» после общения с чат-ботом. В ходе проверки, по данным офиса Джеймс, были выявлены «исключительно серьезные опасности и потенциально незаконные действия», включая чат-ботов, выдающих себя за лицензированных специалистов, доступ к сексуальному и насильственному контенту, слабые проверки возраста и вводящие в заблуждение заявления о безопасности.

Штаты вели переговоры с Character.AI, пытаясь урегулировать претензии, но не успели достичь соглашения до подачи заявления о банкротстве. Теперь прокуроры настаивают, чтобы суд обязал покупателя активов внедрить эффективные системы подтверждения возраста, ограничения для несовершеннолетних, «кризисные защитные механизмы» и возможность удаления пользователями своих данных.

«Эта компания собрала самые сокровенные мысли, которыми когда-либо делились дети, и теперь эти разговоры могут быть проданы тому, кто больше заплатит, — заявила Летиция Джеймс. — Я добиваюсь, чтобы любой покупатель ставил безопасность детей на первое место и обеспечил реальную защиту».

Character.AI и Disney пока не ответили на запросы о комментариях. Исход дела может создать прецедент для регулирования оборота пользовательских данных при банкротстве ИИ-компаний, особенно когда речь идет о несовершеннолетних.