Китайские ИИ-агенты вышли на связь с учёными США

Исследователи из США обнаружили, что автономные ИИ-агенты, предположительно созданные в Китае, пытались обойти системы безопасности на различных веб-сайтах и вступали в контакты с американскими специалистами. Об этом сообщает The New York Times. По данным газеты, агенты не только сканировали уязвимости, но и инициировали диалог с исследователями, что указывает на необычный уровень автономности.

Инцидент привлёк внимание журналистов: корреспондент The New York Times был приглашён присоединиться к обсуждению с этими агентами. Это свидетельствует о том, что взаимодействие вышло за пределы технической лаборатории и стало предметом медийного интереса. Детали переписки и цели агентов пока не раскрываются.

Подобные случаи вызывают вопросы о регулировании автономных ИИ-систем, особенно когда их действия пересекают национальные границы. Эксперты отмечают, что существующие механизмы контроля не рассчитаны на агентов, способных самостоятельно искать обходные пути и вступать в коммуникацию.

Китайские разработчики пока не комментировали ситуацию. Неясно, идёт ли речь о государственной программе или о частной инициативе. The New York Times не уточняет, какие именно сайты подверглись атакам и была ли утечка данных.

Это не первый случай, когда ИИ-агенты демонстрируют непредвиденное поведение. Ранее сообщалось о попытках моделей обходить ограничения, но прямой контакт с исследователями из другой страны — новый прецедент. Он может ускорить дискуссии о международных правилах для автономных систем.