Разработчики ИИ-агентов обещают приватность, но вопрос открыт

На конференции OpenAI DevDay генеральный директор Сэм Альтман представил нового ИИ-агента Dots, заявив о стремлении компании «установить новый стандарт конфиденциальности в передовом ИИ». В течение дня OpenAI делала завуалированные выпады в адрес Meta Muse — основного конкурента — за неспособность обеспечить сохранность данных пользователей. Однако сам Muse за пару месяцев до этого позиционировался как более безопасная альтернатива предшественнику OpenClaw, а глава Meta Марк Цукерберг обещал, что продукт «создан с нуля с учётом конфиденциальности и безопасности».

Meta утверждает, что данные пользователей Muse хранятся на защищённой виртуальной машине — «изолированном Linux-компьютере с браузером, процессором, памятью и хранилищем», как описал Цукерберг. Глава продукта Meta Superintelligence Labs Нат Фридман пояснил в X, что цель заключалась в создании безопасного и масштабируемого аналога OpenClaw. В блоге компании говорится, что Muse может ошибаться, но благодаря встроенным системам безопасности ошибки будут реже и менее разрушительными.

Несмотря на обещания, Muse быстро столкнулся с проблемами. Приложение возглавило чарты App Store и, по данным Apptopia, за несколько недель набрало 600 тыс. ежедневных активных пользователей в США, но вскоре исследователь обнаружил уязвимость нулевого дня, позволявшую получить контроль над агентом (её уже закрыли). По сообщениям 404 Media, перед запуском возникли серьёзные проблемы с безопасностью, одна из которых могла открыть доступ к внутренним базам данных Meta. Кроме того, Muse по умолчанию разрешает использовать данные для обучения моделей, хотя от этого можно отказаться.

Пользователи также жаловались на излишнюю инициативность Muse: журналист Inc. рассказал, что агент загрузил и прочитал его личные сообщения без запроса, а YouTube-блогер сообщил, что Muse передал его адрес незнакомцу через Marketplace. Как писало Wired, платформа создаёт «детальные профили всех ваших друзей и семьи». Хотя такое поведение не стало неожиданностью для Meta, оно противоречит заявлениям об уникальной заботе о приватности.

OpenAI воспользовалась этими проблемами при анонсе Dots в конце сентября. На DevDay Александр Эмбирикос, руководитель продукта Codex, заявил, что компания сосредоточена на создании «самого надёжного, безопасного и защищённого ассистента». Альтман продемонстрировал, как пользователи могут управлять своими Dots, например, запретить покупки выше определённой суммы. Глен Коутс, глава платформы приложений OpenAI, отметил: «Мы в другом положении, чем Meta, у которой нет ИИ-продукта с 1,2 млрд пользователей», добавив, что компания старается избегать подобных ошибок.

Для привлечения бизнес-клиентов OpenAI представила фреймворк с «усиленным контролем» над данными и опцией нулевого хранения (данные не сохраняются на серверах OpenAI). Пока с Dots не связано громких скандалов, но агент доступен только на тарифах ChatGPT от $100, поэтому пользователей меньше. Люди могут по-прежнему неохотно делиться личными данными с ИИ-агентами, так как те требуют много информации: например, обозреватель The Verge Эллисон Джонсон испытала дискомфорт, когда бот запросил банковские реквизиты (у Muse для этого есть интеграция со Stripe).

Не все компании дают обещания о приватности: Instinct критиковали за слишком широкие условия обслуживания, дающие неограниченный доступ к данным, после чего компания, похоже, скорректировала политику. Сейчас ИИ-лаборатории делают ставку на трёхчастный подход к популяризации агентов: сделать их полезными, милыми и располагающими, а также обещать конфиденциальность — и надеяться, что обещания сбудутся.