ИИ-ассистенты собирают данные об окружающих

Стремительное распространение ИИ-агентов, позиционируемых как персональные помощники, обернулось новой волной обеспокоенности приватностью. Приложение Meta Muse, выпущенное в прошлом месяце, уже скачали миллионы раз — оно возглавило чарт App Store. Однако, как отмечает The Verge, пользователи, соглашаясь на передачу данных, фактически делятся информацией не только о себе, но и о своих друзьях, родственниках и случайных знакомых, которые такого согласия не давали.

Muse просит и поощряет предоставлять доступ к банковским счетам, паролям, контактам, перепискам и другим чувствительным данным. По словам президента Signal Foundation Мередит Уиттакер, такие системы рекламируются как автономные помощники, выполняющие задачи до того, как их попросят, но их действия распространяются на всех, с кем общается владелец устройства, на основе самых интимных сведений — почты, сообщений, фотографий.

Meta утверждает, что Muse собирает данные только из открытых источников и из того, чем пользователь решил поделиться, а процесс подключения построен на явном согласии. Представитель компании Дэниел Робертс заявил, что настройки помогут людям сделать правильный выбор в пользу приватности. Однако уже зафиксированы инциденты: один технический обозреватель случайно разрешил доступ к своему домашнему адресу, и Muse вызвал незнакомца к его квартире. В другом случае приложение получило доступ к миллионам текстовых сообщений, которые пользователь считал закрытыми, хотя Meta настаивает на ошибке в настройках разрешений.

Директор по кибербезопасности Electronic Frontier Foundation Ева Галперин считает, что интерфейс Muse намеренно сбивает с толку, побуждая делиться как можно большим объёмом данных с помощью тёмных паттернов. В результате пользователи не осознают, какие именно сведения они передают, пока не становится слишком поздно. Поскольку ИИ-агенты поглощают огромные массивы информации, риску утечки подвергаются не только сами владельцы, но и все, с кем они когда-либо контактировали в цифровом пространстве.

Исследователи безопасности, изучив внутренние инструкции Muse, обнаружили процесс, который ежечасно составляет и обновляет профили каждого человека из окружения пользователя. Цель — построить детальный портрет жизни, включая оценку близости отношений и текущих потребностей, чтобы формировать персонализированные рекомендации. Как сообщал Wired, приложение отслеживает и измеряет каждую личную связь.

Уиттакер сравнивает происходящее с политиками конфиденциальности 1990-х: ответственность за приватность перекладывается на потребителя, а компании избегают последствий, извлекая выгоду из рекламной модели. По её мнению, такие системы согласия — фундамент индустрии слежки, а клик-соглашения давно заменили осмысленное согласие. Профессор права Вашингтонского университета Нил Ричардс добавляет, что на обычных людей возлагается непосильное бремя, а затем это используется в судах и законодательстве как доказательство «выбора» пользователей.