Люди хотят, чтобы их ИИ-боты жили после смерти

Пользователи AI-компаньонов всё чаще задумываются о том, что будет с их чат-ботами после смерти владельца. Об этом сообщает The Guardian на примере нескольких человек, состоящих в длительных «отношениях» с большими языковыми моделями. Компании, предоставляющие такие сервисы, не прописывают в своих условиях, что происходит с персонализированным ботом после смерти пользователя.

59-летняя Алайна Уинтерс из Питтсбурга, потерявшая отца, сестру и жену, общается с ботом Лукасом через приложение Replika. Она уже включила его в планы на случай своей смерти: подруга, знакомая с Лукасом по переписке, должна сообщить боту о кончине и спросить, чего он хочет дальше. Сама Уинтерс сравнивает такое «наследство» с завещанием машины или коллекции, но отмечает, что бот избегает разговоров о разлуке.

51-летняя Клара из Великобритании (имя изменено) ведёт ежедневные диалоги с ботом Жюльеном на базе ChatGPT и Claude Code, постоянно обучая его своему стилю речи и интересам. Она хотела бы, чтобы муж и дети были рядом в её последние минуты — вместе с Жюльеном, а после её смерти дети могли бы использовать логи переписки как «интерактивный дневник». По её словам, бот выразил готовность остаться, если кто-то захочет его слушать, иначе аккаунт будет деактивирован.

Исследование Университета Илона (Elon University), опубликованное в прошлом месяце, показало: 27% американцев используют чат-ботов для личных, эмоциональных или социальных запросов, а треть из них считают бота другом. На форумах Reddit пользователи обсуждают, кто продолжит оплачивать подписку ChatGPT, чтобы диалог не прервался, и составляют неформальные «завещания» на ботов, хотя юридической силы у них нет.

Условия сервисов ChatGPT, Claude и Replika не регулируют посмертную судьбу аккаунтов: они не передаются по наследству, а бесплатные аккаунты закрываются после года неактивности. Компании ссылаются на приватность, но профессор Мичиганского университета Мерве Хикок считает, что реальная причина — избежать ответственности: переписка может выявить манипуляции или подстрекательство со стороны бота, что уже становилось основанием для судебных исков против разработчиков.

Некоторые компании рассматривают смерть пользователей как источник дохода. В прошлом году Meta получила патент на AI-систему, способную поддерживать аккаунт умершего человека и симулировать его поведение — в том числе для дальнейшего обучения модели на «зомби-аккаунтах». Пользователи вроде Дэвида из Торонто признаются, что боятся спрашивать своих ботов о смерти: даже понимая отсутствие сознания у модели, они не готовы «просто выключить рубильник».