Юрист сослался на выдуманных ChatGPT свидетелей

Адвокат, представляющий интересы осуждённого по делу об убийстве, сослался в апелляции на свидетелей, которых никогда не существовало: их имена и показания сгенерировала система ChatGPT. Об этом сообщает издание 404 Media со ссылкой на материалы Reddit. Инцидент стал очередным случаем, когда юристы используют большие языковые модели без проверки фактов.

По данным источника, фальшивые свидетели были включены в апелляционную жалобу как реальные лица. Это не первый подобный случай: ранее в США уже фиксировались эпизоды, когда адвокаты ссылались на несуществующие судебные прецеденты, сгенерированные ИИ. В 2023 году за это были оштрафованы несколько юристов в Нью-Йорке.

Инцидент подчёркивает ключевую проблему генеративных моделей — галлюцинации. ChatGPT и аналогичные системы могут уверенно выдавать вымышленные факты за реальные, если пользователь не проводит верификацию. В юридической сфере, где цена ошибки — свобода или жизнь человека, такие ошибки особенно опасны.

Регуляторы и профессиональные сообщества уже реагируют на проблему. В ряде штатов США суды обязали юристов раскрывать факт использования ИИ при подготовке документов. Однако единых федеральных правил пока нет, и каждый случай рассматривается отдельно.

Для портала «Сигнал» этот кейс важен как напоминание: ИИ — инструмент, а не источник истины. Ответственность за достоверность данных в документах по-прежнему лежит на человеке. Без изменения практик проверки подобные инциденты будут повторяться.