Инженер раскритиковал сгенерированный ИИ текст

Инженер Колин Брек опубликовал эссе о том, как массовое использование генеративного ИИ меняет деловую переписку и техническую документацию. По его наблюдениям, люди, которые раньше почти не писали сами, начали выдавать развёрнутые дизайн-доки, бизнес-планы, тикеты, описания пулл-реквестов и протоколы встреч — и читать это становится невозможно. При этом сам Брек активно применяет ИИ в собственной работе и не отрицает его пользы.

Главная претензия автора — потеря контекста и авторского взгляда. Дизайн-док, сгенерированный задним числом, перестаёт быть предложением, вокруг которого собирают согласие и доводят идею до ума, и превращается в утомительное машинное саммари. В описаниях пулл-реквестов, написанных «машиной для машины», много деталей — что поменяли, что разделили, куда добавили тесты, — но нет ответа на вопросы, зачем это делается, в чём ценность и на что смотреть рецензенту.

Отдельно Брек разбирает личную переписку. Однажды ему пришло сообщение на щекотливую тему, явно прогнанное через ИИ для сглаживания углов: все части на месте, но целого не получилось, письмо вышло безличным и холодным. Автор ссылается на эссе Саймона Сарриса Resist Summary и настаивает, что уязвимость и риск — неотъемлемая часть человеческих отношений, и попытка убрать их вместе с «неудобным» голосом автора уничтожает сами отношения.

Брек приводит данные опроса Синтии Данлоп о реакции читателей на текст, заподозренный в генерации ИИ: 78% бросают статью, 71% впоследствии обходят автора стороной, а 98% предпочитают собственный текст автора со всеми огрехами бездушной версии, переписанной моделью. Брайан Кантрилл в эссе The revolt of the reader описал это как инстинкт самосохранения, срабатывающий при «запахе LLM». Брек напоминает слова создателя C++ Бьёрна Страуструпа: когда при чтении слышишь голос автора с его особенностями речи, значит, текст удался.

При этом Брек не отказывается от ИИ в письме. При работе над научной статьёй он дал модели руководство журнала, шаблон LaTeX, предыдущие публикации, исходный код, конфигурации, логи и метрики продакшен-развёртываний. ИИ сверял написанные абзацы с исходниками, проверял, какие колонки в базе проиндексированы и как отсортированы строки в Parquet-файлах, ловил опечатки, упрощал громоздкие предложения, рисовал схемы в TikZ и оформлял ссылки в BibTeX. По словам автора, обратное — попросить ИИ написать абзац самому — ни разу не дало читаемого результата и часто содержало ошибки.

Единственная часть статьи, которую ИИ написал без единой правки, — аннотация. Брек объясняет это тем, что абстракт максимально сжат, механичен и «абстрактен в буквальном смысле»: пересказывать, обобщать и переупаковывать чужую оригинальную работу модели умеют отлично. Ключевой вывод эссе: польза от ИИ возникает там, где человек сам формулирует промпты, задаёт ограничения и привносит контекст, — а пересланный без этого контекста машинный текст читатель расшифровывать не обязан.