Рич Хики: ИИ — не инструмент

Рич Хики, создатель языка программирования Clojure, опубликовал эссе, в котором утверждает: называть большие языковые модели (LLM) «инструментами» некорректно. По его мнению, инструмент — это то, что человек держит в руках, непрерывно направляет и контролирует, получая обратную связь. LLM же работают иначе: пользователь лишь формулирует запрос, а система действует сама.

Хики разграничивает инструменты и автоматизацию. Инструмент, по его определению, предполагает приложение усилия, техники и навыка, а также сенсорную обратную связь — именно это формирует экспертизу. Автоматизация же работает «сама по себе, с малым или нулевым непосредственным контролем человека». Пример с окном drive-thru: это не инструмент для готовки, а автоматизация, позволяющая избежать готовки.

По мнению Хики, при использовании LLM человек не учится реальным закономерностям мира, а пытается угадать «детали дня» автомата и подстроиться под них. Он сравнивает это с попыткой заказать свежий бургер без лука или с заполнением файла voodoo.md «правильными заклинаниями». Любое обновление алгоритма может обнулить всё, что пользователь «выучил».

Автор приводит пример с чтением и summarization научных статей: если LLM прочитала статьи за вас, то вы не читали их сами. В результате теряется обучение письму у сильных авторов, формулированию аргументов, замечанию деталей, накоплению идей и построению доверия к источникам. «Вы упускаете всё», — пишет Хики, включая умение думать.

Хики подчёркивает, что инструменты не бывают «misaligned», не «выходят из-под контроля» и не «сговариваются». Эти свойства он приписывает именно автоматизации, у которой есть внутренние характеристики, игнорировать которые опасно. Фраза «просто инструменты» создаёт ложное впечатление, будто LLM полностью определяются намерениями пользователя.

Эссе вызвало активное обсуждение на Hacker News: более 230 голосов и свыше 110 комментариев. Спор касается не только терминологии, но и того, как называть взаимодействие с LLM и какие навыки теряются при передаче задач автоматизации.