Конвейер перевода и вёрстки книг на локальных моделях

Разработчик с ником на «Хабре» потратил три месяца на создание открытого конвейера для полного перевода и вёрстки книг, который работает преимущественно на локальном оборудовании. По его словам, управление конвейером можно доверить даже бесплатным моделям в OpenCode, а основную нагрузку по переводу выполняет локальная специализированная модель Hy-MT2-7B, для повышения качества доступна версия Hy-MT2-30B-A3B. Распознавание сканов обеспечивает MinerU, также запускаемый на видеокарте.

Автор подчёркивает, что главная цель проекта — обойти ограничения коммерческих LLM, которые часто отказываются переводить и верстать книги по разным причинам. В его схеме массовый перевод выполняет локальная модель, а вёрстку берут на себя Python-скрипты, что позволяет избежать отказов. Управление конвейером требует минимального количества токенов, поэтому подойдёт даже слабая бесплатная модель.

Первый опыт был связан с подпиской Claude за 200 долларов: с его помощью была переведена книга по комплексному анализу Тристана Нидхэма объёмом почти 900 страниц. Затем на основе этого опыта разрабатывался скилл для перевода через Hy-MT2-7B и вёрстки настроенным конвейером. На доработку ушло три дня, после чего качество бесплатного перевода и вёрстки оказалось почти не хуже платного, хотя потребовался подробный глоссарий.

С 12 по 17 июля разработчик перевёл несколько книг по математике и философии и столкнулся с множеством ошибок вёрстки: повторами параграфов, неверными оглавлениями, вырезанными рисунками и проблемами с формулами. Модель-переводчик иногда переставала отвечать или дублировала ответы. Каждую проблему приходилось исправлять с помощью Claude, который переписывал скрипты и создавал новые скиллы. Прогресс стал заметен только к 24 июля, когда конвейер начал работать корректно в большинстве случаев.

Отдельно автор отмечает, что Claude отказывался переводить и верстать больше половины нужных ему книг, но при этом соглашался управлять конвейером, который выполняет эту работу. Это стало важным аргументом в пользу локальной схемы. В августе для проверки конвейера специально подбирались сложные сканы древних книг, включая издания Гегеля готическим шрифтом с дубликатами и неправильным порядком страниц. На настройку ушло ещё две недели, чтобы даже бесплатные модели в OpenCode справлялись с такими случаями.

В сентябре разработчик перешёл с подписки Claude на ChatGPT и использовал Codex для диагностики проблем. Ежедневно конвейер переводил новые книги бесплатно и без отказов, а к середине октября ошибки почти исчезли. Проект выложен на GitHub и будет обновляться по мере обнаружения новых проблем. Автор призывает пользователей присылать описания нерешённых случаев, чтобы учитывать их в следующих версиях.