Ловушка дешёвого GPU в облаке

Почасовой тариф на GPU часто воспринимается как главный критерий выбора облачной площадки: чем ниже ставка, тем выгоднее проект. Однако на практике бюджет ИИ-проекта определяется не только ценой за час, но и простоями, скоростью хранилища и сети, а также временем инженеров на настройку и отладку. Об этом в статье на Хабре пишет Миша Воронин, менеджер продукта GPUaaS в K2 Cloud.

По данным отчёта SemiAnalysis, совокупная стоимость владения GPU-кластером включает восемь составляющих: аренду GPU, хранение, сеть, управление кластером, поддержку, простой и недополученную производительность из-за отказов, начальную настройку и последующую отладку. Легче всего оценить только первый пункт, тогда как остальные часто не входят в тариф и проявляются уже после запуска.

Хранилище — один из недооценённых факторов. Для обучения мультимодальных моделей требуется от 2 до 25 ТБ на GPU в зависимости от нагрузки, включая датасеты, чекпоинты, логи и артефакты. В России распространён сценарий адаптации открытых моделей под свои данные с развёртыванием RAG-контуров, где важна скорость доступа к базам знаний, а не только объём. Медленное хранилище заставляет GPU простаивать, превращая ускорители в дорогой ресурс ожидания.

Сеть также критична: при обучении больших моделей GPU постоянно обмениваются параметрами, и недостаточная пропускная способность снижает масштабируемость кластера. При инференсе важны пропускная способность провайдера и возможность соединения облака с собственной инфраструктурой. Дополнительные расходы создают публичные IP, балансировщики, исходящий трафик и межрегиональная передача данных.

Простои напрямую влияют на экономику ИИ-сервисов: при отказах оборудования или сети компания теряет не только оплаченные ресурсы, но и потенциальную выручку, а также сталкивается с ростом задержек и ухудшением клиентского опыта. Поэтому при выборе поставщика стоит обсуждать не только SLA доступности, но и операционные показатели — среднее время обнаружения сбоя, сроки восстановления узла, наличие резервных мощностей.

Ещё одна скрытая статья расходов — компетенции собственной команды. Для устойчивой работы ИИ-решения в продуктивной среде нужны MLOps, DevOps, SRE, специалисты по хранению, сетям и безопасности, знакомые со спецификой распределённых ML-нагрузок. Таких инженеров мало, их поиск занимает месяцы и стоит дорого, а время на диагностику неполадок отвлекает от улучшения модели и проверки бизнес-гипотез.

В SemiAnalysis начальная настройка и отладка выделены в отдельную статью расходов: оптимизация может требовать недель или месяцев работы нескольких инженеров. Дешёвая аренда GPU в таком случае даёт обратный эффект — экономия на счёте оборачивается дополнительными затратами на людей и удлинением сроков. Кроме того, ошибки в настройке редко останавливают кластер полностью, но приводят к частичной загрузке GPU, задержкам старта заданий и повторным прогонам, которые незаметно увеличивают бюджет.