Dell и Intel оценили затраты на масштабирование корпоративного ИИ

Расходы на облачные токены становятся ограничивающим фактором для корпоративного ИИ: у части заказчиков бюджеты, рассчитанные на месяцы, исчерпываются за недели. Об этом на симпозиуме Dell «AI Leadership Symposium» в эфире студии theCUBE (проект SiliconANGLE) рассказали Хелен О’Салливан, специалист по ИИ-решениям Dell Technologies, и Тим Вуд, директор по продажам Intel в северо-западном регионе. По их словам, рост числа агентных нагрузок ускоряет потребление токенов и заставляет компании пересматривать, где именно запускать инференс.

О’Салливан описала ситуацию так: «Многие клиенты в районе залива Сан-Франциско сталкиваются с реальной проблемой — они расходуют за несколько недель бюджет на токены, который был рассчитан на месяцы». По её словам, выход не в отказе от передовых моделей, а в комбинации: frontier-модели в облаке плюс открытые модели и собственная инфраструктура, что снижает нагрузку на токен-бюджет.

Давление на затраты меняет стратегию развёртывания корпоративного ИИ: локальная инфраструктура и модели с открытыми весами возвращаются в обсуждение наравне с облачными моделями. Вуд отметил, что у многих предприятий уже есть CPU в дата-центрах, и часть этих ресурсов способна обслуживать новые агентные нагрузки. По его мнению, тестирование открытых моделей в песочницах помогает заранее оценить реальные требования к железу.

Агентные сценарии меняют и баланс спроса на процессоры. О’Салливан указала, что её команда заметила «перебалансировку» в сторону более интенсивного использования CPU ещё несколько месяцев назад, тогда как многие покупатели по-прежнему ориентируются прежде всего на GPU. Она также подчеркнула, что ИИ больше нельзя внедрять ради самого ИИ — нужна цель, связанная с задачами бизнеса.

Обе компании придерживаются консультативного подхода: перед рекомендацией они сопоставляют имеющуюся инфраструктуру и капитальные затраты с моделью операционных расходов. По словам О’Салливан, заказчики часто спрашивают, как быстрее получить GPU, но ключевой вопрос — в данных и в оценке всего стека, а не только ускорителей.

Контекст дискуссии — растущая стоимость инференса для агентных приложений, которая делает экономику облачных токенов всё менее предсказуемой. Для вендоров это означает спрос на гибридные схемы, а для заказчиков — необходимость считать совокупную стоимость владения, а не только скорость доступа к GPU. Материал опубликован в рамках партнёрского освещения SiliconANGLE и theCUBE мероприятия Dell; спонсоры не влияют на редакционный контент.