Qualcomm: к 2028 году ждут модели на 100 млрд параметров в телефонах

Глава Qualcomm Криштиану Амон на мероприятии в рамках отчётного квартала заявил, что производители ИИ-систем хотят видеть смартфоны, способные непрерывно запускать модели на 100 млрд параметров уже к 2028 году. Об этом сообщил пользователь firesidealpha в X, а обсуждение развернулось в сообществе LocalLLaMA на Reddit.

Речь идёт о моделях, которые сейчас требуют серверных ускорителей и десятков гигабайт памяти. Для сравнения: открытые модели уровня Llama 3 70B уже считаются тяжёлыми для мобильных устройств, а 100B-модель в 4-битном квантовании займёт около 50–60 ГБ памяти. Это значительно превышает возможности современных флагманских смартфонов, у которых обычно 12–16 ГБ оперативной памяти.

Запрос исходит от ИИ-компаний, а не от производителей телефонов, что меняет расстановку сил в отрасли. Qualcomm как поставщик мобильных чипов Snapdragon оказывается в центре этого давления: ей придётся обеспечить не только вычислительную мощность NPU, но и пропускную способность памяти и энергоэффективность.

Срок 2028 года выглядит агрессивным, но не невозможным. За последние годы мобильные NPU ускорились в разы, а методы квантования и дистилляции позволяют сжимать модели без катастрофической потери качества. Однако непрерывная работа 100B-модели на телефоне потребует прорывов сразу в нескольких областях: память, охлаждение, батарея и софтверная оптимизация.

Для пользователей это означало бы локальный ИИ-ассистент, не зависящий от облака и работающий без задержек и утечек данных. Для рынка — новый виток конкуренции между Qualcomm, Apple, MediaTek и разработчиками моделей. Пока же заявление остаётся ориентиром, а не подтверждённым техническим планом.

В сообществе LocalLLaMA к новости отнеслись скептически: участники отмечают, что даже 30B-модели на телефонах пока работают медленно и сильно греются. Тем не менее сам факт того, что крупный чипмейкер публично говорит о таких запросах, показывает, куда движется индустрия.