RTX 3090 FE перегревает VRAM при запуске LLM

Пользователь Reddit под ником, опубликовавший пост в сообществе LocalLLaMA, предупредил владельцев видеокарт GeForce RTX 3090 Founders Edition о перегреве видеопамяти при длительной работе с большими языковыми моделями. По его словам, нагрузка на VRAM в таких сценариях существенно выше, чем в играх, что приводит к росту температур выше безопасных значений. Пост сопровождается скриншотом, который, судя по всему, фиксирует показатели датчиков.

RTX 3090 FE известна своей компоновкой: чипы памяти GDDR6X расположены на обратной стороне платы, где охлаждение заметно хуже, чем у лицевой стороны. Именно эти модули, по наблюдениям энтузиастов, сильнее всего нагреваются при inference — постоянной загрузке памяти весами модели и вычислениями. В играх нагрузка на VRAM обычно менее продолжительная и распределена иначе.

Для локального запуска LLM характерна именно длительная непрерывная работа: модель загружается в память целиком и остаётся там, а генерация токенов идёт часами. Это создаёт устойчивый тепловой режим, при котором температура памяти может приближаться к предельным 100–110 °C. В таких условиях возможны троттлинг, артефакты и ускоренная деградация чипов.

Автор поста позиционирует его как PSA — публичное предупреждение для других владельцев 3090 FE. Практические советы в подобных обсуждениях обычно сводятся к улучшению продува корпуса, замене термопрокладок, установке водоблока или ограничению мощности карты. Точные замеры и методика тестирования в доступном фрагменте не приводятся.

Тема важна для сообщества LocalLLaMA, где RTX 3090 с 24 ГБ памяти остаётся популярным и относительно доступным вариантом для запуска моделей локально. Рост интереса к локальному inference повышает риск того, что пользователи будут эксплуатировать карты в непривычном для них тепловом режиме. Это делает вопросы охлаждения VRAM практически значимыми, а не только теоретическими.