Mesa добавила поддержку YOLOX на NPU

В сообществе LocalLLaMA на Reddit появилась информация о том, что проект Mesa расширяет поддержку NPU (нейронных процессоров). Речь идёт о добавлении поддержки модели YOLOX, работающей через PyTorch. Об этом сообщил пользователь под ником Fcking_Chuck.

Mesa — это открытая реализация графических API, включающая драйверы для различных ускорителей. Поддержка NPU в Mesa развивается в рамках инициативы по обеспечению работы нейросетевых вычислений на специализированном оборудовании. Ранее проект уже демонстрировал возможности запуска моделей машинного обучения на NPU.

YOLOX — это одна из версий семейства алгоритмов YOLO для обнаружения объектов на изображениях. Она известна балансом между точностью и скоростью работы. Интеграция с PyTorch упрощает использование модели, поскольку этот фреймворк широко применяется в исследованиях и разработках.

Добавление поддержки YOLOX через PyTorch в Mesa может означать, что разработчики смогут запускать задачи компьютерного зрения на NPU без необходимости писать специализированный код. Это снижает порог входа для использования нейронных ускорителей в прикладных проектах.

NPU становятся всё более распространёнными в потребительских устройствах, включая ноутбуки и одноплатные компьютеры. Открытые драйверы и фреймворки, такие как Mesa, играют ключевую роль в обеспечении доступности этих ускорителей для разработчиков. Поддержка популярных моделей, таких как YOLOX, расширяет сценарии применения.

Детали реализации и список поддерживаемых платформ в сообщении не раскрываются. Ожидается, что дополнительная информация появится в репозитории Mesa или в обсуждении на Reddit. Тема вызывает интерес у участников LocalLLaMA, следящих за развитием локального запуска ИИ-моделей.