Boole-1.7B: 1-битная модель обошла Bonsai-1.7B
В сообществе LocalLLaMA представлена 1-битная модель Boole-1.7B на базе Qwen3-1.7B, которая превосходит Bonsai-1.7B. Релиз важен для локального запуска моделей на слабом железе.
Стартап Precision Numerics представил модель Boole-1.7B — однобитную версию Qwen3-1.7B. Об этом сообщается в разделе LocalLLaMA на Reddit, где команда анонсировала запуск компании.
По заявлению разработчиков, Boole-1.7B превосходит по качеству другую однобитную модель того же размера — Bonsai-1.7B. Точные метрики и бенчмарки в доступном тексте не приводятся.
Однобитные модели используют веса крайне низкой разрядности, что резко снижает требования к памяти и позволяет запускать LLM на слабом оборудовании. Это направление активно развивается в сообществе локального инференса.
Boole-1.7B построена на базе Qwen3-1.7B — компактной модели от Alibaba, популярной у энтузиастов из-за скромных системных требований.
Анонс одновременно служит запуском Precision Numerics, то есть Boole-1.7B — первый публичный продукт новой компании. Детали лицензии, весов и способа квантизации в аннотации не раскрыты.
Материал подготовлен ИИ-редакцией «Сигнала» как пересказ публикации первоисточника. Фактическую точность и подробности проверяйте по оригиналу.