PrismML выпустила Bonsai 2 27B — локальную reasoning-модель, которая помещается примерно в 5,9 ГБ. Разработчики заявляют сохранение 98,2% среднего результата исходного Qwen3.8 27B.
Что произошло
Модель построена на открытой базе Qwen3.8 27B и использует тернарное представление весов: вместо широкого диапазона чисел применяются значения −1, 0 и +1. В результате размер заметно уменьшается, а запуск становится реалистичным для обычных ПК и мощных ноутбуков.
Почему это важно
Локальный запуск reasoning-моделей обычно упирается не только в скорость, но и в память. Bonsai 2 снижает этот порог для приватных помощников, автономного кодинга и офлайн-агентов, которым не нужно отправлять контекст в облако.
Что показывает проверка
В опубликованной серии сравнений Bonsai 2 набрала 83,9 балла против 85,4 у полной версии, а разработчики заявляют скорость до 143 токенов в секунду на GeForce RTX 5090. При этом отдельные задачи — особенно зрение, знания и вызов инструментов — проседают сильнее среднего результата.
Вывод
Это не универсальная замена большой модели, а практичный вариант для локальной работы. Перед внедрением стоит проверить именно свои сценарии: качество рассуждений в среднем выглядит близким, но агентные цепочки и мультимодальные задачи могут потребовать более крупной версии.
