Nieuws

PrismML brengt Bonsai 27B uit: 1-bit en ternaire versies van Qwen3.6-27B voor laptops en telefoons

PrismML heeft Bonsai 27B uitgebracht, een laag-bit representatie van Qwen3.6-27B. Het model is beschikbaar in twee varianten: een ternaire versie van 5,9 GB en een 1-bit versie van 3,9 GB, beide onder Apache 2.0. De ternaire variant behoudt 94,6% van de FP16-prestaties en de 1-bit variant 89,5%. Het model is ontworpen om op laptops en telefoons te draaien met een context van 262K tokens.