幻兹快讯
PrismML发布Ternary Bonsai 2系列轻量AI模型
幻兹快讯
2026年10月16日
阅读 11 次

10月15日,AI公司PrismML推出Ternary Bonsai 2系列模型(2B/4B/9B),基于Qwen 3.5基座,采用-1/0/+1三元权重压缩技术,存储仅0.43GB–2GB。该系列专为手机、PC及可穿戴设备本地部署设计,支持推理、识图与工具调用。在RTX 4090和M5 Pro上吞吐量提升最高5倍、能效达3倍;iPhone 18 Pro Max上9B模型达34 token/s。模型以Apache 2.0开源,支持llama.cpp与MLX跨平台部署。

Copyright © 幻兹网 All Rights Reserved粤ICP备2026034579号粤公网安备44030002012995号
☰