AI 资讯聚合 · 大模型

PrismML 发 Bonsai 2 27B:三元权重 5.9GB 保住 98.2% 性能,27B 模型进笔记本

海外大模型量化三元权重PrismML · 2026-09-17 · 约1分钟 · 来源:PrismML 官方新闻稿

PrismML 于 9 月 17 日发布 Bonsai 2 27B,基于 Qwen3.8 27B 的三元(ternary)权重旗舰模型:语言主体压到约 5.9GB(FP16 基线约 54GB,压缩超 9 倍),官方称保留全精度模型基准性能的 98.2%——上一代 Ternary Bonsai 27B(基于 Qwen3.6,7 月发布)的留存率为 95%。权重以 {-1,0,+1} 三值加 FP16 分组缩放表示,64 组共享高精度因子,支持 262K 上下文,RTX 5090 上报 143 tokens/s。

Apache 2.0 协议,开发者可免费下载 GGUF/MLX/CUDA 多格式权重。官方自留的诚实边界:不同发布材料对基准套件与参数量的数字不一致(20 项基准均分 83.9 对 85.4、27.8B 对 27.36B),未做核对说明。第三方 runtimewire.com 已标注此分歧,置信评估据此降半档。

原文链接:PrismML 官方新闻稿

核验记录
PRNewswire 发布时间 Sep 17, 2026 15:47 ET + HF prism-ml 仓库 9/17 上线;runtimewire.com 9/17 报道指出官方材料数字不一致(27.8B vs 27.36B),已写入正文