2026-09-18 07:40
AI123
PrismML发布Bonsai 2 27B推理模型,内存占用较原版压缩约9倍
AI初创公司PrismML于2026年9月17日发布其最新推理模型Bonsai 2 27B。该模型将阿里开源模型Qwen3.8 27B压缩至5.9GB,内存占用相比原版减少约9至10倍,体积可装入PC,并可能运行于高端智能手机。
PrismML表示,Bonsai 2在基准测试中的综合得分达到原模型的98%,较2026年3月发布的第一代Bonsai的95%有所提升。公司称,第一代Bonsai下载量已超过1100万次,其更小尺寸模型另有260万次下载。
PrismML由加州理工学院研究人员创立,CEO Babak Hassibi是该校教授、压缩技术专家。公司已完成2250万美元种子轮融资,投资方包括Khosla Ventures、Cerberus Capital和Caltech。
压缩方面,PrismML采用“三元权重”方法,将每个模型权重从通常的16比特简化为+1、-1或0三个值,从而大幅降低存储空间。该公司表示,下一步计划将这一技术应用于参数规模达数千亿的更大模型。
来源
- 2026-09-18 06:34 | TechCrunch:PrismML hopes its tiny LLM will change how we all use AI阅读原文
If AI lab PrismML isn’t on your radar yet, it should be — not because it’s raised gobs of money (it hasn’t yet, just a $22.25 million seed round), but because of the technical minds involved and the potentially industry-changing tech it’s developing. PrismML is betting that capable, high-performing...