2026-09-24 20:55
AI123

高通骁龙AR1平台落地1-bit量化模型,智能眼镜端侧AI交互提速

在2026年骁龙峰会上,高通与PrismML联合宣布,已在骁龙AR1 Gen 1智能眼镜平台上成功本地运行20亿参数的1-bit量化Bonsai视觉模型。该模型基于PrismML此前发布的Bonsai 1.7B版本构建,将模型精度压缩至1-bit,从而显著降低存储与推理所需的内存资源。

官方介绍,与传统4-bit量化模型相比,1-bit Bonsai模型的内存占用约为前者的1/4,在相同内存容量下可容纳约4倍参数,文本Token生成速度实现翻倍。这一方案使识别眼前物体、翻译文字、回答环境相关问题以及提供免手操作语音帮助等场景不再依赖云端连接,可直接在眼镜端完成本地交互。

此外,更低的内存与功耗需求有助于延长设备续航、减少发热,进而改善佩戴体验。此次合作展示了端侧AI在轻量化智能硬件上的落地路径。

来源
  1. 2026-09-25 03:00 | TechCrunch:PrismML brings its tiny LLMs to Qualcomm-powered smart glasses
    阅读原文

    In Brief Posted: 12:00 PM PDT · September 24, 2026 Image Credits:PrismML The AI Lab PrismML — founded by Caltech researchers and advised by UC Berkeley’s Ion Stoica — has created a version of its tiny language models for smart glasses running on Qualcomm’s Snapdragon c...

  2. 2026-09-24 14:34 | IT之家:AI 眼镜离线也能识图问答:高通携手 PrismML 发布 1-bit Bonsai,内存占用降至 1/4
    阅读原文

    IT之家 9 月 24 日消息,在 2026 骁龙峰会上,高通携手 PrismML 公司,在骁龙 AR1 Gen 1 智能眼镜平台上,成功本地运行 20 亿参数的 1-bit 量化 Bonsai 视觉模型。Bonsai 1-bit 模型基于 PrismML 此前发布的 Bonsai 1.7B 版本构建,降低模型存储与推理所需的内存资源,模型精度压缩到 1-bit。官方表示在相同内存容量下可容纳约 4 倍参数,内存占用约为传统 4-bit 模型的 1/4,文本 Token 生成速度翻倍。在落地场景方面,IT之家援引博文介绍,官方表示在识别眼前物体、翻译文字、回答环境相关的问题、提供免手操作的语音...

其他新闻

查看全部