PrismML微型LLM移植至高通智能眼镜
PrismML将微型LLM移植至高通智能眼镜。该1-bit模型体积缩小4倍,性能几乎无损,可在AR1平台本地运行。此举旨在推动开放式AI在设备端普及,目前尚无上市产品。
共 3 篇相关文章
PrismML将微型LLM移植至高通智能眼镜。该1-bit模型体积缩小4倍,性能几乎无损,可在AR1平台本地运行。此举旨在推动开放式AI在设备端普及,目前尚无上市产品。
AI实验室PrismML发布新一代模型Bonsai 2,基于阿里Qwen3.8 27B压缩而成。通过“外部权重”技术将内存占用减少9-10倍至5.9GB,基准匹配率达98%,旨在让大模型在PC和手机端本地免费运行。
PrismML推出基于Qwen3.8的Ternary Bonsai 2 27B,采用三元量化技术将模型压缩至5.9GB。该模型保留全精度98.2%性能,支持多模态与长上下文,在RTX 5090上可达143 token/s,显著降低本地部署门槛。