据悉,Bonsai 27B模型今日正式发布,该模型基于Qwen 3.6 27B模型微调而成,旨在提升本地AI在手机等设备上的运行能力。其核心改进包括增强多步推理、结构化工具使用、长上下文工作流以及连贯的智能体循环。
此前,Qwen 3.6 27B模型因其较大的内存占用(16-bit精度下需54GB,4-bit精度下也需18GB)而难以在手机和多数笔记本上流畅运行。而新推出的Bonsai 27B模型提供了3-bit和1-bit两个版本,显著降低了内存需求,使其有望在苹果iPhone 17 Pro等高端手机上实现本地运行。
有行业人士评价,该模型的发布标志着AI发展的一个重要里程碑,其影响力被认为远超以往的一些知名模型。此举被视为推动AI在移动设备端普及的关键一步。