AI

本地也能跑万亿大模型:苹果与 LM Studio 联手解锁 Mac Studio 算力极限

PConline 2026-06-22 09:57:00
产品动态
由华为云驱动

在 WWDC 2026 期间,LM Studio 与苹果达成深度技术合作,成功在由四台 Mac Studio 组成的集群上,流畅运行了月之暗面的万亿参数大模型 Kimi K2.6。Kimi K2.6 是一款基于 MoE(混合专家)架构的巨型模型,其总参数规模达到 1 万亿。在四台 Mac Studi...

在 WWDC 2026 期间,LM Studio 与苹果达成深度技术合作,成功在由四台 Mac Studio 组成的集群上,流畅运行了月之暗面的万亿参数大模型 Kimi K2.6。Kimi K2.6 是一款基于 MoE(混合专家)架构的巨型模型,其总参数规模达到 1 万亿。在四台 Mac Studio 的集群配置下,利用苹果的统一内存架构,该系统实现了约 1.5TB 的总内存容量。开发者测试数据显示,在这种集群架构下,Kimi K2.6 能保持稳定的运行,特定模式下的生成速度可达到约 28 tokens/s,且整体功耗低于传统的企业级 GPU 集群。本次合作还演示了跨设备协作场景。通过 LM Studio 旗下的 LM Link 功能,用户可以实现安全、远程的本地化访问。在演示中,研发人员通过 MacBook Neo 笔记本以及 iPhone,就能直接与集群上的模型进行高频互动。所有交互过程中的数据处理均保留在本地局域网内。本次演示中所使用的 LM Link 功能,已于今年 6 月初正式适配 Mac 及 iOS 平台,支持端到端加密连接。
点击展开全文
打开APP,阅读体验更佳

网友评论

太评甄选

更多优惠

相关推荐

相关产品
取消