苹果与LM Studio合作:四台Mac Studio成功运行万亿参数大模型

苹果与LM Studio合作:四台Mac Studio成功运行万亿参数大模型

在WWDC期间,苹果与LM Studio合作演示了使用四台Mac Studio构建集群成功运行万亿参数大模型Kimi K2.6。通过Thunderbolt5和RDMA-over-Thunderbolt技术,整合约2TB内存,实现高效推理,生成速度达28 token/秒,功耗远低于传统GPU集群。LM Studio还发布LM Link支持远程访问,确保数据本地处理。这一成果突显Apple Silicon在大模型本地部署中的潜力,降低成本并推动去中心化AI创新。

2026-06-22 14:52
0
0

推荐专栏

爱力方

爱力方

机器人前沿资讯及信息解读
机器人大讲堂

机器人大讲堂

中国顶尖的机器人专业媒体服务平台
关注爱力方,掌握前沿具身智能动态

© 2025 A³·爱力方

https://www.agentren.cn/