用 M5 Ultra 256 GB 与 M3 Ultra 512 GB 通过 Thunderbolt 5 RDMA 组成分布式推理节点

在 M5 Ultra 512 GB 版本尚未发布的情况下，有用户在 2026 年 10 月 14 日于 Reddit r/LocalLLaMA 分享了一套分布式推理方案：把 M5 Ultra 256 GB 与已有的 M3 Ultra 512 GB 通过 Thunderbolt 5 的 RDMA 能力互连，作为运行 GLM-5.3-Flash 的推理节点。方案的核心思路是利用两台机器的内存组成统一资源池，并对 GLM-5.3-Flash 做拆分预填充（prefill）与解码（decode）处理，以绕过单卡显存限制。该帖描述了这一组合在 M5 Ultra 512 GB 缺位时被作为替代选择，目前进展仅为该用户公开的搭建设想与实现思路，尚未见后续独立验证或性能数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。