热点事件持续更新
开发者跨6台异构设备集群推理GPT-OSS-120B量化模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月8日，Reddit r/LocalLLaMA 板块有开发者发帖称，使用 exo 框架将 OpenAI 发布的 gpt-oss-120B 模型的 4-bit 量化版（约 60GB）分布到 6 台无力单独装载该模型的异构设备上进行集群推理。这 6 台设备包括一台 12GB 显存的 Windows 笔记本、一台搭载 RTX 3060 的迷你 PC、一台 16GB 的 Mac mini、一台 16GB 的 M3 MacBook、一台 2017 款 Intel MacBook 以及一台安卓手机。该开发者表示，集群在推理过程中还具备自愈能力。这是目前关于该项目的最新报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月8日 23:44
开发者用exo将gpt-oss-120B 4-bit量化版分布到6台异构设备集群推理，并实现自愈。报道时间线
沿着报道，了解事件的不同侧面。
10月8日
- Reddit · r/LocalLLaMA开发者将 GPT-OSS-120B 4-bit 量化版跨 6 台异构设备集群推理并实现自愈
开发者用 exo 将 OpenAI 的 gpt-oss-120b（4bit 量化、约 60GB）分布到 6 台无力单独装载该模型的异构设备上集群推理，包括 12GB Windows 笔记本、RTX 3060 迷你 PC、16GB Mac mini、M3 MacBook 16GB、2017 款 Intel MacBook 以及一台安卓手机。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。