跳到正文
原文
Reddit · r/LocalLLaMA· /u/challis88ocarina·· 2 小时前AI 评分13

Muse Spark 在单台 Mac Studio 上跑出 18 t/s decode 速度

Muse Spark on a single Mac Studio

AI 导读

用户 challis88ocarina 公布 Muse Spark 在单台 Mac Studio 上的最新进展,文本 decode 速度已达到 18 t/s,因 cherry-pick 其他 ds4 work tree 出现轻微回退,待 prefill droop 问题修复后恢复 18 t/s 并推送代码。

来源:Reddit · r/LocalLLaMA · reddit.com