跳到正文
原文
Reddit · r/LocalLLaMA· /u/turtleninja99·· 3 天前AI 评分22

用户在 Mac Mini M5 64GB 上跑通千问 Qwen Flash Next Q4,结合 SSD 流式与外部盘并行读取优化推理速度

I got Qwen Flash Next Q4 running on a Mac Mini m5 64gb with ssd streaming

AI 导读

用户在 Mac Mini M5 64GB 上本地运行 Qwen Flash Next Q4 实测取得 17.5 tks decode 和 360 tks prompt processing 的速度。

来源:Reddit · r/LocalLLaMA · reddit.com