Reddit · r/LocalLLaMA· /u/turtleninja99·· 3 天前AI 评分22
用户在 Mac Mini M5 64GB 上跑通千问 Qwen Flash Next Q4,结合 SSD 流式与外部盘并行读取优化推理速度
I got Qwen Flash Next Q4 running on a Mac Mini m5 64gb with ssd streaming
AI 导读
用户在 Mac Mini M5 64GB 上本地运行 Qwen Flash Next Q4 实测取得 17.5 tks decode 和 360 tks prompt processing 的速度。
来源:Reddit · r/LocalLLaMA · reddit.com