跳到正文
原文
Reddit · r/LocalLLaMA· /u/Don_Reuter·· 3 小时前AI 评分22

定制推理引擎是否被过度吹捧?我在 2× R9700 上试用 Strata 的经历

Are bespoke inference engines overhyped? My Strata experience on 2× R9700

AI 导读

用户在 2× R9700 上试用 Strata 跑 Qwen3-Next Flash,目标是在 Qwen3.8-27B Q8 基础上获得更大上下文,结果只做到 3-bit 量化。

来源:Reddit · r/LocalLLaMA · reddit.com