Reddit · r/LocalLLaMA· /u/Don_Reuter·· 3 小时前AI 评分22
定制推理引擎是否被过度吹捧?我在 2× R9700 上试用 Strata 的经历
Are bespoke inference engines overhyped? My Strata experience on 2× R9700
AI 导读
用户在 2× R9700 上试用 Strata 跑 Qwen3-Next Flash,目标是在 Qwen3.8-27B Q8 基础上获得更大上下文,结果只做到 3-bit 量化。
来源:Reddit · r/LocalLLaMA · reddit.com