Reddit · r/LocalLLaMA· /u/Course_Latter·· 4 天前AI 评分36
Gemma 4 在 Ryzen AI Max+ 395 上运行速度提升一倍以上
Gemma 4 twice as fast on Ryzen AI Max+ 395
AI 导读
有开发者将 Gemma 4 在 Ryzen AI Max+ 395 上的运行速度优化到 llama.cpp 的两倍以上。为保持精度,该方案结合了 rotation 与 GPTQ,并采用选择性混合精度。
来源:Reddit · r/LocalLLaMA · reddit.com