跳到正文
原文
Reddit · r/LocalLLaMA· /u/Course_Latter·· 4 天前AI 评分36

Gemma 4 在 Ryzen AI Max+ 395 上运行速度提升一倍以上

Gemma 4 twice as fast on Ryzen AI Max+ 395

AI 导读

有开发者将 Gemma 4 在 Ryzen AI Max+ 395 上的运行速度优化到 llama.cpp 的两倍以上。为保持精度,该方案结合了 rotation 与 GPTQ,并采用选择性混合精度。

来源:Reddit · r/LocalLLaMA · reddit.com