跳到正文
原文
Reddit · r/LocalLLaMA· /u/asfbrz96·· 4 小时前AI 评分26

strix-llama 新分支 rdna35-perf:在 Strix Halo 上 128k 上下文 prompt 处理较 Vulkan 提升 21–54%、较 ROCm 最高 2.7×,输出质量不变

strix-llama new branch: prompt processing +21–54% over Vulkan and up to 2.7× over stock ROCm kernel at 128k, same outputs quality

AI 导读

rdna35-perf 分支在 Strix Halo(Radeon 8060S)上以 ROCm/HIP 后端重写了 llama.cpp 内核,128k 上下文 prompt 处理较 Vulkan 提升 21–54%、较 stock ROCm 提升最高 174%。

来源:Reddit · r/LocalLLaMA · reddit.com