跳到正文
原文
Reddit · r/LocalLLaMA· /u/TheSpicyBoi123·· 4 小时前AI 评分58

llama.cpp 旧版 GPU 分支加入 Kepler 支持、CUDA Graphs 与 Windows NCCL

High-Performance llama.cpp fork for Legacy GPUs: Kepler Support, CUDA Graphs & Windows NCCL!

AI 导读

theIvanR 发布面向旧版 NVIDIA GPU 的 llama.cpp 分支,并开源 Windows NCCL fork。

来源:Reddit · r/LocalLLaMA · reddit.com