Reddit · r/LocalLLaMA· /u/TheSpicyBoi123·· 4 小时前AI 评分58
llama.cpp 旧版 GPU 分支加入 Kepler 支持、CUDA Graphs 与 Windows NCCL
High-Performance llama.cpp fork for Legacy GPUs: Kepler Support, CUDA Graphs & Windows NCCL!
AI 导读
theIvanR 发布面向旧版 NVIDIA GPU 的 llama.cpp 分支,并开源 Windows NCCL fork。
来源:Reddit · r/LocalLLaMA · reddit.com