Reddit · r/LocalLLaMA· /u/do_u_think_im_spooky·· 3 天前AI 评分45
Infermeld：支持 AMD + NVIDIA 混合 GPU 推理的 llama.cpp Linux 工具包
Infermeld: a Linux kit for running one GGUF across AMD + NVIDIA GPUs with llama.cpp
AI 导读
Infermeld 是一个实验性开源 Linux 工具包，可让同一 GGUF 模型同时在 AMD 和 NVIDIA 显卡上运行，采用 llama.cpp 作为推理引擎，Vulkan + CUDA 双后端支持。
来源：Reddit · r/LocalLLaMA · reddit.com