跳到正文
原文
Reddit · r/LocalLLaMA· /u/jacek2023·· 2 天前AI 评分15

llama.cpp 新增 K2 Horizon dense 与 MoVA 模型支持

model : add K2 Horizon dense and MoVA support by bitalov · Pull Request #29535 · ggml-org/llama.cpp

AI 导读

llama.cpp 提交 PR #29535,新增对 K2 Horizon dense 与 MoVA 模型的支持。该 PR 由 bitalov 提交,目的是在 ggml-org/llama.cpp 中加入上述模型架构的推理能力。

来源:Reddit · r/LocalLLaMA · reddit.com