Hugging Face Blog·· 8 天前AI 评分58
llama.cpp 发布 v1.0.0,为本地 AI 生态确立稳定 API 基础
llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem
AI 导读
llama.cpp 与 ggml 发布 v1.0.0 库版本,明确此后以主版本号反映公共 C API 与 ABI 的不兼容变更。项目称目前支持超过 150 种模型架构及所有主流投机解码方法,并已覆盖 Linux、macOS、Windows、Android、iOS 及 Docker、Homebrew、conda-forge 等分发渠道。团队表示随着下游依赖增多,将对 API 边界采取更严格的管理。
来源:Hugging Face Blog · huggingface.co