Hugging Face transformers 现在支持直接运行 llama.cpp 量化模型
Hugging Face 宣布 transformers 库新增 GGUF 格式支持，用户可通过 from_pretrained 直接加载 GGUF 模型在本地运行。
推荐理由：原文给出了 GGUF 支持的具体能力、加载方式和性能数据，读者可以据此判断它是否能满足自己的本地推理需求。
千问 Qwen
全部主题阿里千问 Qwen 系列的开源发布与迭代：从旗舰模型到端侧小模型的全谱系动态。
1条精选相关主题DeepSeekKimi / 月之暗面开源生态
最新精选
第 1–1 条 · 共 1 条Hugging Face Blog精选AI 评分6666