Hugging Face Blog·· 2026-07-23精选AI 评分78
Hugging Face Diffusers 原生支持 Nunchaku 4-bit 扩散模型推理
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 导读
Nunchaku 4-bit 扩散模型推理引擎现已原生集成到 Diffusers，支持通过 from_pretrained() 直接加载预量化模型，无需本地 CUDA 编译。
推荐理由
原文给出了 Nunchaku Lite 的性能数据、实现方式和可用入口，读者可以据此判断这个量化推理方案是否适合自己的场景。
来源：Hugging Face Blog · huggingface.co