Reddit · r/LocalLLaMA· /u/Zipidyzip·· 3 小时前AI 评分42
开源桌面量化工作台:支持 GGUF、MLX、ONNX 转换与 Hugging Face 发布
End-to-End Desktop Quantization workspace for Large Language Models: Load local Safetensors or Huggingface, Step-by-Step guided Conversions to GGUF, MLX, and ONNX, and Visualize Model Changes and quick publishing to huggingface with full model card.
AI 导读
一款开源(Apache 2.0)的大语言模型桌面量化工作台发布,支持加载本地 Safetensors 或 Hugging Face 模型,逐步转换为 GGUF、MLX 和 ONNX,并可对比量化前后变化、生成模型卡发布到 Hugging Face。目前主要在 Apple Silicon 上测试,Windows 和 Linux 版本已存在但未深入测试,作者预期仍有 bug 并欢迎贡献者。
来源:Reddit · r/LocalLLaMA · reddit.com