Reddit · r/LocalLLaMA· /u/Illustrious_Row_9971·· 1 天前AI 评分52
NVIDIA 新 30B 语音 LLM 经剪枝从 67.5GB 压缩到 10GB，无需重训练
pruned NVIDIA's new 30B speech LLM from 67.5GB to 10GB with zero retraining, it still transcribes at 5.16% WER (teacher: 4.12%)
AI 导读
有用户将 NVIDIA 新发布的 30B 语音 LLM 从 67.5GB 剪枝压缩到 10GB，且未做任何重训练。压缩后模型转写 WER 为 5.16%，原模型为 4.12%。
来源：Reddit · r/LocalLLaMA · reddit.com