Reddit · r/LocalLLaMA· /u/Sanbi_Ai·· 2 小时前AI 评分40
Kimi K3 三个月后回顾：模型过大几乎无法本地运行，小模型已迎头赶上
Kimi K3, three months after the hype: too big for almost anyone to run locally, and smaller models have already caught it
AI 导读
月之暗面（Moonshot）今年 7 月发布的 Kimi K3 全量模型高达 1.56 TB，即便有 104B 激活参数，2.8T 总量仍需全部加载。Unsloth 推荐的最小量化版本也需要约 610 GB RAM+VRAM，512 GB 无法装下；1-bit 量化与全量模型下一 token 一致率仅 79%，2-bit 才能到 90%。
来源：Reddit · r/LocalLLaMA · reddit.com