热点事件观察中
用 FFT 替换 AdamW 优化器状态以削减 VRAM：非量化显存压缩方法的社区探索
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
2026 年 10 月 6 日，Spectra-Global 团队在 Reddit r/LocalLLaMA 社区分享了一项针对消费级显卡显存不足（OOM）问题的微调方案。该方案针对 8B 与 70B 模型在微调过程中面临的 VRAM 压力，没有采用常见的 8-bit 量化路线，而是选择将 AdamW 优化器状态通过快速傅里叶变换（FFT）转换到频域，在频域中动态丢弃低能量频率分量并进行压缩，再逆向重建回原空间使用。据其报告，这一方法使 VRAM 用量下降约 50%，同时规避了量化带来的收敛退化问题；代价则是 FFT 计算导致单步训练延迟略有增加。这是该项目目前已知的最早且唯一一次公开报道，相关细节及性能数据均来自该单一来源。
AI 根据报道生成 · 2 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月6日
- Reddit · r/LocalLLaMA用 FFT 替换 AdamW 优化器状态以削减 VRAM：非量化显存压缩方法的社区探索
Spectra-Global 团队针对 8B 与 70B 模型在消费级 GPU 上微调时的 OOM 问题，放弃 8-bit 量化方案，转而将 AdamW 优化器状态通过 FFT 变换到频域处理：动态丢弃低能量频率并压缩后逆向重建，VRAM 用量下降约 50%，避免量化带来的收敛退化；代价是 FFT 计算带来单步延迟略增。
本事件热度走势
当前热度 3·可比范围峰值 10（10月6日 05:00）·近 24 小时可比范围变化 -49%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。