热点事件观察中
21M模型外挂6.4B查表可匹配114M稠密模型
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
2026年10月7日，Reddit r/LocalLLaMA 用户发布实验结果：作者在21M参数模型基础上外挂一张16.8M行、约6.4B参数的查找表，在500M token的Wikipedia语料上训练后，性能接近同等训练条件下的114M稠密模型。整套查找表体积可通过NVMe SSD承载，无需将全部参数加载到显存。该方案的核心思路是以小模型加外部查表的方式，逼近远大于其本身参数量的稠密模型表现，是近期scaling（查表）方向的一个具体案例。
AI 根据报道生成 · 2 天前更新
最新进展10月7日 00:57
21M模型外挂6.4B查找表，在500M Wikipedia token训练下性能追平114M稠密模型。报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- Reddit · r/LocalLLaMA21M 模型外挂 6.4B 参数查找表：性能追平 114M dense 模型，NVMe SSD 即可承载
作者在 21M 模型外挂一张 16.8M 行、6.4B 参数的查找表，在 500M Wikipedia token 训练下性能接近同条件下的 114M dense 模型。
本事件热度走势
当前热度 3·可比范围峰值 10（10月7日 02:00）·近 24 小时可比范围变化 -51%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。