Reddit · r/LocalLLaMA· /u/Public_Umpire_1099·· 4 小时前AI 评分42
RidgeFill：无需训练的上层缓存填充，加速 LLM 预填充
[Paper] RidgeFill: Training-Free Late-Layer Cache Fill for Faster Prefill
AI 导读
RidgeFill 提出一种免训练方法，跳过模型上层大部分计算以缩短预填充：下层精确计算至分割层，再用闭式拟合的岭回归预测后续各层输入并写入 KV cache。
来源：Reddit · r/LocalLLaMA · reddit.com