Reddit · r/MachineLearning· /u/Prestigious-Tip6030·· 4 小时前AI 评分31
LLM 记忆是否真正需要学会遗忘与更新?
Are we solving LLM memory by remembering more, when the real problem is knowing what to forget?[D]
AI 导读
长上下文与 RAG 虽能保留新旧信息,却可能让模型在冲突证据中继续采用过时结论。Transformer、DeltaNet、BDH(Dragon Hatchling)等记忆架构尝试通过状态更新或突触可塑性解决更新问题,但何时保留、覆盖及避免破坏无关记忆仍待明确。
来源:Reddit · r/MachineLearning · reddit.com