论文解读

Yunqin Zhu · Yao Xie

基于 LLM 的生成式推荐需要读取长且文本丰富的交互历史，却只生成很短的语义标识符（SID）。这种不对称使监督微调效率低下：编码历史代价高昂，而每条历史通常只提供一个目标的监督信号。Merge and Branch（M&B）通过降低输入成本并让每条已编码历史提供更多学习信号来解决该问题。Merge 将每个历史条目的 SID 与文本压缩为少量可学习 token；Branch 则利用压缩后的历史预测多个目标 SID。为在共享历史计算的同时保持各目标独立，M&B 将每个样本组织为浅而宽的树结构，并开发 tree FlashAttention 高效执行该布局：共享历史只处理一次，所有分支的梯度均可回传以进行端到端训练。树结构 key/value 缓存进一步将历史共享扩展到受限解码。公开基准实验表明，M&B 在显著提升训练与解码效率的同时优于强推荐基线。

Carlos Pel\'aez-Gonz\'alez · Francisco Herrera · Andr\'es Herrera-Poyatos

大语言模型（LLM）通过检索增强生成（RAG）越来越多地被用作对话式推荐系统（RS）的推荐生成器，这种灵活设计引入了新的结构性偏差来源。本文研究 top-1 与单轮 LLM 推荐系统中的位置偏差：推荐项系统性地依赖于候选在提示中呈现的顺序。提出两种互补的检测方法：(i) POB-ICM，基于列联表分析与卡方独立性检验；(ii) POB-UNBP，一种从置换评估下的均匀性零模型导出的样本高效方法，支持带形式统计保证的随机解码。在基于真实产品目录、固定提示模板和 2000 条模板生成用户查询（每条 20 种排列，共 40,000 个实例）的受控 RAG 产品推荐测试台上，两种方法在所有评估的先进模型上均拒绝位置独立性与均匀性的零假设。引入三个互补指标——排列敏感性、位置偏差和强位置偏差——来量化该效应，后者针对位置将推荐推向明显更不相关项而非仅在可比相关项间选择的情形。跨候选集大小与解码温度的稳健性分析表明，该偏差是结构性的且依赖于模型，并非确定性解码或候选集大小的伪影。这些结果在所评估设定下将位置偏差确立为提示介导推荐流程的可测量、可复现属性，并推动对已部署 LLM 推荐系统进行常规审计与治理控制（如顺序随机化、标准化提示）。源代码已公开。

Fakabbir Amin

RAG 系统的一个关键挑战是从多个团队随时间创建的企业文档中检索信息，而这些信息无法用组织文档职责范围之外的最新信息和元数据来增强。研究知识图谱存储元数据和频繁变化的信息，是否比基于嵌入的相似度搜索更能改善知识检索。实验构建了 SEC EDGAR 数据集一个季度的快照，包含来自 10,511 家公司的 167,050 份文件和 508,714 个风险因素文本嵌入块。为模拟增强，构建了含 430,257 个节点和 561,144 条边的知识图谱，每条边携带 accession number。为评估基于图的设计带来的增益，比较了三种架构：基于类型化列的 text-to-SQL、使用 HNSW 余弦搜索的稠密向量 RAG，以及两阶段 GraphRAG 设计。所有架构共享相同模型和温度以便比较。结果由 LLM 作为评判者程序化评分，覆盖 20 个问题、分四类，每题问三次。GraphRAG 在三次尝试中均解决 20 题中的 16 题，text-to-SQL 为 10 题，向量 RAG 为 3 题。GraphRAG 在结构化聚合查询上失利。向量 RAG 在预期会赢的单文档类别上失利，15 题中仅通过 3 题，而 GraphRAG 通过 15 题，因为在此规模下公司归属无法从余弦相似度中恢复。基准中全部六个自信错误均为 text-to-SQL 混淆同姓的不同人物，而在读取任何文本前将身份解析为标识符可从结构上防止该失败；GraphRAG 未出现此类错误。作者声明优势不超出此语料、此模型和此问题集。

Yeonjun Choi · Seyeon Jeong · Jong Wook Kim · 1+

具备检索增强生成能力的大语言模型在多文档上下文中会系统性地低估中间位置证据，这一现象被称为 Lost in the Middle。文档重排序与注意力引导等现有缓解策略能降低边界偏置，但在噪声场景下依然脆弱：不准确的相关性估计与虚假文档仍会掩盖中心位置的有用证据。DuQUAD 是一个多文档问答框架，通过双视图推理与质量感知证据剪枝缓解位置偏置。它结合由 Structural Fusion Score 引导的 Local Agent 与对全文档集推理的 Global Agent，兼顾定向证据恢复与全局上下文理解。框架进一步用显式质量评分过滤候选证据，并在句子级精炼以降低噪声。DuQUAD 稳定优于强 Lost-in-the-Middle 缓解基线，包括混合检索与重排序、多智能体推理和上下文优化方法，相较最强竞争基线平均提升准确率 3.0%，金标证据召回率提升 9.4%，同时相比现有多智能体框架大幅降低计算成本。

Mingzhe Lu · Jian Qin · Ruize Qin · 3+

叙事驱动推荐允许用户通过自由文本表达多维需求，其中陈述的偏好自然相互限定和条件化。现有方法通常将叙事视为扁平的关键词组合或无约束的生成查询，未能捕捉复杂偏好如何层级化地细化和语境化彼此。提出偏好依赖图框架（PDG-F），一个以显式偏好依赖为核心的叙事驱动推荐框架。具体而言，PDG-A（PDG-Agent）首先解析非结构化请求，将用户偏好及其相互限定组织为有向无环偏好依赖图（PDG）。通过该图，利用有向路径检索从开放网络获取候选证据，并通过拓扑路径排序确定最终推荐。在涵盖英语和中文语境的三个不同领域的综合实验证实，PDG-F 在推荐性能上持续优于竞争性基线、开放域检索智能体和前沿语言模型。进一步的诊断分析表明，依赖引导的检索显著提高了可达到的候选池上限，证明了在叙事驱动推荐中建模偏好依赖的根本价值。

Pasha Abrishamchian · Eugene Yang · Andrew Yates · 2+

现有覆盖率评估基准主要量化检索证据对信息需求的覆盖情况，但多基于预训练组件可能已知的陈述，未验证当语料库证据与检索器参数化知识（parametric knowledge）矛盾时的表现。本研究通过为基于信息单元（nugget）的基准添加受控矛盾来探索这一行为。具体方法是为每个信息单元创建否定对应项，并编辑支持文档以支持该否定同时保留上下文。将此过程应用于 CoverageBench，构建了涵盖六个数据集、约 63,000 个原始-编辑证据对的 CoverageBench-Negate。基准附带丰富的构建元数据、所有对的 LLM 判断及样本人工审计。基线实验显示，BM25 区分原始与编辑近亲证据的能力显著优于稠密检索器（Qwen3 和 Jina），后者表现接近随机水平。该基准及构建材料已在 Hugging Face Datasets 发布。

Xiaohan Ye · Zihan Gong · Jingqian Zhao · 4+

生成式检索模型在搜索推荐系统中应用广泛，但工业界模型通常局限于特定在线场景，仅支持有限的查询形式。本研究旨在构建统一的端到端多模态搜索系统，以处理开放式图文查询及异构购物意图。PailitaoMMSearch 直接从原始查询图像和自由指令生成商品语义 ID，并在三个维度进行扩展。数据扩展利用可复用工具集，支持冷启动合成、质量控制及真实流量优化。意图扩展通过持续预训练（CPT）、混合预算监督微调（SFT）及统一强化学习（RL），赋予模型电商知识及可调推理预算。场景扩展通过模型容量和推理预算展示质量与成本的权衡点。该系统已部署于淘宝拍立淘，在线 A/B 测试显示商品浏览量提升 17.90%，交易量提升 27.04%，商品交易总额提升 8.94%。

Ziluowen Luo · Ruochen Liu · Jun Yin · 4+

生成式推荐通过语义 ID (SID) 预测下一物品。现有方法需将 SID 词表拟合至预训练语言模型 (PLM) 表征，导致额外训练成本且词表覆盖受限于拟合领域。研究发现，预训练稀疏自编码器暴露出具有人类可解释语义标注的 PLM 特征，其特征索引可作为可复用的 SID 词表。复用该词表需解决紧凑 token 预算下保持物品区分度、在共享主导特征时优先目标物品，以及将特征可解释性从内容扩展至检索决策等问题。为此，提出 API 框架，无需额外词表学习即可实现有效且可解释的生成式推荐。API 中的预训练可解释 ID (PID) 保留选定的特征索引及相对激活强度以区分物品。语义预测适配器 (SPA) 以 PID 为监督，通过联合预测特征索引与强度从交互历史中学习用户偏好，并结合两者对候选物品评分，利用物品级监督确保观测到的下一物品排名高于其他候选。API 还通过特征贡献及其预训练语义标注解释候选分数差异。实验表明，API 在不同骨干网络和解码方案下均具有竞争力，在紧凑 token 预算下保持物品区分度并实现可解释检索。

Yifan Zhao · Qianyang Zhao · Xinyu Guan · 2+

分块是检索增强生成（RAG）的关键预处理步骤，但现有方法多依赖启发式规则。QESChunker 是首个基于问题-证据监督构建静态分块索引的方法。它通过优化人工标注或 LLM 生成的问题-证据对来构建文档特定索引，无需保留测试查询。该方法将重叠与非重叠索引构建统一为问题-证据效用最大化目标，将分块转化为监督组合优化问题。在非重叠约束下，目标函数可分解，通过动态规划在多项式时间内精确求解；允许重叠时，目标函数呈单调次模性，虽精确优化为 NP-hard，但贪心算法可实现 (1-1/√e) 近似。在两个自建和三个公开数据集上，两种变体在相同重叠机制和固定混合检索器下，几乎在所有评估场景中均优于现有分块方法的完整证据召回率。

Meysam Varasteh · Elizabeth McKinnie · Robin Burke

该可复现性研究探讨了名为 LXR 的反事实解释技术。先前工作表明，LXR 能可靠地识别出用户画像中的扰动，使原本排名最高的物品不再被推荐，从而解释推荐结果。本研究扩展了 LXR 的应用范围，发现其对非最高排名物品的解释同样有效。研究还评估了物品流行度和潜在因子相似度等替代基线，发现某些任务下这些基线表现优异。此外，分析显示 LXR 在解释低流行度物品时能提供更短、质量更高的扰动。最后，通过暴力搜索扰动空间子集，估算了最优扰动大小的下界，为 LXR 等方法的性能比较提供了基准。

Junchen Li · Liang Xu · Rongzheng Wang · 3+

搜索智能体利用跨文档图通过多跳连接发现来源，并基于观察窗口内的候选排名和关系选择后续动作。然而，文档可能因连接众多而排名靠前，却未提供更有价值的证据。Personalized PageRank (PPR) 等图扩散方法聚合多源传播贡献，导致高连接度的干扰节点占据观察窗口，且扁平节点分数掩盖了跨文档证据轨迹，限制了持续探索。对比证据路径 (CEP) 通过查询条件文档图上最强个体路径对候选进行评分，并针对该图的背景访问分布进行校准，以缓解结构偏差。基于 CEP 开发的结构化语料交互 (SCI) 将候选及其连接路径组织为结构化 Map，使智能体能够验证源文档并通过锚点文档扩展来追踪缺失信息。在 BrowseComp-Plus 和 TREC-COVID 上的实验表明，SCI 以最低的生成成本实现了最先进的答案准确率和 nDCG@10。与最强基线相比，工具调用和总生成成本的最大降幅分别超过 50% 和 40%。分析证实，SCI 结合 CEP 抑制了由结构连接引起的排名膨胀，并提高了黄金召回率和探索效率。

Ivan Iorsh · Aleksandr Kapitonov · Ivan Filianin · 2+

材料物理学文献增长速度快于人工查阅速度，而多数检索工具依赖关键词匹配或忽略 PDF 领域结构的通用问答。该流水线将 arXiv 超导论文转换为带结构化元数据的可搜索语料库，并提供检索增强问答。系统结合主题语料构建、材料与超导转变温度领域感知抽取，以及融合稠密分块嵌入和结构化出版字段的混合检索。实验考察规范化领域属性能否提升证据检索与答案依据性。抽取基于含 59 种超导材料的人工核验黄金集，其中 46 种具有已确认的实验临界温度。在 33 种材料的主要正样本子集上，领域感知配对准确率为 45.5%，regex 基线为 9.1%。在固定语言模型 qwen2.5:7b-instruct 和 100 道问题基准上比较 BM25、稠密、混合及加入领域元数据的混合检索。BM25 的来源召回率最高，Recall@5 为 47%；抽取元数据未改善混合检索，结果为 39%，低于 41%，可能源于字段噪声。主要瓶颈是在正确检出的论文中定位支持性片段。另有 200 种材料同时出现在文献温度集与独立理论参考集中，其中 20 种的实验临界温度中位数高于理论值。

Qiyao Wang · Xinyi Chen · Hongbo Wang · 4+

专利审查要求智能体在异构科学与技术领域中寻找稀疏的现有技术、迭代修改查询、检查技术证据，并生成记录于审查意见通知书（Office Actions，OAs）中的新颖性评估，但现有基准多聚焦静态且有限的候选集，尚未充分覆盖完整的检索—推理—评估流程。PatEx-Gym 是首个面向专利审查智能体开发与评估的框架，集成三项组件：PatEx-Bench 提供 1K 项真实审查任务、两个分别含逾 1M 件专利和 52K 篇科学论文的大型检索语料库，以及支持迭代检索、文档访问、推理与 OA 生成的运行环境；无标注先验技术智能体检索轨迹合成框架 PASS 利用文档访问作为隐式相关性信号和证据获取锚点，刻画查询行为、检索推进及轨迹级证据与结果质量，生成 PatEx-SynData；在筛选轨迹上对 4B 规模的 PatEx-Agent 进行监督微调，建立轻量基线。实验显示，仅看最终决策准确率不足以完整反映审查质量，即使是强大的前沿模型也难以完成先验技术发现；该 4B 模型相较规模显著更大的通用智能体仍具竞争力，可作为先验技术检索与专利审查的紧凑基线。

Yixuan Xu · Hailin Liu · Linxiang Peng · 1+

基于语义 ID 的生成式推荐将每个物品表示为从语义表征导出的离散代码序列，并通过预测这些代码生成推荐。现有语义 ID 推荐器通常使用观测到的下一物品作为硬标签训练，但这种监督只确定目标，无法明确提供同一用户历史下候选物品的分布信息。序列推荐器可提供这种物品级预测知识，然而教师与学生分别工作在物品空间和代码空间，知识迁移面临困难。针对并行语义 ID 推荐器提出两项互补的蒸馏目标；该推荐器同时预测所有代码位置，不依赖自回归前缀。物品分布匹配(IDM)从学生的并行代码预测重建目录级物品分布，并与教师的物品分布对齐。代码边缘匹配(CMM)利用固定的物品到代码映射，将教师的物品概率投影到各代码位置，再将所得代码边缘分布与对应学生输出头匹配。两项目标均迁移教师的软分布知识，同时保留学生的并行预测结构。基准实验表明，两种方法持续优于现有先进方法；平均而言，IDM 将 Recall@10 提升 15.39%，CMM 将 NDCG@10 提升 8.28%。结果说明，在重建物品空间或代码边缘空间进行蒸馏，均可显著增强并行生成式推荐的硬标签监督。

Shiqiao Zhou · Huanbo Lyu · Holger Sch\"oner · 4+

短期建筑负荷预测仍具挑战性，因为负荷模式会随天气和运行条件快速变化。当当前运行状态在训练数据中稀少或覆盖不足时，数据驱动预测模型的可靠性可能下降，即便历史记录中存在相似情形。检索增强时间序列预测的进展，为在推理时直接复用相关历史案例、适应条件变化提供了思路。据此提出模型无关的天气—负荷检索增强校正框架 WeL-RAC，在预测时显式检索历史证据。WeL-RAC 根据近期负荷状态和与预测时段对齐的天气预报，检索与当前条件相似的历史案例；随后聚合这些案例的实际未来负荷轨迹，用于校正初始预测，无需重训练或修改基础预测器。实验覆盖三个数据集的 31 个建筑案例、8 种预测骨干网络，以及 1 至 18 小时共 4 种预测时距。在 96 组数据集层面的比较中，该框架改进了其中 90 组对应基础预测器的结果。除准确性外，成功与失败案例研究还通过追踪检索到的历史证据如何改善或削弱预测，进一步展示了框架的可解释性。