跳到正文

论文解读

arXiv 论文中文摘要 + 关键要点 · 最近 30 天· 已显示 24 篇

cs.IR·已译

合并与分支:面向推荐的高效树结构 LLM 监督微调

Merge and Branch: Efficient Tree-Structured Supervised Fine-Tuning of LLMs for Recommendation

Yunqin Zhu · Yao Xie

基于 LLM 的生成式推荐需要读取长且文本丰富的交互历史,却只生成很短的语义标识符(SID)。这种不对称使监督微调效率低下:编码历史代价高昂,而每条历史通常只提供一个目标的监督信号。Merge and Branch(M&B)通过降低输入成本并让每条已编码历史提供更多学习信号来解决该问题。Merge 将每个历史条目的 SID 与文本压缩为少量可学习 token;Branch 则利用压缩后的历史预测多个目标 SID。为在共享历史计算的同时保持各目标独立,M&B 将每个样本组织为浅而宽的树结构,并开发 tree FlashAttention 高效执行该布局:共享历史只处理一次,所有分支的梯度均可回传以进行端到端训练。树结构 key/value 缓存进一步将历史共享扩展到受限解码。公开基准实验表明,M&B 在显著提升训练与解码效率的同时优于强推荐基线。

cs.IR·已译

LLM 推荐系统中位置偏差的统计检测:方法与实证证据

Statistical Detection of Positional Bias in LLM-Based Recommender Systems: Methodologies and Empirical Evidence

Carlos Pel\'aez-Gonz\'alez · Francisco Herrera · Andr\'es Herrera-Poyatos

大语言模型(LLM)通过检索增强生成(RAG)越来越多地被用作对话式推荐系统(RS)的推荐生成器,这种灵活设计引入了新的结构性偏差来源。本文研究 top-1 与单轮 LLM 推荐系统中的位置偏差:推荐项系统性地依赖于候选在提示中呈现的顺序。提出两种互补的检测方法:(i) POB-ICM,基于列联表分析与卡方独立性检验;(ii) POB-UNBP,一种从置换评估下的均匀性零模型导出的样本高效方法,支持带形式统计保证的随机解码。在基于真实产品目录、固定提示模板和 2000 条模板生成用户查询(每条 20 种排列,共 40,000 个实例)的受控 RAG 产品推荐测试台上,两种方法在所有评估的先进模型上均拒绝位置独立性与均匀性的零假设。引入三个互补指标——排列敏感性、位置偏差和强位置偏差——来量化该效应,后者针对位置将推荐推向明显更不相关项而非仅在可比相关项间选择的情形。跨候选集大小与解码温度的稳健性分析表明,该偏差是结构性的且依赖于模型,并非确定性解码或候选集大小的伪影。这些结果在所评估设定下将位置偏差确立为提示介导推荐流程的可测量、可复现属性,并推动对已部署 LLM 推荐系统进行常规审计与治理控制(如顺序随机化、标准化提示)。源代码已公开。

cs.IR·已译

超越相似度搜索:面向企业检索增强生成的知识图谱元数据增强

Beyond Similarity Search: Knowledge Graph Metadata Enrichment for Enterprise Retrieval-Augmented Generation

Fakabbir Amin

RAG 系统的一个关键挑战是从多个团队随时间创建的企业文档中检索信息,而这些信息无法用组织文档职责范围之外的最新信息和元数据来增强。研究知识图谱存储元数据和频繁变化的信息,是否比基于嵌入的相似度搜索更能改善知识检索。实验构建了 SEC EDGAR 数据集一个季度的快照,包含来自 10,511 家公司的 167,050 份文件和 508,714 个风险因素文本嵌入块。为模拟增强,构建了含 430,257 个节点和 561,144 条边的知识图谱,每条边携带 accession number。为评估基于图的设计带来的增益,比较了三种架构:基于类型化列的 text-to-SQL、使用 HNSW 余弦搜索的稠密向量 RAG,以及两阶段 GraphRAG 设计。所有架构共享相同模型和温度以便比较。结果由 LLM 作为评判者程序化评分,覆盖 20 个问题、分四类,每题问三次。GraphRAG 在三次尝试中均解决 20 题中的 16 题,text-to-SQL 为 10 题,向量 RAG 为 3 题。GraphRAG 在结构化聚合查询上失利。向量 RAG 在预期会赢的单文档类别上失利,15 题中仅通过 3 题,而 GraphRAG 通过 15 题,因为在此规模下公司归属无法从余弦相似度中恢复。基准中全部六个自信错误均为 text-to-SQL 混淆同姓的不同人物,而在读取任何文本前将身份解析为标识符可从结构上防止该失败;GraphRAG 未出现此类错误。作者声明优势不超出此语料、此模型和此问题集。

cs.IR·已译

DuQUAD:面向多文档问答的双视图框架,带质量感知证据剪枝

DuQUAD: A Dual-View Framework with Quality-Aware Evidence Pruning for Multi-Document Question Answering

Yeonjun Choi · Seyeon Jeong · Jong Wook Kim · 1+

具备检索增强生成能力的大语言模型在多文档上下文中会系统性地低估中间位置证据,这一现象被称为 Lost in the Middle。文档重排序与注意力引导等现有缓解策略能降低边界偏置,但在噪声场景下依然脆弱:不准确的相关性估计与虚假文档仍会掩盖中心位置的有用证据。DuQUAD 是一个多文档问答框架,通过双视图推理与质量感知证据剪枝缓解位置偏置。它结合由 Structural Fusion Score 引导的 Local Agent 与对全文档集推理的 Global Agent,兼顾定向证据恢复与全局上下文理解。框架进一步用显式质量评分过滤候选证据,并在句子级精炼以降低噪声。DuQUAD 稳定优于强 Lost-in-the-Middle 缓解基线,包括混合检索与重排序、多智能体推理和上下文优化方法,相较最强竞争基线平均提升准确率 3.0%,金标证据召回率提升 9.4%,同时相比现有多智能体框架大幅降低计算成本。

cs.IR·已译

使用有向无环图建模偏好依赖以支持叙事驱动推荐

Modeling Preference Dependencies with Directed Acyclic Graphs for Narrative-Driven Recommendation

Mingzhe Lu · Jian Qin · Ruize Qin · 3+

叙事驱动推荐允许用户通过自由文本表达多维需求,其中陈述的偏好自然相互限定和条件化。现有方法通常将叙事视为扁平的关键词组合或无约束的生成查询,未能捕捉复杂偏好如何层级化地细化和语境化彼此。提出偏好依赖图框架(PDG-F),一个以显式偏好依赖为核心的叙事驱动推荐框架。具体而言,PDG-A(PDG-Agent)首先解析非结构化请求,将用户偏好及其相互限定组织为有向无环偏好依赖图(PDG)。通过该图,利用有向路径检索从开放网络获取候选证据,并通过拓扑路径排序确定最终推荐。在涵盖英语和中文语境的三个不同领域的综合实验证实,PDG-F 在推荐性能上持续优于竞争性基线、开放域检索智能体和前沿语言模型。进一步的诊断分析表明,依赖引导的检索显著提高了可达到的候选池上限,证明了在叙事驱动推荐中建模偏好依赖的根本价值。

cs.IR·已译

矛盾下的覆盖率:面向否定感知检索的基准

Coverage Under Contradiction: A Benchmark for Negation-Aware Retrieval

Pasha Abrishamchian · Eugene Yang · Andrew Yates · 2+

现有覆盖率评估基准主要量化检索证据对信息需求的覆盖情况,但多基于预训练组件可能已知的陈述,未验证当语料库证据与检索器参数化知识(parametric knowledge)矛盾时的表现。本研究通过为基于信息单元(nugget)的基准添加受控矛盾来探索这一行为。具体方法是为每个信息单元创建否定对应项,并编辑支持文档以支持该否定同时保留上下文。将此过程应用于 CoverageBench,构建了涵盖六个数据集、约 63,000 个原始-编辑证据对的 CoverageBench-Negate。基准附带丰富的构建元数据、所有对的 LLM 判断及样本人工审计。基线实验显示,BM25 区分原始与编辑近亲证据的能力显著优于稠密检索器(Qwen3 和 Jina),后者表现接近随机水平。该基准及构建材料已在 Hugging Face Datasets 发布。

cs.IR·已译

PailitaoMMSearch2.0 技术报告:将生成式检索扩展至统一端到端多模态搜索

PailitaoMMSearch2.0 Technical Report: Scaling Generative Retrieval to Unified End-to-End Multimodal Search

Xiaohan Ye · Zihan Gong · Jingqian Zhao · 4+

生成式检索模型在搜索推荐系统中应用广泛,但工业界模型通常局限于特定在线场景,仅支持有限的查询形式。本研究旨在构建统一的端到端多模态搜索系统,以处理开放式图文查询及异构购物意图。PailitaoMMSearch 直接从原始查询图像和自由指令生成商品语义 ID,并在三个维度进行扩展。数据扩展利用可复用工具集,支持冷启动合成、质量控制及真实流量优化。意图扩展通过持续预训练(CPT)、混合预算监督微调(SFT)及统一强化学习(RL),赋予模型电商知识及可调推理预算。场景扩展通过模型容量和推理预算展示质量与成本的权衡点。该系统已部署于淘宝拍立淘,在线 A/B 测试显示商品浏览量提升 17.90%,交易量提升 27.04%,商品交易总额提升 8.94%。

cs.IR·已译

词表已就位:适配预训练可解释特征用于生成式推荐

The Vocabulary Is Already Here: Adapting Pretrained Interpretable Features for Generative Recommendation

Ziluowen Luo · Ruochen Liu · Jun Yin · 4+

生成式推荐通过语义 ID (SID) 预测下一物品。现有方法需将 SID 词表拟合至预训练语言模型 (PLM) 表征,导致额外训练成本且词表覆盖受限于拟合领域。研究发现,预训练稀疏自编码器暴露出具有人类可解释语义标注的 PLM 特征,其特征索引可作为可复用的 SID 词表。复用该词表需解决紧凑 token 预算下保持物品区分度、在共享主导特征时优先目标物品,以及将特征可解释性从内容扩展至检索决策等问题。为此,提出 API 框架,无需额外词表学习即可实现有效且可解释的生成式推荐。API 中的预训练可解释 ID (PID) 保留选定的特征索引及相对激活强度以区分物品。语义预测适配器 (SPA) 以 PID 为监督,通过联合预测特征索引与强度从交互历史中学习用户偏好,并结合两者对候选物品评分,利用物品级监督确保观测到的下一物品排名高于其他候选。API 还通过特征贡献及其预训练语义标注解释候选分数差异。实验表明,API 在不同骨干网络和解码方案下均具有竞争力,在紧凑 token 预算下保持物品区分度并实现可解释检索。

cs.IR·已译

QESChunker: 单一目标统一重叠与非重叠分块以优化 RAG

QESChunker: A Single Objective Unifies Overlapping and Non-Overlapping Chunking for RAG

Yifan Zhao · Qianyang Zhao · Xinyu Guan · 2+

分块是检索增强生成(RAG)的关键预处理步骤,但现有方法多依赖启发式规则。QESChunker 是首个基于问题-证据监督构建静态分块索引的方法。它通过优化人工标注或 LLM 生成的问题-证据对来构建文档特定索引,无需保留测试查询。该方法将重叠与非重叠索引构建统一为问题-证据效用最大化目标,将分块转化为监督组合优化问题。在非重叠约束下,目标函数可分解,通过动态规划在多项式时间内精确求解;允许重叠时,目标函数呈单调次模性,虽精确优化为 NP-hard,但贪心算法可实现 (1-1/√e) 近似。在两个自建和三个公开数据集上,两种变体在相同重叠机制和固定混合检索器下,几乎在所有评估场景中均优于现有分块方法的完整证据召回率。

cs.IR·已译

用于推荐解释的反事实画像扰动:一项可复现性研究

Counterfactual Profile Perturbations for Recommendation Explanations: A Reproducibility Study

Meysam Varasteh · Elizabeth McKinnie · Robin Burke

该可复现性研究探讨了名为 LXR 的反事实解释技术。先前工作表明,LXR 能可靠地识别出用户画像中的扰动,使原本排名最高的物品不再被推荐,从而解释推荐结果。本研究扩展了 LXR 的应用范围,发现其对非最高排名物品的解释同样有效。研究还评估了物品流行度和潜在因子相似度等替代基线,发现某些任务下这些基线表现优异。此外,分析显示 LXR 在解释低流行度物品时能提供更短、质量更高的扰动。最后,通过暴力搜索扰动空间子集,估算了最优扰动大小的下界,为 LXR 等方法的性能比较提供了基准。

cs.IR·已译

当连接性产生误导:利用对比证据路径引导智能体搜索

When Connectivity Misleads: Guiding Agentic Search with Contrastive Evidence Paths

Junchen Li · Liang Xu · Rongzheng Wang · 3+

搜索智能体利用跨文档图通过多跳连接发现来源,并基于观察窗口内的候选排名和关系选择后续动作。然而,文档可能因连接众多而排名靠前,却未提供更有价值的证据。Personalized PageRank (PPR) 等图扩散方法聚合多源传播贡献,导致高连接度的干扰节点占据观察窗口,且扁平节点分数掩盖了跨文档证据轨迹,限制了持续探索。对比证据路径 (CEP) 通过查询条件文档图上最强个体路径对候选进行评分,并针对该图的背景访问分布进行校准,以缓解结构偏差。基于 CEP 开发的结构化语料交互 (SCI) 将候选及其连接路径组织为结构化 Map,使智能体能够验证源文档并通过锚点文档扩展来追踪缺失信息。在 BrowseComp-Plus 和 TREC-COVID 上的实验表明,SCI 以最低的生成成本实现了最先进的答案准确率和 nDCG@10。与最强基线相比,工具调用和总生成成本的最大降幅分别超过 50% 和 40%。分析证实,SCI 结合 CEP 抑制了由结构连接引起的排名膨胀,并提高了黄金召回率和探索效率。

cs.IR·已译

面向 arXiv 超导文献的结构化抽取与检索增强问答领域感知流水线

A Domain-Aware Pipeline for Structured Extraction and Retrieval-Augmented Question Answering over arXiv Superconductivity Literature

Ivan Iorsh · Aleksandr Kapitonov · Ivan Filianin · 2+

材料物理学文献增长速度快于人工查阅速度,而多数检索工具依赖关键词匹配或忽略 PDF 领域结构的通用问答。该流水线将 arXiv 超导论文转换为带结构化元数据的可搜索语料库,并提供检索增强问答。系统结合主题语料构建、材料与超导转变温度领域感知抽取,以及融合稠密分块嵌入和结构化出版字段的混合检索。实验考察规范化领域属性能否提升证据检索与答案依据性。抽取基于含 59 种超导材料的人工核验黄金集,其中 46 种具有已确认的实验临界温度。在 33 种材料的主要正样本子集上,领域感知配对准确率为 45.5%,regex 基线为 9.1%。在固定语言模型 qwen2.5:7b-instruct 和 100 道问题基准上比较 BM25、稠密、混合及加入领域元数据的混合检索。BM25 的来源召回率最高,Recall@5 为 47%;抽取元数据未改善混合检索,结果为 39%,低于 41%,可能源于字段噪声。主要瓶颈是在正确检出的论文中定位支持性片段。另有 200 种材料同时出现在文献温度集与独立理论参考集中,其中 20 种的实验临界温度中位数高于理论值。

cs.IR·已译

新颖还是非新颖?PatEx-Gym:用于专利审查新颖性评估的智能体先验技术检索

Novel or Not? PatEx-Gym: Agentic Prior-Art Search for Novelty Assessment in Patent Examination

Qiyao Wang · Xinyi Chen · Hongbo Wang · 4+

专利审查要求智能体在异构科学与技术领域中寻找稀疏的现有技术、迭代修改查询、检查技术证据,并生成记录于审查意见通知书(Office Actions,OAs)中的新颖性评估,但现有基准多聚焦静态且有限的候选集,尚未充分覆盖完整的检索—推理—评估流程。PatEx-Gym 是首个面向专利审查智能体开发与评估的框架,集成三项组件:PatEx-Bench 提供 1K 项真实审查任务、两个分别含逾 1M 件专利和 52K 篇科学论文的大型检索语料库,以及支持迭代检索、文档访问、推理与 OA 生成的运行环境;无标注先验技术智能体检索轨迹合成框架 PASS 利用文档访问作为隐式相关性信号和证据获取锚点,刻画查询行为、检索推进及轨迹级证据与结果质量,生成 PatEx-SynData;在筛选轨迹上对 4B 规模的 PatEx-Agent 进行监督微调,建立轻量基线。实验显示,仅看最终决策准确率不足以完整反映审查质量,即使是强大的前沿模型也难以完成先验技术发现;该 4B 模型相较规模显著更大的通用智能体仍具竞争力,可作为先验技术检索与专利审查的紧凑基线。

cs.IR·已译

跨物品空间与代码空间的并行生成式推荐知识蒸馏

Knowledge Distillation across Item and Code Spaces for Parallel Generative Recommendation

Yixuan Xu · Hailin Liu · Linxiang Peng · 1+

基于语义 ID 的生成式推荐将每个物品表示为从语义表征导出的离散代码序列,并通过预测这些代码生成推荐。现有语义 ID 推荐器通常使用观测到的下一物品作为硬标签训练,但这种监督只确定目标,无法明确提供同一用户历史下候选物品的分布信息。序列推荐器可提供这种物品级预测知识,然而教师与学生分别工作在物品空间和代码空间,知识迁移面临困难。针对并行语义 ID 推荐器提出两项互补的蒸馏目标;该推荐器同时预测所有代码位置,不依赖自回归前缀。物品分布匹配(IDM)从学生的并行代码预测重建目录级物品分布,并与教师的物品分布对齐。代码边缘匹配(CMM)利用固定的物品到代码映射,将教师的物品概率投影到各代码位置,再将所得代码边缘分布与对应学生输出头匹配。两项目标均迁移教师的软分布知识,同时保留学生的并行预测结构。基准实验表明,两种方法持续优于现有先进方法;平均而言,IDM 将 Recall@10 提升 15.39%,CMM 将 NDCG@10 提升 8.28%。结果说明,在重建物品空间或代码边缘空间进行蒸馏,均可显著增强并行生成式推荐的硬标签监督。

cs.IR·已译

面向短期建筑负荷预测的模型无关校正框架

A Model-Agnostic Correction Framework for Short-Term Building Load Forecasting

Shiqiao Zhou · Huanbo Lyu · Holger Sch\"oner · 4+

短期建筑负荷预测仍具挑战性,因为负荷模式会随天气和运行条件快速变化。当当前运行状态在训练数据中稀少或覆盖不足时,数据驱动预测模型的可靠性可能下降,即便历史记录中存在相似情形。检索增强时间序列预测的进展,为在推理时直接复用相关历史案例、适应条件变化提供了思路。据此提出模型无关的天气—负荷检索增强校正框架 WeL-RAC,在预测时显式检索历史证据。WeL-RAC 根据近期负荷状态和与预测时段对齐的天气预报,检索与当前条件相似的历史案例;随后聚合这些案例的实际未来负荷轨迹,用于校正初始预测,无需重训练或修改基础预测器。实验覆盖三个数据集的 31 个建筑案例、8 种预测骨干网络,以及 1 至 18 小时共 4 种预测时距。在 96 组数据集层面的比较中,该框架改进了其中 90 组对应基础预测器的结果。除准确性外,成功与失败案例研究还通过追踪检索到的历史证据如何改善或削弱预测,进一步展示了框架的可解释性。

cs.IR·已译

PAIR:面向 LinkedIn 高端人脉推荐的偏好对齐意图检索

PAIR: Preference-Aligned Intent Retrieval for Premium People Recommendation at LinkedIn

Zhongkai Shangguan · Yanbin Kang · Yihan Cao · 4+

基于档案相似度训练的通用嵌入常会错误排序职业网络候选人,因为其中的相关性本质上具有互补性而非对称性。例如,求职者通常会与招聘者互动,而不是与资历相近的同行。当前用户推荐系统多依赖档案相似度或共同联系人等社交信号,这些方法适用于以相似用户或既有社交圈为中心的社交网络,却难以应对 LinkedIn 等以目标为导向、强调跨角色互动的职业平台,后者需要依据互补意图,而非相似度或社交距离进行匹配。PAIR 是一种对用户意图偏好而非档案相似度建模的检索框架,借鉴 Direct Preference Optimization 的偏好学习思路,将偏好学习设为嵌入上的曝光条件多负样本对比目标。该形式无需显式参考模型,能够简化训练并高效扩展至大规模候选集。系统还聚合点击历史并进行位置编码,以捕捉时间顺序;在固定历史窗口内,可通过固定成本更新用户表示,无需重新编码历史或重复调用 LLM,即可纳入新互动并高效更新个性化结果。在 LinkedIn Premium 检索任务上,0.6B 参数模型的 MAR@100 达到 0.45。

cs.IR·已译

融合税:混合检索何时造成损害的诊断分析

The Fusion Tax: A Diagnostic Analysis of When Hybrid Retrieval Hurts

Aaditya Chauhan · Arun Agarwal

混合检索将稀疏词法检索器与稠密神经检索器结合;2026 年 9 月调查的软件文档普遍基于总体收益推荐这种方法,并通常采用倒数排名融合(RRF)。分析在标准 Anserini BM25、5 个覆盖 22M–596M 参数及三代模型的稠密编码器、SPLADE 学习稀疏方案、cross-encoder 二阶段及 7 个 BEIR 数据集上比较 3 种融合函数,并将“不融合”视为独立结果。即便最佳的稠密加权分数插值,在 13%–48% 的查询中将相关文档排在两个组成方法中较差者之后,在 8%–21% 的查询中落后于可部署的纯稠密检索器;采用跨语料库留一验证选择权重后,对应为 14%–48% 和 11%–25%。不过,使用主编码器时,其在所有语料库的总体表现均优于纯稠密检索;风险敏感评估显示,7 个语料库中有 6 个存在显著下行风险。此损失被称为融合税,主要影响排序但总体保持召回率,常发生于仅一个检索器覆盖的查询,并持续存在于不同编码器和 SPLADE 替代方案中。RRF 在稠密检索器明显更强时税负更高,仅在两个组成方法实力接近时超过纯稠密检索。语料库内部可 weakly 预测融合失败,但跨语料库迁移不可靠,因为预测特征会随稀疏—稠密平衡改变符号。cross-encoder 仅在其自身可靠时能挽回部分损失。

cs.IR·已译

IRAH:面向检索流程优化的分层智能体树搜索

IRAH: Hierarchical Agentic Tree Search for Retrieval Pipeline Optimization

Maria Ana Cardei · Aniket Singh · Amir Moghadam · 2+

为检索增强生成(RAG)优化信息检索(IR)流程,需要在有限评估预算下联合选择结构组件与数值超参数。信息检索智能体测试框架(IRAH)将IR语言智能体树搜索(LATS-IR)与离线元学习初始化结合。LATS-IR执行UCT引导的分层搜索,先探索宏观流程结构,再细化数值参数,并通过自然语言反思指导后续变更,提供可检查的搜索轨迹。IRAH在三个同分布基准和一个分布外基准上评估,以考察分布偏移下的泛化能力。在相同元学习初始化下,LATS-IR在三个同分布基准中的两个上优于TPE,最高提升6.4%,并在分布外基准上保持竞争力。四个基准上,热启动IRAH取得最高平均留出nDCG@10(0.4816),且优于冷启动版本。结果表明,IRAH是在受限评估预算下优化检索流程的一种有竞争力的方法。

cs.IR·已译

在关键处深入思考:面向序列推荐的条目级自适应递归

Think Harder Where It Matters: Item-Level Adaptive Recursion for Sequential Recommendation

Zhanshuo Cao · Jiakai Tang · Yuqi Zhou · 2+

现有序列推荐器通常对用户交互历史中的每个条目分配固定计算预算,无论该条目对最终预测的贡献大小。两项诊断发现对此提出质疑:同一序列中的条目计算需求并不均匀,多数条目在浅层处理后即可收敛,少数关键条目则要到完整深度才稳定;在可访问目标条目的oracle条件下,非统一深度分配始终优于固定分配,说明统一计算既浪费已收敛条目的算力,也损害整体推荐质量。为此提出LoopRec:递归应用同一个权重共享模块,并在每次递归边界加入轻量门控,为每个条目独立决定退出或继续。表征成熟的条目提前退出,需要更深推理的条目进入后续递归。该设计无需辅助深度标签,即可将固定全局深度转为学习得到的条目级属性,并适配多种骨干架构。四个模型家族在公开benchmark上的大量实验表明,LoopRec持续优于计算量匹配的固定深度方法。学习到的分配还呈现可解释模式:低频条目和较新的交互自然获得更深计算。代码见https://github.com/Elpmis117/LoopRec。

cs.IR·已译

pplx-embed-v2-late 技术报告

pplx-embed-v2-late Technical Report

Markus Krimmel · Louis Milliken · Ekaterina Glazkova · 4+

该报告介绍了 pplx-embed-v2-late:一对参数规模为 0.6B 和 9B 的多语言(multilingual)、多模态(multimodal)晚交互(late-interaction)模型。两者分别在对应规模级别中,于文本、图像和视觉文档检索基准上取得最先进结果。在视觉文档检索任务中,pplx-embed-v2-late-0.6b 的表现可与参数量高出数倍的模型竞争。模型通过从 18B 教师模型进行表示蒸馏训练,共享同一嵌入空间,支持非对称部署:文档可由 9B 模型建立索引,再由低延迟的 0.6B 模型处理查询。两种模型均已发布。

cs.IR·已译

超越投票:LLM 何时能为基于检索的表格分类增益?

Beyond the Vote: When Do LLMs Add Value to Retrieval-Based Tabular Classification?

Ziquan Wang · Yuxuan Nie · Jian Ma · 1+

基于检索的上下文学习(ICL)使大型语言模型(LLM)能够依据相似示例预测表格标签,但其推理效果是否优于直接投票仍不明确。研究在19个表格分类数据集上,使用相同检索邻居,比较4个通用LLM与距离加权近邻投票(Distance-KNN)。固定示例数量时,增大检索候选池可提高所有预测器的准确率,但各候选池规模下Distance-KNN的平均准确率最高。进一步分析显示,LLM增益主要集中于检索邻居标签一致性较低的场景,且因模型而异。增益还取决于测试查询到示例的平均特征空间距离:标签一致性较低时,部分LLM在较近及中等距离邻域超过Distance-KNN,但在最远组中均落后。对示例数量、提示词形式、检索表示和标签平衡示例选择的补充实验,大体保持上述结论。

cs.IR·已译

偏好并非授权:智能体商务中自动购买边界的个性化

Preference Is Not Permission: Personalizing the Auto-Purchase Line in Agentic Commerce

Ryotaro Shimizu · Sai HtaungKham · Mo Fan

个性化购物基准通常询问哪件商品适合用户;该研究转而考察智能体可在多大程度上代为承诺购买,并将学习个人自动购买边界设为任务。该边界受证据约束且包含三档结果:是否适合承诺,取决于商品信息充分性(warrant)、可逆性、价格相对用户规范的偏离程度及紧迫性,而非仅看商品适配度;输出为不购买、先确认或自动购买。在16个指令微调模型中,即便适配度较低且模型自身证据标记表明依据缺失,模型仍会自主承诺购买,偏离由15名标注者组成的人类授权参照。这属于越权。边界因人而异:标注者之间存在分歧,但这种分歧具有结构,并可依据个人其他标签部分预测。仅用个人几十个标签训练的浅层学习器,在30—40个标签时预测留出自动购买边界的中位数为0.79,优于评估的全部 prompt×model 配置,甚至超过在80种配置上逐标注者选取的最佳结果;学习到的边界无法跨领域迁移。论文接受后将发布反事实基准、人类授权参照与标注协议。

cs.IR·已译

推理-搜索增强 LLM:操作型分类法、基准分析与受控证据综合

Reasoning-Search-Augmented LLMs: An Operational Taxonomy, Benchmark Analysis and Controlled Evidence Synthesis

Biswas Poudel · Nilson Chapagain · Amit Kumar · 1+

大型语言模型(LLM)展现出突出的涌现式推理能力,但仍受固定模型参数和有限上下文窗口约束。即使加入静态检索,模型也可能生成缺乏检索证据支持、甚至与其矛盾的陈述,从而导致幻觉、难以纳入最新信息,以及无法正确解释或协调不同来源。近期研究将逐步推理与交互式搜索紧密耦合,把检索视为迭代智能体循环中的动作,而非一次性预处理步骤。该研究梳理此类推理-搜索循环框架,重点考察规划、查询、检索、整合、验证和停止之间的交错过程,并从检索耦合、控制器设计、知识来源和依据严格性四个架构维度分析这些系统。学习信号作为横跨各维度的独立因素讨论,因为提示、监督、偏好优化和强化学习即使实例化相同架构,也可能产生显著不同的搜索、停止与依据行为。研究还区分基准难度和 RSA 循环需求,综合各研究内部的受控消融实验及质量-成本差异,避免跨异构模型骨干、检索器、语料库和评测协议进行无效汇总,旨在厘清推理-搜索增强 LLM 的整体图景,并提出统一视角来理解影响未来研究的设计选择。

cs.IR·已译

TAGR:面向异构城市配送任务的任务自适应地理语义检索

TAGR: Task-Adaptive Geo-Semantic Retrieval across Heterogeneous Urban Delivery Tasks

Zhi Liu · Yurun Cai · Xiao Han · 4+

城市居民对高品质即时配送的需求,使需求预测、预计到达时间预测和下一站预测成为城市配送系统的关键任务。然而,三类任务依赖结构与粒度差异显著的历史证据,预测目标的输出形式也不同,单一融合机制难以整合检索证据,容易造成不匹配或负迁移,进而增大预测误差、资源配置失衡和整体效率及服务质量下降。为此,TAGR构建基于LLM的地理语义共享先验与任务特定检索库,在共享区域知识的同时保留异构任务证据。由LLM生成的区域表示编码地理上下文及区域间语义关系,可向三类任务迁移知识,且无需在线LLM推理;任务自适应检索增强模块则适配不同输出结构,缓解统一检索融合策略造成的信息不匹配与负迁移。在三个城市数据集上的实验表明,TAGR在多项任务中持续优于最先进基线。

已出中文摘要 24