跳到正文
返回论文列表
cs.IR提交于 已译

ProSearch:实验科学中多约束协议检索基准

ProSearch: Benchmarking Multi-Constraint Protocol Retrieval in Experimental Science

Wenliang Liang · Zhiyuan Ning · Haolin Chen · Yuanchun Zhou · Wenjuan Cui · Yi Du

中文摘要

在AI for Science场景中,实验设计与方法复现需要检索满足多个相互依赖约束的实验协议,但现有基准缺乏对此能力的系统评估。为此,提出ProSearch——实验科学中多约束协议检索基准,具有三个关键特征:(1)真实性,查询基于真实实验记录与专家定义模板;(2)复杂性,涵盖60个实验领域及其依赖关系;(3)诊断性,每个查询含3-5个显式约束,包括数值约束与否定约束。通过基于LLM的抽取、数据驱动的约束选择、受控查询生成与基于证据的相关性验证构建ProSearch,最终包含跨六个实验科学领域的1,515个查询。在ProSearch上对19个代表性检索器进行广泛实验与补充分析,最佳检索器平均nDCG@10仅为0.290,经重排序后提升至0.474。结构化诊断分析表明显式约束匹配提供强排序信号,人工错误分析识别出联合约束绑定是关键瓶颈。ProSearch为系统评估科学检索系统提供测试平台。

关键要点

  1. 01现有基准缺乏对实验科学中多约束协议检索能力的系统评估,存在评测空白
  2. 02ProSearch含1,515个查询、覆盖60个实验领域,每查询含3-5个数值与否定约束
  3. 0319个检索器中最佳平均nDCG@10仅0.290,重排序后提升至0.474
  4. 04显式约束匹配是强排序信号,联合约束绑定是主要瓶颈

解读

尚无解读。

原始英文摘要

arXiv:2610.41396v1 Announce Type: cross Abstract: In AI for Science scenarios, experimental design and method reproduction require retrieving protocols that satisfy multiple interdependent constraints, yet existing benchmarks lack systematic evaluation of this capability. To address this gap, we introduce ProSearch, a benchmark for multi-constraint protocol retrieval in experimental science. ProSearch has three key features: (1) realism, with queries grounded in real experimental records and expert-defined templates; (2) complexity, with 60 experimental fields and their dependencies; and (3) diagnosticity, with 3-5 explicit constraints per query, including numerical and negation constraints. We construct ProSearch through LLM-based extraction, data-driven constraint selection, controlled query generation, and evidence-based relevance validation. The resulting benchmark contains 1,515 queries across six experimental science domains. We conduct extensive experiments on ProSearch with 19 representative retrievers and complementary analyses. The best-performing retriever achieves an average nDCG@10 of only 0.290, which improves to 0.474 with reranking. Structured diagnostic analysis shows that explicit constraint matching provides a strong ranking signal, while manual error analysis identifies joint constraint binding as a key bottleneck. ProSearch provides a testbed for systematically evaluating scientific retrieval systems.

同方向论文 · cs.IR

查看全部 →

反向发现 · 这篇论文相关的工具与提示词

去交叉发现 →

关联提示词 · 2

数据aws.amazon.com·外部收录·

为生成式BI描述数据表和业务语义,提高大模型生成准确SQL的效率

明确告知大模型字段类型、字段属于维度还是度量、关联键信息、维度枚举值的业务含义以及枚举值是否可穷举;使用数据库中的真实值替代问题中的条件,并正确应用指标过滤条件。例如,将“上海地区”映射为 shanghai,将“男装”映射为 IN ('boy shirt', 'boy shoes', 'boy pants', 'boy coat'),且销售金额仅统计 status = 'finished' 的已完成订单。

数据infoq.cn·外部收录·

根据业务问题、候选表列及选表规则,智能决策最合适的数据表。

LLM 角色和任务描述 Freewheel 广告业务介绍 术语黑话映射表: 包括了常见的黑话和通过 RAG 方式召回的部分 数据目录与仓库概述 候选表和列:也就是上一步召回的表和列,包括每个表的描述和选表逻辑 通用选表规则:应该遵守的规则,例如什么时候应该选择事实表或者维度表,什么时候应该选择多张表 选表样例:我们收集了多样化的问题并标注了最优选择的表,存储到选表样例向量数据库中,通过 RAG 的方式找到和用户提问相似的例子。