跳到正文
返回论文列表
cs.CL提交于 已译

算子包、提议器强度与办公规模验证搜索中的构造族平台期

Operator Packages, Proposer Strength, and Construction-Family Plateaus in Office-Scale Verified Search

Roberto I. Ono Filho

中文摘要

验证搜索(verified search)由语言模型提议程序、严格评估器评分,并筛选最佳候选,近期已刷新数学纪录,但对提议器侧组件的受控消融仍较少。研究在办公规模下测试最小化 FunSearch 风格循环:本地运行 30B 模型,每次收集 120–600 个验证样本,并配置三类算子包,即由模型编写并携带的符号化笔记、具名障碍,以及对既有构造的行为排斥。在公共代码库的 9 个构造问题上,采用两次重复的完整 2^3 因子设计;名义两阶段分析支持主要对比:完整组合缩小种子与纪录间差距的幅度更大(+0.196;名义汇总 p=0.023,阶段合并 p~0.08;逐问题中位效应 +0.045)。排斥机制在 9 个问题中的 8 个提高了构造哈希多样性(单侧 p=0.0039,部分属于操纵检查)。因子实验未发现记忆与排斥的正交互作用(界限约为 ±0.04);收益呈加性分解,且“记忆+排斥”是唯一从未崩溃的实验组(18 次运行均为 0 次崩溃),与完整组合相差不超过 0.025。相同循环下,前沿提议器用数十个样本即可达到本地模型数百个样本未达到的水平;单次范围测试中,其增益无需这些算子。旗舰问题在弥合 85–92% 差距后停滞,后续分析将其解释为分辨率限制:参考值属于连续极限,未经辅助的长时运行终解已带有该构造族的结构。在预注册构造族提示测试中,以文字给出的构造族会被采用并导致性能下降;以代码给出时可被优化,但最佳有限网格编码仍低于无辅助时达到的平台期。研究公开测试框架、全部候选方案及带日期的预注册文件。

关键要点

  1. 01对提议器侧组件开展受控因子消融,检验记忆、障碍与排斥机制的作用。
  2. 02完整算子组合可缩小种子与纪录间的差距,收益主要由各组件加性贡献。
  3. 03排斥机制在 9 个构造问题中的 8 个提高了构造哈希多样性。
  4. 04记忆与排斥组合是唯一未发生崩溃的实验组,但未发现正交互作用。
  5. 05旗舰问题在弥合 85–92% 差距后停滞,显示有限网格的分辨率平台期。

解读

尚无解读。

原始英文摘要

arXiv:2609.29636v2 Announce Type: replace Abstract: Verified search, in which a language model proposes programs, a hard evaluator scores them, and selection keeps the best, has recently moved mathematical records; controlled ablations of the proposer-side components remain rare. We instrument a minimal FunSearch-style loop at office scale (a 30B local model on a laptop, 120-600 verified samples per run) with three operator packages: a schematic notebook the model writes and carries instead of verbatim elites, a named obstacle, and behavioural repulsion from constructions already found. On nine construction problems from a public repository, the complete 2^3 factorial with two replicates favours the primary contrast in a nominal two-stage analysis: the composition closes more of the seed-to-record gap (+0.196; nominal pooled p=0.023, stage-combination p~0.08; median per-problem effect +0.045). Repulsion raises construction-hash diversity in eight of nine problems (one-sided p=0.0039; partly a manipulation check). The factorial finds no positive memory-by-repulsion interaction (bounded to about +/-0.04); the gain decomposes additively, and memory+repulsion is the only arm that never collapses (0 of 18 runs), within 0.025 of the full composition. A frontier proposer under the identical loop reaches in tens of samples what the local model does not in hundreds; in single scoping runs its gains arrive without the operators. The searches stall after closing 85-92% of the gap on the flagship problem, and a later analysis reads that plateau as a resolution limit: the reference value is a continuum limit and the unaided long-run finals already carry its family's structure. In the registered family-hint test the family named in words is adopted and loses; handed as code, it is optimized, but our best finite-grid encoding stays below the plateau reached unaided. We release the harness, every candidate, and the dated pre-registrations.

同方向论文 · cs.CL

查看全部 →

反向发现 · 这篇论文相关的工具与提示词

去交叉发现 →

关联提示词 · 6

学习didakte.com·外部收录·

让 AI 扮演私人辅导老师,分阶段讲解知识点、出题测评并给予鼓励反馈

你现在是我私人的教育机器人,非常专业并且能够帮助提升我的自信心。我们的学习过程将会分为几个阶段:首先,你需要使用简洁明了的语言解释一个知识点,并在解释结束后询问我是否理解。如果我有困惑,你需要耐心地用更浅显的方式重复解释,直到我理解。其次,我希望你能够像优秀的老师一样,通过联想和生动有趣的例子,帮助我深入理解这个知识点。在这个阶段,也请你指出可能的考试重点。第三阶段,我希望你能出一道与该知识点相关的,简单的 IGCSE Edexcel 历年常考题,然后根据我的回答,提供积极的…

学习woshipm.com·外部收录·

教师提供课程信息后,通过分步交互生成可修改的完整教案。

##Role: 你的职责是帮助教师根据他们提供的课程信息和要求,自动生成完整、可用的教案,从而减轻教师的手工编写负担,提高工作效率。你要负责引导用户完成整个操作流程,确保用户能够顺利得到符合要求的教案。 ##Goals: 主要目的是简化教案生成的过程,让教师只需要输入少量必要的课程信息,就能获取一份完整且规范的教案,一定程度上减少教师的备课压力和时间成本。 ##Skills: -教案编写能力 你必须熟悉教案的基本结构和要素,包括教学目标、教学重难点、教学过程设计、作业布置…

学习wangshuyi.substack.com·外部收录·

根据指定主题为儿童生成带互动模拟、练习和测验的单文件 HTML 教程。

首先明确定义角色:你是儿童互动教育内容开发专家。然后给明确的目标:根据用户指定主题,生成一个完整独立的互动学习 HTML 文件。背景是目标用户是青少年儿童,输出格式是单文件 HTML,CSS、JS 全都内联,最后就要这一个文件。设计原则要注重趣味性、互动性、视觉吸引力。输入参数一共有 3 个:学习主题(必选)、用户画像(可选,默认我们家老大 12 岁的男孩 Kevin)、卡通形象(可选,最近他和弟弟迷名侦探柯南,所以我就选用了名侦探柯南)。页面结构要求包括 HTML 框架、标…

学习github.com/f/awesome-chatgpt-prompts·外部收录·

School managment erp

I want to build full school erp in Shell | Electron (latest stable) | | Frontend | React + Vite + TypeScript | | UI | Ant Design v5 | | State | Zustand …

写作github.com/f/awesome-chatgpt-prompts·外部收录·

project marketing

Act as a Notion Content Automation Expert. You are tasked with developing a system to automate content creation for your project using the API from [https://router.bynara.id/dashboard](https://router.bynara.id/dashboard). You will utilize 5…