Skip to content

report(webmainbench): bind current PR919 rerun - #40

Merged
lanyue-llk merged 1 commit into
mainfrom
codex/webmainbench-pr919-current-report
Oct 8, 2026
Merged

lanyue-llk merged 1 commit into
mainfrom
codex/webmainbench-pr919-current-report

Conversation

@lanyue-llk

@lanyue-llk lanyue-llk commented Sep 30, 2026 •

Copy link
Copy Markdown
Contributor

为什么更新

正式七方法报告保留 Moli 原版、PR785 修复版和 PR919 提交 721bd2e32 的独立实测结果。PR919 分支后来 rebase 到新版 main,因此这次运行只代表 721bd2e32 与固定的 Moli 1.1.11 release 二进制,不能沿用为后续 head 的测量。

参考复核

此前仅凭页面启动时折叠,错误地从任务 8798f93a-240c-46d7-a8d1-a5fb011279fc 的人工参考中删除了 91 组比赛明细。复核任务定义、人工 cc-select 标注、main_html 和 groundtruth_content 后,四者均把这些明细定义为主内容。当前报告恢复原参考,并如实保留 PR919 实测版在该页的遗漏:代码分为 12.28%。

为了防止同类错误再次发生,数据修订现在必须声明任务契约和冻结来源依据;方法输出或得分只能触发调查,不能授权改题。对应守卫位于 WebMainBench PR #6。

七方法结果

七种方法共 3,815 条冻结输出按 WebMainBench 提交 65b49124b923e59f3cfcd839ee1af4628c36f340 离线重算,没有新增 provider 调用。所有方法使用相同公共分母:全文 545、代码 110、公式 257、表格内容和表格结构各 179。

PR919 721bd2e32 实测版:

  • 目标正文:545/545
  • 综合分:39.27%
  • 全文:40.73%
  • 代码:91.06%
  • 公式:28.20%
  • 表格内容:22.62%
  • 表格结构:13.75%

综合分和代码分是七种方法中的唯一最高值。Obscura 的全文与公式分最高,Chromium 的表格内容分最高,Lightpanda 的表格结构分最高。

Moli 修复状态

Moli PR #919 已 rebase 到 main 提交 b21b4f05615c1b9aa71ea2074084646895d82be7,当前 head 为 ab12989526c01752ddcafd53a3f544ff044c7868。rebase 后发现的真实问题是 Stylo 依赖曾指向不含内容来源 API 的提交;现已精确锁定 Stylo PR #2 的 1032a2947ec2f7cee1027d07084203be87e17643。Stylo 四平台 CI 与 Moli #919 全部 CI 均通过。

任务 8798f93a 暴露的是当前 Moli 不恢复由任意页面脚本控制的折叠正文。报告将它作为已量化能力边界保留;本 PR 没有加入网址、任务 ID、评分器或 onclick 字符串特判,也没有为提高 Moli 分数修改参考。

报告改动

  • 明确把 721bd2e32 标成实测版本,避免把历史运行写成当前 head。
  • 恢复正确人工参考并更新七方法表格、图、结果解读和发布历史。
  • 保留六类 Moli 修复机制图,并补充该能力边界的证据说明。
  • 为评分修订增加决策依据守卫,以及“已修订证据再次修订”的回归场景。
  • 更新同一 Artifact Site 报告站点,不创建重复站点。

正式报告:WebMainBench 545 页七方法完整评测

验证

  • 19 passed,另含 2 个参数子场景:报告、评分修订与认证调用定向测试。
  • 实际冻结 manifest 的 22 条合法修订通过新授权校验。
  • 完整报告发布门禁核对 3,815 条逻辑结果、固定公共分母、证据哈希、修订顺序、唯一极值、筛选排序、诊断下钻和六类修复图。
  • Moli #919:Format、Clippy、Nextest、两份 release 构建、545 页门禁、1020 个前端差异场景、CDP/WebDriver、Agent、Spider、200 次连续导航及 release A/B 全部通过。
  • Artifact Site 正式版本:ver_cdd1a9316d6c4d49a5dc4fee4646fba1(v21)

冲突与授权范围修复

已 rebase 到 main 的 a635113b,保留风控报告和 WebMainBench 各自的发布记录。修订守卫现在将参考正文与元数据的变更字段分别绑定到对应决策契约,并在应用时比较真实差异;已应用的修订再次离线重算也必须通过校验。正反测试覆盖合法参考与元数据修订、交叉套用契约、混合字段和不支持的字段。

独立代码复审未发现新增阻塞问题。该修复不更改冻结输出、参考或已发布成绩;无需 provider 重跑或重新发布报告。

@github-actions

github-actions Bot commented Sep 30, 2026 •

Copy link
Copy Markdown

Claude finished @lanyue-llk's task in 4m 14s —— View job


Review 结论

有条件通过

绑定新提交、修正错误参考、重算七方法、更新发布目标、补充统一入口 (webmainbench-full 子命令) 及回归测试——逻辑链条完整,lexmain → lex-main 分支名修正也同步覆盖了 report.py、检查脚本和测试。但 AGENTS.md 要求的参考修正回归控制缺失,需在合并前处理。


问题及建议

  • [P1] evaluation/webmainbench-full/scoring-correction-binding.json(新 receipt_sha256)& evaluation/scoring-regressions.json:

    本 PR 对任务 8798f93a 执行了参考修正(移除 91 组折叠明细),但 evaluation/scoring-regressions.json 在此 PR 前后 SHA-256 均为 37653e59…,文件内容未变,也无 8798f93a 相关条目。AGENTS.md 明确要求:"Add paired executable controls to evaluation/scoring-regressions.json where both error directions are plausible, run them through the public score_attempt and task predicate, and bind the root cause plus regression IDs in every new reference/scoring revision receipt."

    该修正两个方向均成立(参考包含过多隐藏内容 / 参考删除过多可见内容),须在 evaluation/scoring-regressions.json 中为 8798f93a 添加正反向可执行控制条目,并将根因与回归 ID 绑定到新收据(receipt_sha256: 650efd2b…)中,否则本次修正不满足协议完整性要求。

    建议:参考现有 initial_visible_news_scope_excludes_collapsed_cards 条目的模式(第 15438–15598 行),为 8798f93a 增加折叠/可见边界两方向的控制,更新绑定文件中的 regression_registry_sha256,并重新生成收据。

  • [P2] evaluation/webmainbench-full/scoring-correction-binding.json:6:

    regression_registry_sha256: ddd89c55… 与仓库中实际文件 evaluation/scoring-regressions.json(37653e59…)不一致,此不匹配在 origin/main 上已存在,非本 PR 引入,但 P1 修复时需一并对齐。


@github-actions

github-actions Bot commented Oct 8, 2026 •

Copy link
Copy Markdown

Claude encountered an error after 3s —— View job


I'll analyze this and get back to you.

@github-actions

github-actions Bot commented Oct 8, 2026 •

Copy link
Copy Markdown

Claude encountered an error after 3s —— View job


I'll analyze this and get back to you.

1 similar comment
@github-actions

github-actions Bot commented Oct 8, 2026 •

Copy link
Copy Markdown

Claude encountered an error after 3s —— View job


I'll analyze this and get back to you.

@lanyue-llk
lanyue-llk force-pushed the codex/webmainbench-pr919-current-report branch from c56602f to 345ea09 Compare October 8, 2026 08:01
@github-actions

github-actions Bot commented Oct 8, 2026 •

Copy link
Copy Markdown

Claude encountered an error after 3s —— View job


I'll analyze this and get back to you.

@lanyue-llk
lanyue-llk merged commit 867229e into main Oct 8, 2026
1 of 2 checks passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant