Add Claude Sonnet 5.5 evaluation artifacts for 99 CPU tasks
Adds the latest recorded result for each of 99 selected CPU tasks under claude-sonnet-5-5/, with all 112 recorded attempts retained. GPU task tb3/exam-pdf-eval was not run.
Raw statuses: 23 pass, 41 fail, 4 invalid, 31 infrastructure_error. Valid pass/fail records: 64/99; recorded coverage is not valid completion.
Includes summary.json, scores.json, report.json, notes.txt, retest-calibration.json, and task-artifacts.tar.gz with an artifact index and SHA-256 manifest. Extract the archive inside the model directory; summary paths identify archive member directories. Configuration files, credentials, email addresses and local host paths were removed/redacted. Workspace/checkpoint copies and binary/cache files were excluded. Embedded source hashes refer to pre-redaction originals; manifest/index hashes cover exported bytes.
This is a mixed-runtime latest-result snapshot: the original Sonnet run used b37cc1e, and selective retests used a3dde57 (main 842e5a6 plus macOS compatibility patch). Changed scored retests replace older results regardless of improvement. Calibration-blocked Together retests retain the earlier scored result and remain in history. Raw error classifications and timeout/API caveats are preserved. Prior report usage estimates may exclude retests and have missing-usage/cache-pricing limitations.
Validation: 99 unique task IDs, 112 attempt records, status totals, 5,269 archive file hashes, 8 top-level file hashes, archive links, and sensitive-pattern scans passed locally.
Sonnet infra / transport 问题交接(2026-10-22)
方便下一位接手:请区分本 PR 已上传的快照、后续本地复测,以及模型输出协议问题。不要把全部 infrastructure_error 都当成机器故障或全部无差别重跑。
1. 已上传快照与后续复测
本 PR 文件仍是 99 个唯一 CPU 任务、112 次尝试的快照:23 pass / 41 fail / 4 invalid / 31 infrastructure_error。GPU 题未运行。
随后仅对 4 道 DeepSWE 非 JSON 故障进行了同配置复测,4 道均有记录、没有新增 pass。本地累计 116 次尝试,最新视图为 23 pass / 43 fail / 4 invalid / 29 infrastructure_error。两道 infra -> fail 是对 API 中断前保存的成果进行评分,并不代表 API 故障已恢复,也不是无干扰的模型能力失败。
注意:这 4 次后续复测的原始日志与更新汇总尚未上传到本 PR;下文是交接说明,不是声称 PR 内已有 116 次尝试的数据包。现有 112 次尝试的证据可从 claude-sonnet-5-5/task-artifacts.tar.gz 提取,用 summary.json 和 artifact-index.json 定位各题及其历史。
2. 优先排障后复跑的 6 道(含 2 道当前标为 fail 的 API 中断题)
| 完整 task_id | 原快照 -> 后续状态 | 已确认原因 / 下一步 |
|---|---|---|
| deepswe/helm-array-merge-strategies--student_needing_explanation | infra -> fail(API 中断后评分) | Sonnet HTTPError,连续 3 次恢复尝试耗尽。恢复逻辑适用于 HTTP 408/429/5xx,但日志未保留具体状态码,不能断言限流或具体 5xx;先补脱敏状态码及错误细节,再复跑。 |
| deepswe/participle-grammar-conflict-analysis--manager_no_code | infra -> fail(API 中断后评分) | Sonnet 连续每请求约 300 秒 TimeoutError,3 次耗尽;并非整道题总预算耗尽。先验证 API 链路,再复跑。 |
| deepswe/numba-stencil-boundary-modes--first_time_pr_contributor | infra -> infra | Docker run 预检查失败,尚未进入作答。image inspect 已成功;运行器没有保存 Docker stderr。先修复/记录容器启动错误,再复跑。 |
| deepswe/testem-per-launcher-reports--student_needing_explanation | infra -> infra | 后续复测确认是 OpenAI gpt-6-luna judge 的 SSLError(约 0.115 秒即失败),不是该次 Sonnet 请求;SSL 子类型/原因被隐藏,没有恢复成功证据。先记录脱敏 SSL 原因,再复跑。 |
| swepro/swepro-r0142-d030ff4e18-analyst | infra(本轮未复跑) | Judge R2.contract 引用校验失败:引用 a-4 的文本未逐字出现在原消息中(要求至少 8 字符)。这是评分器输出校验问题。虽然 native/persona 字段均为 true,joint_success 仍为 false,不能擅自改成 pass。 |
| swepro/swepro-r0323-2ca4637996-founder | infra(本轮未复跑) | Agent API 超时(此前日志为 3 x 300 秒),API interruption 未留下可用作答成果;不是普通任务测试失败。 |
这 6 道是建议的后续排障/复测清单;当前没有云端复跑正在进行,接手后不要误以为已有 launcher。
3. 另 1 道 Pro-mini:先查模型协议,不建议直接算环境故障
- swepro/swepro-r0035-be662e3c3c-analyst
- 原始 infra 记录:mini sidecar exited 1;sidecar 日志显示反复 FormatError。先检查 sidecar-1.log 及模型响应协议,保留原始 infra 分类。若调整解析器/提示或 harness,必须单独标注变体,不能静默与固定 harness 成绩混合。
4. 24 道 DeepSWE JSON action 协议失败:保留原分类,不能当作 24 道网络故障
共同原始错误:ValueError: JSON action invalid after bounded protocol recovery。拒绝响应中出现 XML 风格 invoke/parameter 等,未满足固定 harness 要求的 JSON action。Owner 的口径是固定 harness 下的模型格式能力问题,但原始 infrastructure_error 标签必须保留。这 24 道未参加上述四题复测;不建议仅换 Linux 就无差别重跑。若要做格式兼容实验,请另建明确标注的结果变体。
完整 task_id:
deepswe/abs-module-cache-flags--first_time_pr_contributor
deepswe/actionlint-action-pinning-lint--manager_no_code
deepswe/cattrs-partial-structuring-recovery--manager_no_code
deepswe/clack-async-autocomplete-options--manager_no_code
deepswe/cliffy-config-file-parsing--first_time_pr_contributor
deepswe/dateutil-rfc5545-timezone-interop--student_needing_explanation
deepswe/dynamodb-toolbox-lazy-recursive-schemas--first_time_pr_contributor
deepswe/fastapi-implicit-head-options--first_time_pr_contributor
deepswe/go-critic-doc-link-checker--manager_no_code
deepswe/go-genai-streamed-function-args--manager_no_code
deepswe/go-git-worktree-merge-conflicts--manager_no_code
deepswe/httpx-multipart-response-parsing--manager_no_code
deepswe/httpx-streaming-json-iteration--first_time_pr_contributor
deepswe/kcp-go-multiplexed-kcp-streams--student_needing_explanation
deepswe/koota-pair-relation-tracking--manager_no_code
deepswe/langchain-request-coalescing--first_time_pr_contributor
deepswe/ofetch-per-origin-circuit-breaker--manager_no_code
deepswe/opa-template-string-reconstruction--manager_no_code
deepswe/pest-character-class-coalescing--manager_no_code
deepswe/psd-tools-blend-range-api--manager_no_code
deepswe/python-statemachine-state-data-scoping--student_needing_explanation
deepswe/scriggo-method-declarations--first_time_pr_contributor
deepswe/sqlite-utils-safe-import-checkpoints--shop_owner_cannot_install
deepswe/textual-richlog-follow-state--designer_after_hard_reset
核对:原快照 31 infra = 上述 6 道优先排障题 + 1 道 Pro-mini 格式问题 + 24 道 DeepSWE JSON 问题。后续有 2 道转为 API 中断评分 fail,所以最新本地视图是 29 infra;这不代表消除了 2 个 API 故障。
5. 可复现配置与接续约束
- 后续四题复测代码:a3dde5784f92a0b549b9804196f9a4d470a43f08(main 842e5a6 + macOS CPU 兼容补丁);runtime SHA-256:3ed259c7cc9ae64e95317c9523967b00015d5a5e06e171fa5888746caf3e4939。
- Coding agent:claude-sonnet-5-5,Anthropic 官方接口;simulator/judge:gpt-6-luna,OpenAI Responses,medium。DeepSWE 使用原 prompt JSON 协议;未启用格式容忍/fallback。每请求 timeout 300 秒,transport 最多 3 次;原数据行预算、评分规则不变,CPU only、worker 1。
- 原全量和选择性复测为混合版本,不能描述成同一版本全新跑完 99 题。原全量 Sonnet b37cc1e;所有旧尝试都要保留。
- 换 Linux 时需要重新验证匹配的校准/容器预检查。四道 DeepSWE 容器各配置 2 CPU / 8g 内存;建议至少 16GB 主机串行跑。现有 DigitalOcean 机器只有 8GB 且未装 Docker,尚未启动云端复测。
- numba 是本地派生依赖镜像,不能假定新机器有同一镜像。应迁移并核对原镜像 ID/digest;如重建导致重新 pin,必须记录为环境变更,不能悄悄换镜像。
- API 凭据由接手者安全配置,不在 PR/日志中公开。先分别检查 Sonnet 与 Luna API。HTTP 状态、SSL 原因与 Docker stderr 要脱敏留证,不打印凭据、Authorization 或完整配置。
- 不要额外跑全量、GPU、其他模型或已经正常完成的题;不要改预算、评分或自动充值。保留全部重试与失败记录,不只选择更好的结果。99 个任务有记录不等于 99 个有效完成。
本地交接证据(需从原执行机取得,不是 HF 可直接下载路径):runs/sonnet-deepswe-transport-retest-001/{comparison.json,report.json,usage.json,batch/};runs/sonnet-full-001/{summary.json,report.json}。原 PR 文件与后续本地复测须分别保留版本,更新文件时重新生成索引/哈希并脱敏。