zizi 8cf59188d3 docs(agent-loop): batch-001 验收批产物入库(报告/账本/补救/R8抽检)
Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
2026-06-10 09:20:40 +08:00

7.7 KiB
Raw Blame History

agent-loop v1 批报告 · batch-001

自动生成§7.5),数据源=本批 JSONL 账本;同时即 prompt-eval.yml 闸②④数据源。

1. 结论速览

accept 率(统一口径) 80.0%accept ÷ (提交创意数 infra 类) = 16 ÷ (20 0)
提交创意数 20
infra 类(不计分母) 0占已处理 0.0%
批起止 2026-06-10T00:13:21.722361+00:00 → 2026-06-10T00:24:32.831004+00:00
模型与通道 MiniMax-M2.7 @ http://100.64.0.8:3000抽检模型deepseek-v3.2
30 分钟强制收口 未触发
熔断 发布段冻结F10发布链连续 2 条失败,停发布段

Prompt 版本:{"config.clicker-designer": "1.0.0", "quality.adversary-review": "1.0.0", "fix.design-revise": "1.0.0"}

2. 三层漏斗(对齐 C1 口径,分母=20

通过数 通过率
结构层schema 终态) 20 100.0%
可运行层(五条 AND 16 80.0%
可接受层accept 16 80.0%

归因:主要损耗在文本面(策划/填参kill 4 条)≥ 实玩面0 条):优先修 prompt/模板约束,走四道闸升版。红线:不得以降低裁决口径换达标。

3. kill 原因分布reasons 首项聚合)

原因 条数
p1_residual_after_fix 3
schema_invalid_after_retry 1

4. fix 回炉

  • 回炉数6回炉后 accept2回炉成功率33.3%

5. infra_fail 明细(不计分母、可重放)

(本批无 infra_fail

6. 对抗评审稳定性披露Z4

  • 重测条数3一致条数1一致率33.3%

7. 换模型抽检20% 向上取整重裁)

  • 抽检条数0分歧条数0分歧率发布冻结

8. 成本

  • LLM 调用总数57批总耗时671 秒

9. 金丝雀发布清单≤10/批)

designId(8) gameId versionId 已发布 feed 可见 跳过/失败
4e2de887 9011 93011
115589c5 9012 93012
6f091b6d 9013 93013 frozen
a1869689 9014 93014 frozen
b2603e82 9015 93015 frozen
b00027fe 9016 93016 frozen
43afd1f7 9017 93017 frozen
439034c7 9019 93018 frozen
005cde6a 9020 93019 frozen
526aaaa9 9021 93020 frozen
b52388c4 9022 93021 frozen
cb3f7444 9023 93022 frozen
090212e4 9024 93023 frozen
664cf203 9026 93024 frozen
53933f30 9028 93025 frozen
7ebba6f0 9030 93026 frozen

补救记录remediation-001

批后补救执行于 2026-06-10UTC针对验收复盘的两个 P1①F10 误熔断发布段postcheck feed/stream?size=50 超后端单页上限 30 → 400②换模型抽检 deepseek-v3.2 通道 401 → 抽检 0 条。 修复件:backend_gw.feed_find_gamecursor 翻页,单页钳 30+ run_batch postcheck 改调用(本机仓库待提交)。补救驱动跑在一次性工作区 /root/remediation-001(已清理),产物全部落本 runs/ 目录。

1. 补发布结果金丝雀纪律≤10/批,已发布 2 → 本次补 8

designId(8) gameId versionId 结果 project.status play 取包 feed 可见
6f091b6d 9013 93013 published 4 ok 可见
a1869689 9014 93014 published 4 ok 可见
b2603e82 9015 93015 published 4 ok 可见
b00027fe 9016 93016 published 4 ok 可见
43afd1f7 9017 93017 published 4 ok 可见
439034c7 9019 93018 published 4 ok 可见
005cde6a 9020 93019 published 4 ok 可见
526aaaa9 9021 93020 published 4 ok 可见
  • 成功 8 / 跳过 0 / 失败 0审核 reason 均带 batch-001-remediation 审计标记。
  • 剩余 6 条 accept 按金丝雀纪律保持 accept_unpublished不是失败b52388c4(9022)、cb3f7444(9023)、090212e4(9024)、664cf203(9026)、53933f30(9028)、7ebba6f0(9030)。
  • 本批入 feed 总数 = 2原发+ 8本次= 10 ≤ 10,严格踩线不超。
  • 独立核验非驱动自报DB game_project 10 行 status=4 / 6 行 status=0逐条明细见 remediation-publish.jsonl

2. feed 实测(补发布后)

  • GET /app-api/feed/stream?size=30 实测 18 张卡hasMore=False单页尽收8 张既有夹具9001-9008+ batch-001 全部 10 张。
  • 新增 8 张卡标题:农场里收割成熟的蔬菜(9013)、深夜便利店招待来买夜宵的顾客(9014)、校园运动会上的接力赛冲刺(9015)、猫咖啡馆里撸猫攒爱心(9016)、春节集市上抢福袋(9017)、烧烤摊翻烤串,别烤糊了(9019)、地铁早高峰挤上即将关门的车(9020)、做一个很好玩的游戏(9021)。

3. R8 降级抽检(同模型异版本 prompt 重裁)

deepseek-v3.2 全 401 → 按评审版 R8 既定降级MiniMax-M2.7 + 措辞重排变体 prompt口径不变audit-fallback/prompt-variant.md,不入 contracts/ 不动 Registry+ 温度 0.2(原裁 0.4)。 抽样可复现:种子 = int(sha256("batch-001").hexdigest()[:8], 16) = 295421830516 条 accept 抽 420% 向上取整。LLM 调用 4/8 预算。

designId(8) gameId 原判 重判(变体 prompt 分歧
a1869689 9014已发布 accept无 P0/P1 无 P0/P1
cb3f7444 9023未发布 accept无 P0/P1 无 P0/P1
439034c7 9019已发布 accept无 P0/P1 2×P1designIntent「受热均匀」与 config 仅记翻烤次数脱节target=18 语义歧义)+2×P2
526aaaa9 9021已发布 accept无 P0/P1 1×P1idea「做一个很好玩的游戏」与 designIntent 糖果屋玩法题文脱节)
  • 分歧率 = 2/4 = 50% > 10% 阈值。

⚠️ 冻结告警R8

建议主 agent 复核分歧条目 439034c7(gameId 9019) 与 526aaaa9(gameId 9021),并暂停后续批次的发布开关,直至复核完成。 按既定红线:抽检分歧不自动下架已发布游戏9019/9021 维持发布态,待人工裁定。 注意:降级口径为同模型重裁(独立性弱于换模型),且温度 0.2 更严苛、原批 Z4 对抗稳定性一致率仅 33.3%,分歧含「评审随机性」成分;但 526aaaa9 的 P1idea 极泛与成品题文脱节)与 439034c7 的 target 语义问题人工初看有实质性,不宜全归为噪声。

  • 原始请求(不含密钥)/响应/逐条结果:audit-fallback/sample-*-{request,response}.jsonaudit-fallback/audit-result.json

4. 网关通道问题留档(待创始人修网关)

  • new-api100.64.0.8:3000通道现状deepseek-v3.2 全 401通道未激活glm / qwen / kimi 通道 token 过期。换模型抽检在网关修复前均需走 R8 降级(同模型异版本 prompt独立性受限已按规程告警留档。
  • 后续批次建议:网关修复后对 batch-001 的 16 条 accept 补一次真·换模型抽检,与本次降级结果对照。

5. 产物清单

产物 路径(相对本 runs/batch-001/
补发布逐条账 remediation-publish.jsonl14 行8 published + 6 accept_unpublished
变体 prompt audit-fallback/prompt-variant.md
抽检请求/响应原件 audit-fallback/sample-{a1869689,cb3f7444,439034c7,526aaaa9}-{request,response}.json
抽检判定汇总 audit-fallback/audit-result.json