games-development-ai/cheap-worker/ctx_compress_patch.py
lili c372837762
Some checks failed
contract-gates / contract-gates (push) Has been cancelled
docs-gate / docs-gate (push) Has been cancelled
feat(deps): 升级 AgentScope 2.0.2→2.0.3(代码+文档,创始人 2026-07-06 拍板)
不为某个新特性,而是没道理把底座停在带并行 tool-result 缺陷的补丁版;2.0.3
是同线相邻补丁版,升级面窄、收益确定。承 tech-decisions §11-13「护城河进洋葱、
框架件谨慎审计」线。

代码:两 worker requirements 钉 2.0.3+溯源注;4 个 cheap-worker patch 的版本
guard 更 2.0.3——主控逐一源码核实 2.0.3 锚点仍成立:compress_context@_agent.py:259
未漂移 / _parse_stream_response@_openai_chat/_model.py:297·index 分桶:417 未漂移 /
list_tools@_local_workspace.py:660 / get_toolkit 装配点迁 _chat.py:354(patch 替
绑定名不依赖行号);patch 头 pin 声明同步 2.0.3+复核标记,根因 2.0.2 期实证保留。

文档:current-truth 面扫除(agentscope-2.0-facts 改掉一处「2.0.3 是笔误」错陈述+
行号漂移开源码更新 594→622/136→162/33→42/857→884/875→902、tech-decisions §15
升级决策散文、运行时 SoT 当前选型句、活代码注释、tier2 README 死链修);留痕层
(plans/HANDOFF/patch 根因分析/ADR 历史核验句)按两层纪律不动。

兼容三证:源码逐处 diff(RedisMessageBus/OpenAI formatter 零变化、Anthropic
formatter 仅并行 tool-result bug 修、ModelCallEndEvent 无变化、MiddlewareBase
加性 get_middleware_key)/ cheap 393+tier2 140+patch 20 测试全绿 / dev 两 venv
升级后 3 服务健康。收敛真跑:cheap 便宜档 ReAct 全链路 356 trace 零升级异常+
真出游戏过九门 9/9;tier2 Anthropic 工具循环跑满 40 轮写 15 文件 gen.log/trace
零升级异常(decision=fix 属 tier2 生成质量、非升级回归)。

2.0.3 新增原生 ReplyBudgetControlMiddleware(历史反复核验 2.0.2 不存在的类)/
tool 级洋葱/RAG/mem0,列而不迁(自建 ¥ 两段式 fail-closed 硬闸是护城河,原生
token 软控替不了),follow-up 见 §15。

Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
2026-07-06 02:06:14 -07:00

131 lines
8.3 KiB
Python

"""ctx_compress_patch.py — 运行时修 agentscope 2.0.2 context 压缩崩 run(fail-open:压缩失败绝不杀生成主链)。
【坐实根因(2026-07-03,便宜档 4 次线上实证 `'important_discoveries' is a required property`)】
逐层代码证据(venv agentscope 2.0.2 源码核验):
① reply 主循环每轮推理前调 `compress_context`(agent/_agent.py:609);token 超阈值时走
`_compress_context_impl` → `model.generate_structured_output(messages, structured_model=cfg.summary_schema)`
让模型产结构化摘要(_agent.py:300+,「压缩」本身是一次真实计费 LLM 调用)。
② `cfg.summary_schema` 默认 = `SummarySchema.model_json_schema()`(agent/_config.py:112-114)——是 **dict**;
SummarySchema 五字段(task_overview/current_state/important_discoveries/next_steps/context_to_preserve)
**全 required 且各带 max_length 300/200**(_config.py:11-53)。
③ dict schema 路的产出校验 = `jsonschema.validate(structured_output, structured_model)`(model/_base.py:566-567)。
MiniMax-M3 经 new-api 对「强制 tool_choice + 多字段带长度约束 schema」遵从不稳:少填字段 → ValidationError
`'important_discoveries' is a required property`(4 次实证);中文摘要超 300 字符 → `is too long`(同崩点)。
④ ValidationError 不在 `_get_retryable_exceptions()`(那是网络类)→ generate_structured_output 的 retry 循环
直接 `raise`(_base.py:426-428);`_compress_context_impl` 的 except 只救 context_overflow 分支,非 overflow
→ `raise e from None`(_agent.py:461)→ 异常穿透 reply 生成器。
⑤ Service 侧 `ChatService.run` 对 run 异常「logged and swallowed」、**不向 message bus 发任何终结事件**
(app/_service/_chat.py:166-176)→ SSE 消费方等不到 REPLY_END → driver 空等 600s 总超时慢失败。
(⑤ 的出口另由 cheap_service_app 的 collector 合成终结事件封;本补丁封 ③④ 的崩因本身。)
【修法=fail-open,为什么不是改 schema】压缩是省 context 的旁路优化件,它失败不该杀生成主链。改 schema
(放宽 required/maxLength)看似治本,但 venv 的 `summary_template.format(**res.content)`(_agent.py:463)对缺键
必抛 KeyError——schema 放宽后模板层还是崩,除非连模板一起换,改动面反而更大且更深地耦合 venv 内部。故取
最小面:包 `Agent.compress_context`(压缩唯一公共入口,middleware 链在其内),异常 → 告警 + 跳过本次压缩
(context 保持原样、生成继续);**连续失败 ≥2 次后本 agent 实例禁用压缩**——压缩调用本身计费,不设断路器
会每轮触发→每轮失败→每轮白烧一次 LLM 调用。context 若真涨到模型硬顶,模型 API 会确定性报错、熔断闸兜底,
配合 Service 壳合成终结事件仍是快失败——比「优化件杀主链」诚实。
【钉 agentscope==2.0.3;2026-07-06 自 2.0.2 升级复核】运行时 monkeypatch `Agent.compress_context`,
**绝不改 venv 文件本体**(纪律同 m3_stream_patch)。依赖契约:`async def compress_context(self,
context_config=None) -> None`——2.0.3 核实签名仍在 _agent.py:259 未漂移,reason 前的自动调用点迁到
_agent.py:636(旧 2.0.2 为 :609);补丁包的是这个公共方法、不依赖内部调用行号,test_ctx_compress_patch
全绿,升级稳健。上方根因是 2.0.2 期的线上实证,原样保留。此后再升级仍按此复核签名并重跑该单测
(版本漂移时 apply 会响亮 warning、但仍应用——不应用等于回到压缩崩 run)。
【作用面】跑模型的进程装配层调用:cheap Service(build_cheap_app)与 CLI(cheap_studio)。patch 的是
Agent 类方法,进程内全部 agent 生效(便宜档进程只有便宜档 agent);tier2 Service 是独立进程、不 import
本模块,不受影响。
"""
from __future__ import annotations
import logging
from typing import Any
logger = logging.getLogger("cheap.ctx_compress_patch")
# 钉定版本(补丁按 2.0.3 复核的 compress_context 契约写成,见模块 docstring)。
_PIN_VERSION = "2.0.3"
# 幂等标记:挂在补丁函数上,重复 apply 不套第二层。
_PATCH_FLAG = "_ctx_compress_failopen_patched"
# 连续失败达此次数 → 本 agent 实例禁用压缩(压缩调用计费,防「每轮触发每轮失败」白烧钱)。
FAIL_DISABLE_THRESHOLD = 2
# 失败/禁用状态挂在 agent 实例上的属性名(Agent 是普通类,实例属性安全;不入框架 state 序列化面)。
_STATE_ATTR = "_ctx_compress_failopen_state"
def make_failopen_compress(orig):
"""把原 compress_context 包成 fail-open 版(纯包装器,独立可测:orig 为任意同签名 async callable)。
行为:成功 → 透传返回值并清零连续失败计数;异常 → 告警吞掉(本次不压缩,生成继续),连续失败
≥ FAIL_DISABLE_THRESHOLD 次后置禁用标记,此后本 agent 实例直接跳过压缩(不再调 orig、不再烧压缩调用)。
"""
async def _failopen_compress(self: Any, context_config: Any = None) -> None:
state = getattr(self, _STATE_ATTR, None)
if state is None:
state = {"fails": 0, "disabled": False}
try:
setattr(self, _STATE_ATTR, state)
except Exception: # noqa: BLE001 —— 极端不可写实例:退化为无状态 fail-open(仍不崩主链)
pass
if state["disabled"]:
return # 已断路:本实例压缩停用(context 交模型上限/熔断闸兜底)
try:
result = await orig(self, context_config=context_config)
state["fails"] = 0 # 一次成功清零(断路器只数「连续」失败)
return result
except Exception as e: # noqa: BLE001 —— fail-open 核心:压缩任何异常都不杀生成主链
state["fails"] += 1
if state["fails"] >= FAIL_DISABLE_THRESHOLD:
state["disabled"] = True
# 可追溯日志(错误路径铁律):异常类型/信息 + 连续失败数 + 是否已断路。
logger.warning(
"[ctx-compress] 上下文压缩失败已 fail-open 跳过(生成继续,本次不压缩):%s: %s"
"(连续失败 %d/%d%s)",
type(e).__name__, str(e)[:300], state["fails"], FAIL_DISABLE_THRESHOLD,
";已达阈值 → 本 agent 实例禁用压缩(防每轮白烧压缩调用)" if state["disabled"] else "",
)
print(
f"[ctx-compress] 压缩失败 fail-open:{type(e).__name__}: {str(e)[:200]} "
f"(连续 {state['fails']}/{FAIL_DISABLE_THRESHOLD}"
+ (";本实例压缩已禁用" if state["disabled"] else "") + ")",
flush=True,
)
return None
return _failopen_compress
def apply_ctx_compress_patch() -> bool:
"""对已 import 的 agentscope 应用压缩 fail-open 补丁(幂等;返回是否本次新应用)。
调用时机:装配层 import agentscope 之后、建 agent/create_app 之前(cheap_studio 顶层 import 链后 /
build_cheap_app 内 import agentscope.app 之后)。patch 的是 Agent 类方法,此后构建的每个 agent 都吃到。
"""
import agentscope # noqa: PLC0415 —— 惰性 import 红线:调用方保证 agentscope 已安全可 import
from agentscope.agent import Agent # noqa: PLC0415
current = getattr(agentscope, "__version__", "?")
if current != _PIN_VERSION:
# 版本漂移:仍应用(不应用等于回到压缩崩 run),但响亮提醒复核(见模块 docstring 契约)。
logger.warning(
"[ctx-compress] agentscope 版本 %s ≠ 钉定 %s:补丁按 2.0.3 compress_context 契约写成,"
"升级必须复核并重跑 tests/test_ctx_compress_patch.py!",
current, _PIN_VERSION,
)
orig = Agent.compress_context
if getattr(orig, _PATCH_FLAG, False):
return False # 已打过(幂等,不套第二层)
patched = make_failopen_compress(orig)
setattr(patched, _PATCH_FLAG, True)
patched._ctx_compress_orig = orig # 留原引用(单测/诊断用)
Agent.compress_context = patched
print(f"[ctx-compress] 已装 agentscope {current} 上下文压缩 fail-open 补丁"
f"(失败跳过不杀主链;连续 {FAIL_DISABLE_THRESHOLD} 次失败断路;钉 {_PIN_VERSION},升级必须复核)。",
flush=True)
return True