辅助压缩调用返回空响应导致 Hermes 网关崩溃 / Auxiliary compression empty response crashes Hermes gateway

辅助压缩调用返回空响应导致 Hermes 网关崩溃 / Auxiliary compression empty response crashes Hermes gateway

作者: cosmoslife
日期: 2026/04/18 14:30:00
博文链接: https://blog.csdn.net/cosmoslife

仓库: https://github.com/NousResearch/hermes-agent
创建时间: 2026-04-18 |关闭时间: 未关闭
修复 PR: 无（尚未修复）
关联 Issue: #11914（同类根因：压缩失败后静态文本注入）、#11906（空文本内容块致 HTTP 400）
关联 PR: #11929（_build_api_kwargs空文本消毒防御）

问题概述

用户使用glm-5.1通过自定义 provider（cmkey.cn/v1）运行 Hermes Agent v0.10.0，当对话触发上下文压缩时，辅助压缩模型返回空响应。Hermes 的 fallback 模型（glm-5）同样返回空。两次调用均未产生有效摘要，导致网关进入异常状态并最终崩溃。

这是一个辅助客户端 provider 兼容性 + 压缩 fallback 链脆弱性的复合问题：自定义 OpenAI 兼容端点在特定 prompt 模式下返回空 content，而压缩流程对空响应的容错不足。

复现路径

1. 配置config.yaml：model provider=custom，base_url=https://cmkey.cn/v1，default=glm-5.1
2. 配置 auxiliary.compression：provider=custom，model=glm-5.1，base_url=https://cmkey.cn/v1
3. 正常对话直到上下文超过阈值（默认 85%）
4. 压缩触发 →call_llm(task="compression")→ cmkey.cn 返回空 content
5. fallback 到 glm-5 → 同样返回空
6. _generate_summary返回 None → 插入静态 fallback 文本
7. 但后续操作中空 content 累积，最终网关崩溃

根因分析

置信度: 🟡中（cmkey.cn 为第三方代理，无法直接检查其端行为；Hermes 侧的代码路径已完整追踪）

触发条件

1. 用户配置自定义 OpenAI 兼容端点作为辅助压缩 provider
2. 对话上下文超过压缩阈值（默认 85% context length）
3. 自定义端点对压缩 prompt 返回content: ""或content: null

执行路径追踪

对话超过阈值 ↓ context_compressor.py:compress() [L999] ↓ 检查 should_compress() ↓ 分离 head/middle/tail 消息 ↓ context_compressor.py:_generate_summary() [L551] ↓ 构建 summary prompt（~670行结构化 prompt） ↓ 调用 call_llm(task="compression", ...) ↓ auxiliary_client.py:call_llm() [L2410] ↓ _resolve_task_provider_model() 解析 provider/model ↓ _get_cached_client() 获取 OpenAI client ↓ client.chat.completions.create(**kwargs) ↓ *** cmkey.cn 返回 response，但 choices[0].message.content = "" 或 null *** ↓ context_compressor.py:_generate_summary() [L700-704] ↓ content = response.choices[0].message.content ← 空字符串或 None ↓ summary = content.strip() ← 空字符串 ↓ return self._with_summary_prefix(summary) ← 只返回 SUMMARY_PREFIX ↓ context_compressor.py:compress() [L1088-1096] ↓ if not summary: ← 空字符串被视为 falsy ↓ 插入静态 fallback 文本 ↓ 后续轮次：网关累积异常状态 → 崩溃

代码位置

缺陷本质

问题出在三层防御的缺口：

缺口 1：_generate_summary不区分"空摘要"和"调用失败"

# agent/context_compressor.py:L700-704content=response.choices[0].message.contentifnotisinstance(content,str):content=str(content)ifcontentelse""summary=content.strip()

当content为空字符串时，summary = ""，函数返回_with_summary_prefix("")，结果为只有前缀的空摘要。但调用者compress()中：

# agent/context_compressor.py:L1088ifnotsummary:# 插入静态 fallback

空摘要被正确识别为 falsy 并触发 fallback。但问题在于：如果自定义端点返回的不是空字符串，而是" "（空白）或某个无意义的短字符串（如"ok"），summary会被视为 truthy，一个无用的"摘要"会被注入到上下文中，后续对话质量严重下降。

缺口 2：fallback 模型使用同一 provider

# agent/context_compressor.py:L736-742if_is_model_not_foundandself.summary_modelandself.summary_model!=self.model:self._summary_model_fallen_back=True