DSH 长会话成本与自动压缩
DeepSeek Harness 长会话压缩:内置 Compaction 与本地代理
- 作者
- DeepSeekAgent.io 编辑部
- 发布
- 更新
长会话成本并不只取决于最终回答有多长。Agent 每一轮都可能重新携带系统提示词、历史消息、工具定义与工具结果;当自动压缩没有及时完成,单次请求上下文会持续变大,累计计费可能远高于界面上某一轮看到的 Token。
近期社区在 0.1.7-rc.2 与 0.2.0-rc.2 中报告了自动压缩未触发、长会话后期成本扩大,以及 Goal Round 与截断工具结果相互放大的案例。这些是具体环境中的复现,不代表所有 Session 都会发生,但暴露了一条值得监控的故障链。
DSH 的压缩链路
Compaction 是可选能力,不属于 Agent Loop 主干。自动路径在请求生成前根据两类 Trigger 判断:
pressure:估算上下文接近配置阈值;context-overflow:Provider 已确认请求超过窗口。
压缩会选择一段保持 Tool Call/Result 配对的 Surface,用模型生成摘要,再以新的 User Message 替换旧区间。compaction/start、summary 与 end 记录完整事务;中途失败会留下可识别的失败尝试,而不是伪装成已经完成。
为什么窗口满了反而难以压缩
压缩本身也需要一次模型请求。若当前历史已经占满上下文,同时为摘要保留的输出空间过大,Provider 可能在摘要生成前就拒绝请求。此时自动压缩虽然被触发,却没有足够空间完成自救。
例如模型窗口为 80K、最大输出配置为 32K 时,真正可安全装入的历史远小于 80K。把进度条跑到 100% 再压缩,通常已经太晚。应给摘要请求、工具声明和下一轮输出保留明确余量。
0.2.1-alpha.1 如何提前保留余量
v0.2.1-alpha.1 将模型容量的权威来源放到实际 LLM Adapter 路由,并让主动压缩同时考虑上下文窗口 W、当前请求输出预留 O 与额外余量:
floor(min(W × thresholdRatio, W − O − headroomTokens))
默认 thresholdRatio 为 0.8,headroomTokens 为 65,536,retainRatio 为 0.16。摘要调用的 maxTokens 默认跟随 headroomTokens,其中还包含 Provider 计入的推理 Token。
这项变化解决的不是“窗口数字显示不准”,而是压缩时机:即使历史还没达到窗口的 80%,只要预留一次完整输出和摘要空间后预算更小,DSH 就会按更早的阈值执行。Provider 或模型切换后会重新解析容量;同名模型位于不同 Provider 时也分别计算。
自定义模型必须提供真实的 contextWindow 或正确的 defaultContextWindow。把窗口写得比 Provider 实际值大,只会让 DSH 更晚压缩,最终仍由 Provider 拒绝请求。小窗口模型则应缩小 headroomTokens 或降低 thresholdRatio,但必须保证 contextWindow > O + headroomTokens。
dsh-compact 为什么走了另一条路径
2026 年 10 月 19 日公开的社区项目 dsh-compact 不修改 DSH 本地 Session,也不替代内置 Compaction。它在 DSH 与 OpenAI 兼容 Provider 之间运行一个仅监听 127.0.0.1 的透明代理,只压缩即将发送到上游的请求。
代理先执行不调用模型的清理:移除 Base64 图片、缩短旧 Tool Result;请求仍超过阈值时,再调用压缩模型总结较早历史,同时原样保留最近对话。作者给出的 Plain Chat Fixture 从约 195,000 Token 降到 97,965 Token,五项事实回忆和七个摘要标题仍然保留。这是项目作者提供的单一 Fixture 结果,适合用来理解机制,不能直接当成所有任务的压缩率。
内置 Compaction 与本地代理的边界
| 维度 | DSH 内置 Compaction | dsh-compact 本地代理 |
|---|---|---|
| 修改位置 | Session 历史中的旧区间 | 只修改发往 Provider 的请求 |
| DSH 本地记录 | 写入压缩摘要和事件 | 保留原始 Transcript |
| 触发依据 | DSH 路由、窗口与 Pressure | 代理自己的阈值 |
| Provider 接入 | 使用 DSH 原生模型链路 | 需要 OpenAI Chat Completions 兼容接口 |
| 主要价值 | Session 原生缩短、后续轮次直接复用 | 不改本地历史,独立控制上游请求大小 |
两者不应在不了解阈值的情况下叠加。内置 Compaction 刚生成摘要,代理又对摘要后的请求二次总结,可能丢失更多细节,也会让成本和故障来源难以定位。选择代理前应先在隔离 Profile 中核对 Base URL、日志、数据边界和恢复方式。
Context Overflow 后如何救回 Session
社区在约 19 万 Token 的会话上报告过一种失败链:Token 低估让自动压缩触发过晚,摘要请求本身再次溢出,重放失败后 Session 无法继续。该案例采用分段压缩,将 227 条历史约 123,163 Token 压到约 9K Token,恢复了会话。
更稳妥的恢复顺序是:
- 立即停止自动续轮,避免历史继续增长;
- 复制 Session 或导出记录,保留原始证据;
- 按 Tool Call/Result 边界切分旧历史,不在调用与结果之间截断;
- 从最早区间开始分段摘要,每段完成后重新计算剩余窗口;
- 记录每段的输入大小、Finish Reason 与失败原因;
- 恢复后先执行只读检查,再继续可能产生副作用的任务。
本地代理可以减少下一次上游请求,但它不会自动修复已经写入 DSH Session 的损坏状态;Session 数据恢复仍然要在 DSH 的历史与 Compaction 事务层处理。
工具结果截断如何放大循环
压缩前,DSH 可以先对过大的 Tool Result 做确定性剪枝,保留头尾并移除中间内容。但如果 Agent 依赖的关键证据正好被截断,模型可能重复读取文件、重跑命令或不断验证。Goal 尚未完成时,自动续轮又会继续扩大累计请求量。
因此排查高费用不能只看“模型推理太多”,还要对照:
- 哪一轮开始出现
[…]或 Spill File; - Agent 是否反复读取同一资源;
- Compaction 事件是否有
start但没有成功摘要; - Goal Driver 是否因未调用完成状态持续续轮;
- Sub-agent 是否同时复制大段上下文。
监控指标
| 指标 | 预警信号 |
|---|---|
| 单轮输入 Token | 连续多轮快速上升 |
| 缓存未命中输入 | 工具 Schema、系统提示或前缀频繁变化 |
| 工具重复率 | 相同路径或命令被反复读取 |
| Compaction 状态 | 多次失败、摘要无明显缩减或遗留锁 |
| Goal 轮数 | 已无新进展但仍自动继续 |
| 费用/分钟 | 与输出质量脱钩地持续增长 |
安全配置与恢复
- 上下文阈值不要贴近模型硬上限,为摘要和输出留出空间。
- 给长任务设置轮数、时间与费用预算,达到任一上限就暂停检查。
- 大文件优先按范围读取,不要每轮重新加载全文。
- 观察工具结果剪枝标记,关键证据写入独立短摘要。
- 自动压缩失败时停止 Agent,临时扩大窗口后执行一次手动压缩,再恢复原配置。
- 恢复前检查可能已经执行的副作用,避免重复发布、写入或远程操作。
如何做可复现实验
固定模型、Profile、任务与工具集合,分别记录前 10 轮与后 10 轮的平均输入 Token、缓存命中、压缩次数、工具调用和费用。再设置一个更保守的压缩阈值重跑。只有当任务成功标准一致时,才能把费用差归因于压缩策略,而不是任务难度或输出质量。
相关阅读
- DeepSeek Harness 长会话:Token 预算、消息上限与 HTTP 400
- Agent Harness 组件效应:工具、上下文压缩与 Sub-agent
- 一个简单任务为什么跑了 50 轮?
- DSH Sub-agent 用量与计费分析
- DeepSeek Harness 动态工具与 KV Cache