DeepSeek Harness 长会话压缩:内置 Compaction 与本地代理

作者
DeepSeekAgent.io 编辑部
发布
更新

长会话成本并不只取决于最终回答有多长。Agent 每一轮都可能重新携带系统提示词、历史消息、工具定义与工具结果;当自动压缩没有及时完成,单次请求上下文会持续变大,累计计费可能远高于界面上某一轮看到的 Token。

近期社区在 0.1.7-rc.2 与 0.2.0-rc.2 中报告了自动压缩未触发、长会话后期成本扩大,以及 Goal Round 与截断工具结果相互放大的案例。这些是具体环境中的复现,不代表所有 Session 都会发生,但暴露了一条值得监控的故障链。

DSH 的压缩链路

Compaction 是可选能力,不属于 Agent Loop 主干。自动路径在请求生成前根据两类 Trigger 判断:

  • pressure:估算上下文接近配置阈值;
  • context-overflow:Provider 已确认请求超过窗口。

压缩会选择一段保持 Tool Call/Result 配对的 Surface,用模型生成摘要,再以新的 User Message 替换旧区间。compaction/start、summary 与 end 记录完整事务;中途失败会留下可识别的失败尝试,而不是伪装成已经完成。

为什么窗口满了反而难以压缩

压缩本身也需要一次模型请求。若当前历史已经占满上下文,同时为摘要保留的输出空间过大,Provider 可能在摘要生成前就拒绝请求。此时自动压缩虽然被触发,却没有足够空间完成自救。

例如模型窗口为 80K、最大输出配置为 32K 时,真正可安全装入的历史远小于 80K。把进度条跑到 100% 再压缩,通常已经太晚。应给摘要请求、工具声明和下一轮输出保留明确余量。

0.2.1-alpha.1 如何提前保留余量

v0.2.1-alpha.1 将模型容量的权威来源放到实际 LLM Adapter 路由,并让主动压缩同时考虑上下文窗口 W、当前请求输出预留 O 与额外余量:

floor(min(W × thresholdRatio, W − O − headroomTokens))

默认 thresholdRatio 为 0.8,headroomTokens 为 65,536,retainRatio 为 0.16。摘要调用的 maxTokens 默认跟随 headroomTokens,其中还包含 Provider 计入的推理 Token。

这项变化解决的不是“窗口数字显示不准”,而是压缩时机:即使历史还没达到窗口的 80%,只要预留一次完整输出和摘要空间后预算更小,DSH 就会按更早的阈值执行。Provider 或模型切换后会重新解析容量;同名模型位于不同 Provider 时也分别计算。

自定义模型必须提供真实的 contextWindow 或正确的 defaultContextWindow。把窗口写得比 Provider 实际值大,只会让 DSH 更晚压缩,最终仍由 Provider 拒绝请求。小窗口模型则应缩小 headroomTokens 或降低 thresholdRatio,但必须保证 contextWindow > O + headroomTokens。

dsh-compact 为什么走了另一条路径

2026 年 10 月 19 日公开的社区项目 dsh-compact 不修改 DSH 本地 Session,也不替代内置 Compaction。它在 DSH 与 OpenAI 兼容 Provider 之间运行一个仅监听 127.0.0.1 的透明代理,只压缩即将发送到上游的请求。

代理先执行不调用模型的清理:移除 Base64 图片、缩短旧 Tool Result;请求仍超过阈值时,再调用压缩模型总结较早历史,同时原样保留最近对话。作者给出的 Plain Chat Fixture 从约 195,000 Token 降到 97,965 Token,五项事实回忆和七个摘要标题仍然保留。这是项目作者提供的单一 Fixture 结果,适合用来理解机制,不能直接当成所有任务的压缩率。

内置 Compaction 与本地代理的边界

维度DSH 内置 Compactiondsh-compact 本地代理
修改位置Session 历史中的旧区间只修改发往 Provider 的请求
DSH 本地记录写入压缩摘要和事件保留原始 Transcript
触发依据DSH 路由、窗口与 Pressure代理自己的阈值
Provider 接入使用 DSH 原生模型链路需要 OpenAI Chat Completions 兼容接口
主要价值Session 原生缩短、后续轮次直接复用不改本地历史,独立控制上游请求大小

两者不应在不了解阈值的情况下叠加。内置 Compaction 刚生成摘要,代理又对摘要后的请求二次总结,可能丢失更多细节,也会让成本和故障来源难以定位。选择代理前应先在隔离 Profile 中核对 Base URL、日志、数据边界和恢复方式。

Context Overflow 后如何救回 Session

社区在约 19 万 Token 的会话上报告过一种失败链:Token 低估让自动压缩触发过晚,摘要请求本身再次溢出,重放失败后 Session 无法继续。该案例采用分段压缩,将 227 条历史约 123,163 Token 压到约 9K Token,恢复了会话。

更稳妥的恢复顺序是:

  1. 立即停止自动续轮,避免历史继续增长;
  2. 复制 Session 或导出记录,保留原始证据;
  3. 按 Tool Call/Result 边界切分旧历史,不在调用与结果之间截断;
  4. 从最早区间开始分段摘要,每段完成后重新计算剩余窗口;
  5. 记录每段的输入大小、Finish Reason 与失败原因;
  6. 恢复后先执行只读检查,再继续可能产生副作用的任务。

本地代理可以减少下一次上游请求,但它不会自动修复已经写入 DSH Session 的损坏状态;Session 数据恢复仍然要在 DSH 的历史与 Compaction 事务层处理。

工具结果截断如何放大循环

压缩前,DSH 可以先对过大的 Tool Result 做确定性剪枝,保留头尾并移除中间内容。但如果 Agent 依赖的关键证据正好被截断,模型可能重复读取文件、重跑命令或不断验证。Goal 尚未完成时,自动续轮又会继续扩大累计请求量。

因此排查高费用不能只看“模型推理太多”,还要对照:

  • 哪一轮开始出现 […] 或 Spill File;
  • Agent 是否反复读取同一资源;
  • Compaction 事件是否有 start 但没有成功摘要;
  • Goal Driver 是否因未调用完成状态持续续轮;
  • Sub-agent 是否同时复制大段上下文。

监控指标

指标预警信号
单轮输入 Token连续多轮快速上升
缓存未命中输入工具 Schema、系统提示或前缀频繁变化
工具重复率相同路径或命令被反复读取
Compaction 状态多次失败、摘要无明显缩减或遗留锁
Goal 轮数已无新进展但仍自动继续
费用/分钟与输出质量脱钩地持续增长

安全配置与恢复

  1. 上下文阈值不要贴近模型硬上限,为摘要和输出留出空间。
  2. 给长任务设置轮数、时间与费用预算,达到任一上限就暂停检查。
  3. 大文件优先按范围读取,不要每轮重新加载全文。
  4. 观察工具结果剪枝标记,关键证据写入独立短摘要。
  5. 自动压缩失败时停止 Agent,临时扩大窗口后执行一次手动压缩,再恢复原配置。
  6. 恢复前检查可能已经执行的副作用,避免重复发布、写入或远程操作。

如何做可复现实验

固定模型、Profile、任务与工具集合,分别记录前 10 轮与后 10 轮的平均输入 Token、缓存命中、压缩次数、工具调用和费用。再设置一个更保守的压缩阈值重跑。只有当任务成功标准一致时,才能把费用差归因于压缩策略,而不是任务难度或输出质量。

相关阅读

参考资料