上下文压缩与输出保全¶
适用范围:独立 Runtime。 模型输入窗口有限,而聊天和工具输出会持续增长。系统分别通过对话压缩和输出溢写控制输入体积,长期记忆整合则负责保存可复用事实。
三种机制分别解决什么问题¶
| 机制 | 处理对象 | 目标 | 保留形式 |
|---|---|---|---|
| 对话压缩 | 较早的活动历史 | 给近期任务释放上下文空间 | 摘要与保留的消息 |
| 输出溢写(Spill) | 单次过大的工具输出 | 避免结果占满模型输入 | 短预览与可取回原文 |
| 记忆整合 | 值得跨任务保留的信息 | 沉淀事实与摘要 | 带来源和作用域的记忆 |
压缩完成不表示长期记忆已经提交,工具输出落盘也不等于用户交付物已定稿。
历史压缩的方法¶
接近有效上下文预算时,系统对较旧内容生成摘要,保留需要的开头、近期消息及工具调用配对。处理先在副本中进行;只有获得完整可用的摘要,才替换活动历史。
摘要失败、截断或不可用时保留原内容,避免把“只剩头尾的历史”误当作完整记录。数据保留并不保证超长输入仍能被模型接受;需要恢复摘要能力、减少输入或明确开始新会话。
工具输出保全的方法¶
启用 Spill 后,超长工具结果写入当前工作区的专用存储,模型收到预览与引用。后续可按范围或模式取回相关原文,无需每次重新发送全部输出。
引用带有会话或访问范围约束,不能通过猜测其他引用获得越权读取。容量、保留期限和清理策略决定原文可用时间;临时引用不能作为永久文档地址。
与交付物的关系¶
用户要求报告或文件时,应生成实际交付物并核对内容,再通过目标入口提供文件或位置。保全的日志、工具长输出和压缩摘要用于执行过程,不应替代最终文档。