跳转至

上下文压缩与输出保全

适用范围:独立 Runtime。 模型输入窗口有限,而聊天和工具输出会持续增长。系统分别通过对话压缩和输出溢写控制输入体积,长期记忆整合则负责保存可复用事实。

三种机制分别解决什么问题

机制 处理对象 目标 保留形式
对话压缩 较早的活动历史 给近期任务释放上下文空间 摘要与保留的消息
输出溢写(Spill) 单次过大的工具输出 避免结果占满模型输入 短预览与可取回原文
记忆整合 值得跨任务保留的信息 沉淀事实与摘要 带来源和作用域的记忆

压缩完成不表示长期记忆已经提交,工具输出落盘也不等于用户交付物已定稿。

历史压缩的方法

接近有效上下文预算时,系统对较旧内容生成摘要,保留需要的开头、近期消息及工具调用配对。处理先在副本中进行;只有获得完整可用的摘要,才替换活动历史。

摘要失败、截断或不可用时保留原内容,避免把“只剩头尾的历史”误当作完整记录。数据保留并不保证超长输入仍能被模型接受;需要恢复摘要能力、减少输入或明确开始新会话。

工具输出保全的方法

启用 Spill 后,超长工具结果写入当前工作区的专用存储,模型收到预览与引用。后续可按范围或模式取回相关原文,无需每次重新发送全部输出。

引用带有会话或访问范围约束,不能通过猜测其他引用获得越权读取。容量、保留期限和清理策略决定原文可用时间;临时引用不能作为永久文档地址。

与交付物的关系

用户要求报告或文件时,应生成实际交付物并核对内容,再通过目标入口提供文件或位置。保全的日志、工具长输出和压缩摘要用于执行过程,不应替代最终文档。

参数见配置参考,文件交付见任务与规划,长期信息处理见记忆系统。