title: "The Batch 979 LLM 清理智能体的“垃圾”"
source_url: "https://mp.weixin.qq.com/s?__biz=MzIxNzI0ODE4Nw==&mid=2247498891&idx=1&sn=a35fddf68e61cf6ecae6d54aa947f2ca"
author: "DeeplearningAI"
excerpt: "公共早报 研究人员提出Self-GC方法，利用LLM选择性压缩智能体上下文，通过保留、折叠或剪枝操作在降低成本的同时减少关键信息丢失。"
原创 DeeplearningAI 2026-09-04 12:45 北京
Hi～新朋友，记得关注我们哟
AI 智能体通常会通过总结或删除最早的内容来压缩其上下文窗口中的信息。研究人员提出了一种更有选择性地管理智能体记忆的方法。
●最新消息 ：社交购物网站小红书（也称 RedNote）的Xubin Hao及其同事构建了自主管理上下文（Self-GC）。与常见的智能体设计类似，Self-GC 会建立一个包含输入和输出的上下文，其中既有用户请求和工具调用，也有 URL、文件路径等结果。不同于典型的压缩算法，Self-GC在把上下文发送给关联的 LLM 之前，会由一个大语言模型来决定哪些部分保留、删减或丢弃。
****●关键见解 ：仅靠基于输入输出类型或保留期限的规则，并不足以让智能体决定应保留哪些上下文信息。较早的工具输出可能保存着唯一一个之后还要重新打开的 URL，而较新的输出可能已经过时。LLM 能以更灵活的方式做出这类判断，因为它可以随着上下文累积读取已有信息，并判断哪些细节未来更可能有用。
● 工作原理 ：当输入 token 占满主 LLM 上下文窗口的 30% 以上时，Self-GC 会把历史记录发送给规划模型（默认是 Qwen3.6-Plus），并要求它针对每条用户请求或工具调用及其结果，决定如何处理。
✴ 规划器可以保留这些条目，也可以从三种操作中选择一个。(i) "Fold" 会把某个条目收起来。其内容会移动到单独的存储中，同时附上一条简短说明，描述其位置，以便智能体在必要时能够逐字取回。(ii) "Mask" 会就地缩短条目，保留开头和结尾文本，同时删去中间的重复内容，这种方式适合较长的日志。(iii) "Prune" 会删除任务已不再需要的条目，例如失败命令的日志。
✴ Self-GC 会先在历史记录的副本上执行计划中的操作，并丢弃任何可能干扰最近请求或智能体对该请求持续响应的操作。然后，它会计算剩余操作可以节省多少输入 token。
✴ Self-GC 只有在估计到这能降低未来调用模型的总成本时，才会缩短历史记录，包括使用缓存输入所带来的节省。实际上，他们发现，如果能把历史记录至少缩短 30%，这个方案就值得应用，因此在测试中使用了这一经验规则。
● 性能表现 ：开发人员在一个会浏览网页、运行 shell 命令并为小红书用户编辑文档的智能体上测试了 Self-GC。他们把它与遵循固定规则的方法进行了比较，例如删除最早的消息或删除工具输出。Self-GC 删除的历史更少，但更不容易丢失有用信息。为衡量这一点，开发人员回放了真实用户与其智能体之间已经完成的对话。对于每段对话，他们会在进行到一半时暂停，在截至当时的历史记录上运行 Self-GC，并使用 GPT-5.5 判断缩短后的历史是否仍保留了真实对话后续会用到的每一个细节。
✴ 在一组被认为尤其困难的 33 段对话中，Self-GC 删除了 43.95% 的输入 token，并在 84.85% 的情况下保留了必要细节。基于规则的方法删除了 61.90% 到 69.87% 的 token，而保留必要细节的比例为 54.55% 到 69.70%。
✴ 在更大的 332 段对话集合上，Self-GC 删除了 31% 到 34% 的输入 token，同时在三种不同的规划模型（Qwen3.6-Plus、Qwen3.7-Max 和 GLM-5.1）上都能以 91.27% 到 94.58% 的概率保留必要细节，表明 Self-GC 可以与多种 LLM 配合有效工作。基于规则的方法删除了 40.19% 到 47.76% 的 token，而保留必要细节的比例为 77.71% 到 87.46%。
✴ 在一些真实用户账号上进行在线运行时，与未使用 Self-GC 的账号相比，Self-GC 删除了 10% 到 15% 的输入 token。
●****是的， 然而 ：开发人员的评估测试了 Self-GC 保留重要细节的能力，但没有测试它生成良好输出的能力。一个使用压缩上下文的系统，其输出可能与完整上下文系统包含相同的细节和结果，但未必同样有用。
****●重要原因 ：为了节省成本而压缩上下文会带来风险，即模型可能忘记之后需要的某个细节。知道该保留、删减和移除什么，能让长时间运行的智能体既保持可负担，又不会变得健忘。
****●我们在想 ：John McCarthy在 1959 年左右创造了"人工智能"一词，并为计算机发明了"垃圾回收（garbage collection）"，以便程序员不必手动管理计算机内存。妥善管理智能体记忆是另一种将 LLM 视为操作系统的方式------也再次说明，软件工程基础对于构建优秀的 AI 应用至关重要！
点击下方阅读原文查看更多有趣内容哦~
