Do Self-Evolving Agents Forget? Capability Degradation and Preservation in Lifelong LLM Agent Adaptation¶

论文信息¶

arXiv ID: 2605.09315
发表日期: 2026-05-10
作者: Ye Yu, Xiaopeng Yuan, Haibo Jin, Heming Liu, Yaoning Yu, Haohan Wang
类别: cs.AI / cs.CL
链接: https://arxiv.org/abs/2605.09315

摘要¶

大语言模型智能体（LLM Agent）的最新进展使系统能够自主优化工作流、积累可复用技能、自训练底层模型并维护持久记忆。然而，本文揭示了一个关键问题：这种自我进化通常是非单调的——适应新任务分布会逐步导致先前习得能力的退化，涵盖工作流、技能、模型和记忆等所有主要进化维度。

本文将这一现象定义为自我进化下的能力侵蚀（Capability Erosion under Self-Evolution），并证明其在所有四个进化维度上普遍存在。为解决这一问题，本文提出能力保持进化（Capability-Preserving Evolution, CPE），通过约束持续适应期间的破坏性能力漂移来稳定进化过程。在所有四个进化维度上，CPE 一致性地提升了保留能力的稳定性，同时保持了适应性能。例如，在工作流进化中，CPE 在 GPT-5.1 优化下将简单任务的保留性能从 41.8% 提升至 52.8%，同时实现了更强的复杂任务适应性。

核心贡献¶

1. 能力侵蚀现象的系统性识别¶

首次系统性地识别并定义了"自我进化下的能力侵蚀"问题，揭示了 LLM Agent 在工作流进化、技能进化、模型进化和记忆进化四个维度上的能力退化规律。

2. CPE 原则¶

提出能力保持进化（CPE）这一通用稳定化原则，在持续适应过程中约束破坏性能力漂移，为智能体的长期自我进化提供稳定性保障。

3. 多维度验证¶

在所有四个进化维度上进行实验验证，证明 CPE 能够一致性地改善能力保持稳定性，同时不损害适应性能：

工作流进化：简单任务保留率从 41.8% 提升至 52.8%（GPT-5.1 优化下）
技能进化：保持技能多样性的同时不损失新技能获取
模型进化：防止模型参数更新导致原有能力下降
记忆进化：保护历史记忆的完整性，避免记忆覆盖导致的能力损失

为什么重要¶

长期运行的 LLM Agent 需要不断适应新任务和环境，但本文揭示了"学习新能力"与"保持旧能力"之间的根本矛盾。没有机制约束的自我进化会在迭代中逐渐蚕食已建立的能力，导致系统整体性能的非单调退化。

CPE 为这一问题提供了原则性解决框架，强调稳定的长期自我进化智能体不仅需要获取新能力，还必须显式保持已学习的能力。这一发现对部署长期运行的自主 Agent 系统具有重要的实践意义。

与移动端/端侧的相关性¶

端侧 LLM Agent 面临更严格的资源约束和更受限的模型更新机制，能力侵蚀问题可能更为突出：

持续适应中的稳定性：端侧 Agent 无法频繁连接云端进行全量模型更新，需要在本地实现增量学习，CPE 原则可用于指导端侧持续学习策略
记忆进化的重要性：端侧 Agent 依赖持久记忆进行个性化服务，记忆进化过程中的能力保护直接影响用户体验
资源受限场景：CPE 的约束机制比完整模型重训练更轻量，适合端侧部署

参考文献¶

（参考文献待从原文补充）