跳转至

TriMem: Beyond Atomic Facts in Lifelong Agent Memory — arXiv:2605.19952

论文基本信息

  • 标题: Rethinking How to Remember: Beyond Atomic Facts in Lifelong LLM Agent Memory
  • arXiv ID: 2605.19952
  • 发表日期: 2026-05-19
  • 作者: Jingwei Sun, Jianing Zhu, Jiangchao Yao, Tongliang Liu, Bo Han
  • 方向: cs.CL
  • 代码: https://TMLR-TriMem.github.io

摘要(英译中)

为了实现可靠的长期交互,LLM Agent 需要能够忠实地存储、高效地检索并深入推理积累的对话历史。大多数现有方法采用基于抽取事实的范式:手工设计的静态提示词将原始对话压缩为原子事实,然后存储、匹配并注入下游推理。然而,这种以事实为中心的设计不可避免地丢弃了原始对话中的细粒度细节,且无法支持对分散孤立事实的深度推理。此外,静态提示词无法在不同的对话风格中保持一致的抽取粒度。为解决这些局限,本文提出 TriMem,维持三种共存的表示粒度:以源标识符锚定的原始对话片段(保障存储保真度)、抽取的原子事实(支持高效记忆检索)、以及将分散事实聚合为整体语义理解用于深度推理的合成画像。本文进一步采用基于 TextGrad 的提示词优化,通过响应质量反馈迭代优化抽取和画像生成提示词,实现无需任何参数更新的终身进化。在 LoCoMo 和 PerLTQA 多个 LLM 主干上的实验表明,TriMem 一致地优于强基线记忆方法。

核心贡献

  1. 三元记忆表示(TriMem):首次提出同时维持三种记忆粒度的框架——原始对话片段(raw segments)、原子事实(atomic facts)和合成画像(synthesized profiles),分别对应存储保真度、检索效率和深度推理能力。

  2. TextGrad 驱动的终身进化:无需更新任何模型参数,仅通过响应质量反馈迭代优化抽取和画像生成的提示词,实现记忆系统的终身自适应演化。

  3. 一致的抽取粒度:解决了静态提示词在不同对话风格下粒度不一致的问题,通过 TextGrad 自动学习针对不同上下文的自适应抽取策略。

  4. 多粒度协同检索:检索时可在三种粒度间自适应切换,兼顾召回率和精确率。

关键发现

  • 原子事实化导致细粒度信息丢失,原始对话保留则存储成本过高,合成画像在两者之间取得平衡
  • 静态 prompt 无法适应终身学习中的分布漂移问题
  • TextGrad 优化可有效学习提示词,无需梯度反向传播,节省计算资源

为什么重要

TriMem 揭示了现有 Agent 记忆系统的核心矛盾:以静态方式处理动态增长的对话历史。传统 RAG 或事实抽取方法过度简化了人类记忆的复杂性。本文的三元架构为终身 Agent 记忆提供了一个更符合认知科学原理的解决方案,同时保持了端侧友好的轻量特性(无需微调或额外参数)。

与移动端/端侧的相关性

TriMem 的提示词驱动优化策略对端侧部署友好——无需更新模型权重,只需调整提示词即可适应新任务。其多粒度记忆架构也与移动端 Agent 的差异化检索需求高度契合:即时响应用原子事实,深入推理用合成画像。

参考文献

参考文献待从原文补充。详情见 https://arxiv.org/abs/2605.19952