跳转至

Causal Intervention-Based Memory Selection for Long-Horizon LLM Agents — arXiv:2605.17641

论文概览

核心问题: 长时序 LLM agent 的记忆系统面临"记忆选择"难题——如何从海量历史交互中检索出与当前任务真正相关的记忆?现有方法依赖语义相似度,但这种方法容易受到表面相关但实质无关的内容干扰。

方法: 从因果推断角度重新建模记忆检索,提出基于因果干预的记忆选择机制,识别并利用记忆与任务之间的因果关系而非表面统计相关性。

因果记忆选择机制

  1. 因果图建模:将历史交互、记忆内容、当前任务建模为因果图,通过 do-calculus 分析记忆对任务的因果效应
  2. 反事实记忆检索:不仅检索实际发生的记忆,还通过因果干预生成"如果记忆不包含 X 会怎样"的反事实场景
  3. 去混淆记忆选择:利用因果干预去除记忆选择过程中的混淆变量,提高检索的鲁棒性

核心贡献

  1. 因果推断框架首次引入记忆检索:提供理论严谨的记忆选择方法,解决语义相似度方法的"虚假相关"问题
  2. 反事实记忆检索:首次在 agent memory 领域引入反事实推理,增强 agent 对抗干扰信息的能力
  3. 理论保证:提供了因果记忆选择的理论分析,证明该方法在特定因果假设下优于纯统计方法
  4. 实验验证:在多跳推理和长时序规划任务上,因果方法相比语义相似度 baseline 精度提升 18-26%

为什么重要

记忆检索是 agent memory 系统的核心问题。当前的语义相似度方法本质上是"统计相关"——它无法区分"记忆与任务相关"和"记忆与任务恰好统计相关但无因果关系"这两种情况。因果干预提供了一种更 robust 的选择机制,能够识别真正的因果记忆路径。

与移动端/端侧的相关性

端侧 agent 在资源受限环境下更需要精准的记忆选择——上下文窗口有限,必须最大化每条记忆的贡献。因果方法虽然计算开销大于简单语义搜索,但其精度提升在记忆受限场景下价值更大。

参考文献

  • Sahai Srivastava, S. (2026). Causal Intervention-Based Memory Selection for Long-Horizon LLM Agents. arXiv:2605.17641.