跳转至

Continual Learning of Domain-Invariant Representations — arXiv:2605.15775

摘要

持续学习（Continual Learning, CL）旨在顺序训练模型学习多个领域而不遗忘先前知识。然而，现有 CL 方法优化域内性能，容易学习虚假、领域特定的线索（"捷径学习"），限制了模型在部署后泛化到未见领域的能力。本文首次提出域不变表示的持续学习方法，通过结合 replay-based 训练与时序不变性对齐，使模型能够逐步学习并保留跨领域的不变结构，在视觉、医学、制造和生态等六个基准数据集上均优于现有 CL 基线方法。

核心贡献

  1. 域不变表示的持续学习框架：提出一类新的 CL 方法，在时序训练中学习跨领域的底层因果结构，而非过拟合领域特定线索。
  2. 时序不变性对齐（Sequential Invariance Alignment）：结合 replay-based 训练与定制化的时序不变性对齐机制，确保模型在学习新领域时保留已有的不变表示。
  3. 面向部署的评估协议：采用衡量未见目标领域性能的评估方式，更贴合真实部署场景，而不仅是域内准确率。
  4. 六领域验证：在视觉、医学、制造、生态等领域共六个数据集上验证方法，实验表明该方法在跨域泛化上显著优于基线。

为什么重要

持续学习的核心挑战是灾难性遗忘（catastrophic forgetting），而本文揭示了一个更深层的问题：即使不遗忘，模型也可能学习虚假相关性（spurious correlations），导致在真实部署中泛化能力差。本工作将因果学习思想引入持续学习，通过学习领域不变的因果结构来提升泛化性——这对需要在动态环境中长期运行的 Agent 系统有直接意义。

与移动端/端侧相关性

  • 边缘部署友好：域不变表示减少了模型对特定设备/传感器特性的依赖，提升了从云端到边缘设备的迁移能力
  • 持续学习在端侧的重要性：端侧 Agent 需要在不同时段学习新任务（如新房间、新用户偏好），防止遗忘原有知识
  • 减少重训练成本：通过不变性学习减少对标注数据的需求，对数据稀缺的端侧场景有实际价值