Tunable MAGMAX: Preference-Aware Model Merging for CL — arXiv:2605.20803

title: Tunable MAGMAX: Preference-Aware Model Merging for Continual Learning arXiv: 2605.20803 date: 2026-05-20 tags: [agent-memory, continual-learning] reviewer: auto source: arXiv RSS/API

摘要¶

持续学习（Continual Learning, CL）旨在顺序训练模型以学习多个任务，同时缓解对先前知识的灾难性遗忘。近期的大预训练模型（LPMs）和模型合并技术（如 MAGMAX）在组合任务特定参数方面展现出有效的 CL 性能。然而，现有方法主要关注所有任务的平均性能，未能充分解决如何构建适应不同部署环境或用户偏好的模型问题。

本文提出 Tunable MAGMAX——一种支持偏好感知控制的模型合并框架，允许在 CL 中根据部署需求调整任务级性能。该方法引入偏好向量（preference vector），控制模型合并过程中从每个任务向量中选择多少元素，并提出利用少量目标环境数据和任务数据集自动构建偏好向量，无需人工指定。实验结果表明，Tunable MAGMAX 有效控制了任务级性能，成功将合并模型适配到不同目标环境，在偏好不同的任务性能权衡场景中取得了优异或相当的性能。

核心贡献¶

偏好感知模型合并框架：首次将用户/环境偏好引入模型合并的 CL 框架，支持灵活的任务性能权衡调控。
偏好向量机制：引入偏好向量控制合并时从各任务向量中选择的元素数量，实现对任务性能的精细调控。
自动偏好向量构建：提出利用少量目标环境数据和任务数据集自动学习偏好向量，消除人工指定的依赖。
优越的实验性能：在 CL 基准任务上，Tunable MAGMAX 优于或媲美基线方法，同时支持灵活部署。

为什么重要¶

模型合并（Model Merging）已成为 CL 领域的重要方向，但现有方法无法适应现实世界中不同部署环境对模型性能的不同偏好。Tunable MAGMAX 填补了这一空白，使得模型可以根据具体应用场景（如边缘设备强调效率、云端强调精度）灵活调整性能分配。这一工作对于将 CL 技术落地到真实部署环境具有重要价值。

与移动端/端侧相关性¶

边缘部署适配：偏好向量使得同一模型可以快速适配不同边缘设备的性能-效率权衡需求
用户个性化：支持根据最终用户偏好动态调整模型，无需重新训练
参数高效：模型合并本身是参数高效方法，结合偏好控制进一步提升实用性