PneumoNet: On-Device CL for Point-of-Care Pneumonia Diagnosis — arXiv:2605.19201
摘要¶
深度学习模型在胸片肺炎检测上准确率很高,但在设备、患者或机构差异造成的领域偏移下性能会下降。本文提出 PneumoNet,一种用于资源受限场景即时肺炎诊断的领域增量学习方法。PneumoNet 结合轻量级 CNN 用于端侧预测、双阶段平衡缓冲区用于类别均衡回放,以及动态类别加权损失用于修正训练批次不均衡。在模拟五种真实领域偏移场景的 PneumoniaMNIST 数据集上,PneumoNet 达到 86.6% 准确率且仅 1.4% 遗忘,同时体积和推理速度均优于现有方法。这些结果凸显了 PneumoNet 在现实世界和大流行准备场景中直接在即时医疗设备上实现自适应、隐私保护的诊断 AI 的潜力。
核心贡献¶
- 双阶段平衡缓冲区:结合近期样本缓冲区和类别均衡缓冲区,在线学习过程中维持类别平衡的回放能力
- 动态类别加权损失:根据当前批次样本分布动态调整损失权重,修正类别不均衡对梯度的影响
- 端侧友好设计:轻量级 CNN 架构,专为资源受限的即时医疗设备优化
- 86.6% 准确率 / 1.4% 遗忘:在领域增量学习设置下达到医疗可接受性能
为什么重要¶
这是将持续学习直接应用于真实端侧医疗场景的工作。在医疗设备上,模型需要不断适应新采集设备、新患者群体,但又不能遗忘对已有病症的诊断能力——这与 Agent 记忆系统在动态环境中持续适应的需求高度一致。PneumoNet 的双阶段缓冲区设计对理解如何在有限内存条件下平衡「近期记忆」和「类别均衡记忆」有直接参考价值。
与移动端/端侧的相关性¶
- 端侧持续学习典范:从算法设计阶段就考虑端侧资源约束,而非将云端模型压缩后部署
- 隐私保护:医疗数据留存在设备本地,仅模型更新在端侧完成,适合可穿戴和便携医疗设备
- 领域偏移适应:移动端场景(不同手机摄像头、不同使用环境)同样面临领域偏移问题,技术可直接迁移
方法细节¶
PneumoNet 包含三个协同设计的组件:
轻量级 CNN 预测器:针对移动/嵌入式设备优化的卷积网络架构,推理能耗低,适合即时诊断场景。
双阶段平衡缓冲区: - 第一阶段:维护近期样本的 FIFO 缓冲区,捕捉数据分布的时间演变 - 第二阶段:从第一阶段抽取类别均衡的子集,平衡各类别在回放中的代表性 - 双阶段设计同时解决「分布偏移」和「类别不均衡」两个挑战
动态类别加权损失: - 根据当前训练批次中各类别样本数量动态计算类别权重 - 对少数类样本的损失赋予更高权重,修正批次不均衡对梯度方向的影响
实验在 PneumoniaMNIST 的五种领域偏移模拟场景下验证:模拟不同医院设备、成像参数、患者群体等真实变异。86.6% 准确率和 1.4% 遗忘证明端侧持续学习在低资源医疗场景的可行性。
参考文献¶
见原文:https://arxiv.org/abs/2605.19201