CVPR 2026 | FaCHD-RPSC：基于跨头蒸馏与原型校正的增量目标检测

CVPR 2026 | FaCHD-RPSC基于跨头蒸馏与原型校正的增量目标检测文章目录1 论文信息2 基础概念3 论文主要贡献解决问题本文创新点4 方法4.1 整体框架4.2 FaCHD 模块双教师蒸馏中的类别空间修正与拼接一、 两个教师的原始输出1. 旧教师原始输出p r t − 1 p_r^{t-1}prt−1​2. 中间教师原始输出p r i m p_r^{im}prim​二、按区域属性划分三、背景交叉修正对R 1 \mathcal{R}_1R1​旧类区修正中间教师的新类前景四、类别拼接得到最终蒸馏目标p ‾ r \overline{p}_rp​r​4.3 RPSC 模块6 个人声明1 论文信息论文题目Incremental Object Detection via Future-Aware Decoupled Cross-Head Distillation论文作者Chenfeng Yin, De Cheng*, Wenlong Luo, Mingyue Zeng, Shizhou Zhang, Nannan Wang, Xinbo Gao发表单位1. Xidian University西安电子科技大学2.Northwestern Polytechnical University西北工业大学发表会议期刊CVPR 2026IEEE/CVF Conference on Computer Vision and Pattern Recognition 2026代码链接未公开2 基础概念持续学习Continual Learning模拟人类 “边学边记” 能力的机器学习范式核心目标是让模型在动态环境中持续学习多个连续任务同时最大程度保留对已学任务的能力。解决传统深度学习模型普遍存在的灾难性遗忘问题 。增量目标检测Incremental Object Detection, IOD持续学习在目标检测任务上的具体应用其核心任务定义与约束如下分阶段学习模型需要在 N 个连续阶段学习新的目标类别总类别空间逐步扩展数据约束第 t 个训练阶段只能使用当前阶段的标注数据D t D_tDt​且D t D_tDt​中仅标注当前新增的类别图片中可能包含未标注的历史旧类和未来新类但绝对禁止使用任何历史阶段的标注数据训练目标基于上一阶段的模型M t − 1 M_{t-1}Mt−1​迭代得到当前模型M t M_tMt​在准确学习新类检测能力的同时最大程度保留对所有历史旧类的检测性能3 论文主要贡献解决问题灾难性遗忘学习新类时参数更新会覆盖旧类知识。背景混淆问题训练数据仅标注新类旧类物体被误判为背景模型会学习到错误映射。梯度冲突与新类偏置传导传统蒸馏让检测头同时接收新旧类相反监督新类硬标注信号更强导致检测头偏置且偏置会反向污染骨干网络形成恶性循环。本文创新点提出未来感知解耦跨头蒸馏FaCHD机制通过双冻结互补教师架构与跨头解码策略实现骨干与检测头的完全解耦从根源上消除新类监督与旧类蒸馏的梯度冲突。提出区域原型语义校正RPSC模块冻结骨干后仅用校正原型重训检测头无需任何历史标注即可巩固旧类知识。在 PASCAL VOC、MS COCO 等标准基准上取得无样本重放设置下的 SOTA 性能。4 方法4.1 整体框架本文提出一种分层解耦的两阶段增量目标检测框架FaCHD-RPSC通过将骨干特征学习与检测头分类决策完全解耦系统性缓解无样本重放设置下的灾难性遗忘问题。首先通过未来感知解耦跨头蒸馏FaCHD模块优化骨干网络与区域提议网络解决传统蒸馏中检测头与骨干强耦合导致的梯度冲突与新类偏置传导问题再通过区域原型语义校正RPSC模块微调检测头补偿增量训练过程中旧类特征的语义漂移最终实现旧类知识保留与新类能力学习的平衡。4.2 FaCHD 模块FaCHD 模块采用双冻结互补教师架构引入上一阶段训练完成的历史教师与仅用当前新类数据训练的中间教师分别提供稳定的旧类知识与适配当前分布的新类知识。该模块的核心是跨头解码策略学生模型仅输出感兴趣区域ROI特征将其分别输入两个冻结的教师检测头生成跨头预测而非使用学生自身检测头参与蒸馏过程蒸馏损失仅作用于学生的骨干网络与区域提议网络完全切断蒸馏梯度向学生检测头的传导路径避免检测头的新类偏置反向污染骨干通用特征。双教师蒸馏中的类别空间修正与拼接一、 两个教师的原始输出两个教师的类别空间完全互斥、各自独立因此原始输出的维度不同不能直接用来蒸馏必须先修正再拼接。1. 旧教师原始输出p r t − 1 p_r^{t-1}prt−1​结构[ 旧类前景概率向量 p r c , t − 1 ] [ 背景概率标量 p r b , t − 1 ] [ \text{旧类前景概率向量 } p_r^{c,t-1} ] [ \text{背景概率标量 } p_r^{b,t-1} ][旧类前景概率向量prc,t−1​][背景概率标量prb,t−1​]特点对旧类物体的判断非常准但完全不认识新类遇到新物体会误判为背景或旧类。2. 中间教师原始输出p r i m p_r^{im}prim​结构[ 新类前景概率向量 p r c , i m ] [ 背景概率标量 p r b , i m ] [ \text{新类前景概率向量 } p_r^{c,im} ] [ \text{背景概率标量 } p_r^{b,im} ][新类前景概率向量prc,im​][背景概率标量prb,im​]特点对新类物体的判断非常准但完全不认识旧类遇到旧物体会误判为背景或新类。二、按区域属性划分用候选框与新类标注框的 IoU 阈值λ 2 \lambda_2λ2​将所有蒸馏区域划分为两类R 1 { d j ∈ R ∣ ∀ y i ∈ Y t , IoU ( d j , y i ) ≤ λ 2 } \mathcal{R}_{1}\{ d_{j}\in \mathcal{R} \mid \forall y_{i}\in \mathcal{Y}_{t}, \text{IoU}(d_{j},y_{i})\leq \lambda _{2}\}R1​{dj​∈R∣∀yi​∈Yt​,IoU(dj​,yi​)≤λ2​}R 2 { d j ∈ R ∣ ∀ y i ∈ Y t , IoU ( d j , y i ) λ 2 } \mathcal{R}_{2}\{ d_{j}\in \mathcal{R} \mid \forall y_{i}\in \mathcal{Y}_{t}, \text{IoU}(d_{j},y_{i}) \lambda _{2}\}R2​{dj​∈R∣∀yi​∈Yt​,IoU(dj​,yi​)λ2​}R 1 \mathcal{R}_1R1​旧类主导区和新类标注框重叠极低区域内大概率是旧类物体 / 纯背景几乎没有新类。R 2 \mathcal{R}_2R2​新类主导区和新类标注框重叠很高区域内大概率是新类物体。三、背景交叉修正用对方的背景置信度给本方的前景概率打折扣弥补本方的类别盲区。对R 1 \mathcal{R}_1R1​旧类区修正中间教师的新类前景p ^ r c , i m p r c , i m ⋅ p r b , t − 1 , r ∈ R 1 \hat{p}_{r}^{c, im}p_{r}^{c, im} \cdot p_{r}^{b, t-1}, \quad r \in \mathcal{R}_{1}p^​rc,im​prc,im​⋅prb,t−1​,r∈R1​R 1 \mathcal{R}_1R1​内大概率是旧物体因此旧教师输出的背景概率p r b , t − 1 p_r^{b,t-1}prb,t−1​会很低。用旧教师的背景置信度压低中间教师错误的前景预测避免误检四、类别拼接得到最终蒸馏目标p ‾ r \overline{p}_rp​r​修正完成后得到「一方修正后的前景向量」和「另一方的原始前景向量」将两者沿类别维度拼接就得到同时覆盖所有旧类 所有新类的完整前景概率向量即蒸馏的监督目标。p ‾ r { concat ( p ^ r c , i m , p r c , t − 1 ) , r ∈ R 1 concat ( p ^ r c , t − 1 , p r c , i m ) , r ∈ R 2 \overline{p}_{r} \begin{cases} \text{concat}\left( \hat{p}_{r}^{c,im},\, p_{r}^{c,t-1}\right) , r\in \mathcal{R}_{1} \\[6pt] \text{concat}\left( \hat{p}_{r}^{c,t-1},\, p_{r}^{c,im}\right) , r\in \mathcal{R}_{2} \end{cases}p​r​⎩⎨⎧​concat(p^​rc,im​,prc,t−1​),concat(p^​rc,t−1​,prc,im​),​r∈R1​r∈R2​​对R 1 \mathcal{R}_1R1​拼接「修正后的新类前景」「原始旧类前景」。旧类是可靠的直接用原始值新类不可靠用修正后的值。对R 2 \mathcal{R}_2R2​拼接「修正后的旧类前景」「原始新类前景」。新类是可靠的直接用原始值旧类不可靠用修正后的值。4.3 RPSC 模块在 FaCHD 完成骨干特征优化后针对增量训练导致的旧类 ROI 特征语义漂移问题引入 RPSC 模块在分类头层面进一步巩固旧类知识。旧类原型旧类标注图输入冻结的历史教师M t − 1 M_{t-1}Mt−1​提取 ROI 特征z t − 1 z_{t-1}zt−1​计算得到旧类多粒度原型浅蓝色三角形 / 五边形新类原型新类标注图输入冻结的学生模型M t M_tMt​提取 ROI 特征z t z_tzt​计算得到新类多粒度原型浅棕色三角形 / 五边形语义漂移估计与补偿对比z t z_tzt​与z t − 1 z_{t-1}zt−1​的特征差异通过高斯加权聚合得到每个旧类的全局漂移向量Δ ^ c \hat{\Delta}_cΔ^c​对旧类原型进行补偿得到适配当前特征空间的补偿后原型深蓝色三角形 / 五边形6 个人声明本文为作者对原论文的学习笔记与心得分享受个人学识与理解所限文中对论文内容的解读或有不够周全之处一切以原论文正式表述为准。本文仅用于学术交流与传播内容均由作者独立整理完成不代表本文立场。如文中所涉文字、图片等内容存在版权争议请及时与作者联系作者将在第一时间核实并妥善处理。