Prototype guidance and dual-level contrastive learning for source-free domain adaptation
-
摘要:
无源域自适应(source-free domain adaptation, SFDA)旨在源域数据不可访问的情况下，实现预训练模型从源域到目标域的有效迁移。现有SFDA方法大多采用自训练学习策略，但其易受噪声伪标签的影响，模型难以准确捕捉数据关键特征，导致性能下降。为此，本文提出一种基于原型引导与双重对比学习的无源域自适应方法(prototype guidance and dual-level contrastive learning, PDCL)。PDCL基于源模型提取源域各类特征，构建目标域初始类别级原型表示。通过特征融合策略对齐源域各类别特征与目标域样本特征，生成目标域伪标签。引入原型正交损失，通过最大化类间原型的正交性以增强判别性。PDCL采用双重对比学习策略：在决策空间进行实例级对比，拉近近邻样本并推远异类样本；在特征空间进行原型级对比，增强特征空间的结构一致性。在Office-31、Office-Home及DomainNet-126基准数据集上的实验结果表明，PDCL在SFDA中相较现有先进方法实现了性能提升，验证了其有效性。
Abstract:Source-free domain adaptation (SFDA) aims to enable effective knowledge transfer of pre-trained models from the source domain to the target domain when the source samples are inaccessible. Most SFDA methods adopt self-training learning, but they are susceptible to noisy pseudo-labels, making it difficult for models to accurately capture intrinsic features and leading to performance degradation. To address this issue, we propose a novel SFDA method named prototype guidance and dual-level contrastive learning (PDCL). Specifically, PDCL first extracts features from the source domain using the pre-trained source model to construct initial class-level prototype representations for the target domain. Subsequently, it aligns the features of source and target samples via a feature fusion strategy, thereby generating pseudo-labels for the target domain. Secondly, it introduces a prototype orthogonality loss to enhance discriminability by maximizing the orthogonality between class prototypes. Finally, PDCL employs a dual-level contrastive learning strategy, where instance-level contrast is conducted in the decision space to pull near neighbors closer and push outliers away, while prototype-level contrast is conducted in the feature space to enhance structural consistency. Experimental results on Office-31, Office-Home, and DomainNet-126 datasets show that PDCL outperforms state-of-the-art methods, which validates its effectiveness.
-
近年来，深度学习算法在计算机视觉等诸多领域中取得突破性进展[1]，但其严重依赖大规模且高质量的标注样本。在实际应用中，对特定领域样本进行标注往往需要昂贵的人力和物力，因此获取高质量的标注样本非常困难。此外，许多算法通常基于训练和测试数据服从相同分布的假设。但在实际应用场景中训练和测试样本大多在不同条件下取得，导致它们之间的分布不一致，最终造成模型在目标域上性能下降[2]。为解决此问题，研究者提出了无监督域自适应(unsupervised domain adaptation, UDA)方法，旨在将知识从有标签的源域迁移至无标签的目标域[3]。UDA方法假设在模型适应过程中同时访问标记的源域训练数据和未标记的目标域训练数据。然而，由于数据隐私保护等因素，源域样本并不总能获取到。例如，医学图像通常涉及患者隐私，因此通常不对外公开。最近，无源域自适应(source-free domain adaptation, SFDA)方法被引入用于源域数据不可用的场景，其主要目标是在仅有预训练源模型的情况下实现向目标域的适应。
现有的SFDA方法可大致划分为基于生成的方法和基于自训练的方法[4]。前者旨在借助源模型中隐含的源域信息模拟源域数据分布，以此弥补适应时源域数据的缺失。常见的方式是利用生成模型，如生成对抗网络，生成类似源域的数据。然后，将目标域特征空间与生成的源域特征空间进行分布对齐，使得模型能够学习到跨域特征映射关系，从而在目标域上获得良好的性能[5]。然而，生成任务本身具有较高的挑战性和复杂性，生成的样本质量难以保证。低质量的生成样本可能包含噪声或与真实源域数据分布差异较大，进而干扰模型的学习过程，导致模型在目标域上的性能下降。基于自训练的SFDA方法利用模型对无标签目标域数据的预测结果，以自监督的方式对模型进行优化[6]。具体来说，模型首先使用源域数据进行预训练，然后在目标域数据上进行预测，根据预测结果生成伪标签。最后，利用这些伪标签对模型进一步训练，不断迭代优化模型参数，使模型逐渐适应目标域数据分布。此外，一些基于自训练的方法还会结合熵最小化和对比学习等思想。自训练方法凭借其在避免复杂数据生成方面的优势已成为当前的重要研究方向。本文聚焦于基于自训练的无源域自适应方法。通过回顾现有工作，发现此类方法仍存在一些不足。1)源域与目标域的数据分布差异导致原型生成质量难以得到有效把控，基于低质量原型生成的伪标签含大量噪声，会误导模型学习，进而干扰模型的训练过程。2)当前方法多依赖伪标签信息，模型缺乏对决策空间局部一致性与特征空间全局语义的有效约束，难以形成类内紧凑、类间分离的空间结构。
为解决上述问题，本文提出一种基于原型引导与双重对比学习的无源域自适应方法(prototype guidance and dual-level contrastive learning, PDCL)。具体而言，PDCL首先从源域中提取每个类别的平均特征，用以构建各类别的代表性特征及原型。随后，将从源域提取的代表性特征与目标域样本特征进行融合得到融合特征，并通过与原型进行相似性计算生成伪标签。为进一步提高原型在特征空间中的类间区分性，PDCL引入一种原型正交损失函数。该损失函数驱使任意两个原型向量在特征空间内趋向于正交或尽可能远离，从而增强模型的判别能力。此外，本文提出一种基于实例级和原型级的双重对比学习策略。一方面，实例级对比学习构建预测概率分布正负样本对，拉近与伪标签相同近邻样本的预测分布、推远不同样本的预测分布，在局部邻域内确保了实例级预测的一致性；另一方面，PDCL通过原型级对比学习，拉近目标实例的特征向量与其对应的类别原型之间的距离，同时将其推离其他类别的原型，实现特征层面的类内紧凑性与类间可分性。
本文的主要贡献可概括如下：
1)提出一种原型更新与优化策略。将源域预训练模型提取的特征作为原型初始化基础，同时引入原型正交损失函数，对不同类别原型施加正交性约束，可以抑制特征空间中的原型重叠，显著增强模型对目标域数据的类别判别能力。
2)设计一种双重对比学习策略。在实例级，通过局部邻域一致性约束拉近近邻样本并推远异类样本。在原型级，通过对齐样本与对应类别原型，增强类内紧凑性与类间可分性。该策略有效缓解了低质量原型与噪声伪标签的影响，提升了特征表示的判别力和鲁棒性。
3)在Office-31、Office-Home和DomainNet-126主流跨域图像识别基准数据集上进行了系统性实验验证。实验结果表明，本文提出的PDCL方法在无源域数据场景下，在多个跨域图像识别任务中均达到或超越当前先进方法性能水平，证明了PDCL的有效性。
1. 相关工作
1.1 无监督域自适应
UDA旨在将从有标签的源域学习到的知识迁移到无标签的目标域。主要分为以下几种方法：基于对抗性学习的方法，CDAN(conditional domain adversarial networks)[7]对由多线性条件和熵条件嵌入的特征表示和分类器预测的协方差进行条件对抗适应，使域不变特征学习更精细。基于度量最小化的方法，最大平均差异(maximum mean discrepancy, MMD)[8]通过最小化源域与目标域特征之间的平均特征差异来实现域对齐。基于伪标签的方法，A-UDA(augmentation-based unsupervised domain adaptation)[9]引入样本扩增的一致性正则化技术和标注扩增的伪标签技术。上述方法在特定任务场景下已取得一定成效，但值得注意的是其有效性高度依赖源数据的可用性。因此，传统的无监督域自适应方法很难在源域数据受限场景中应用。
1.2 无源域自适应
SFDA旨在不涉及源域数据和目标域数据标签的情况下，将源域预训练模型适应至目标域。主要可分为基于生成的方法和基于自训练的方法两类。
基于生成的方法通过生成符合源域风格的目标样本辅助适应过程。例如，SFIT(source-free image translation)[10]基于预训练源域模型的批归一化层，实现目标域训练数据的风格迁移，使其在特征分布上逼近源域风格；ProxyMix[11]通过融合每个类原型的最近邻样本及域内混合样本，构造类平衡的代理源域，进而实现跨域特征分布对齐。然而，该类方法易受多重因素影响导致生成样本质量不可控，进一步加剧伪标签失真。基于自训练的方法通过迭代生成并利用目标域伪标签进行模型微调。代表性工作如SHOT(source hypothesis transfer)[6]引入信息最大化损失并结合基于聚类的伪标签生成策略提升预测置信度；PLUE-SFRDA(pseudo label uncertainty estimation for source free robust domain adaptation)[12]联合信息熵和能量函数挖掘目标域数据的隐含信息，以准确估计目标域数据的伪标签。然而，此类方法高度依赖初始伪标签的准确性，当域间差异显著时，迭代过程中噪声标签易被持续放大，导致误差传播问题。
除上述核心范式外，研究者还提出了多种技术路线以提升适应性能。基于一致性与对齐的方法：CPD(class prototype discovery)[13]设计一种基于分类得分的原型学习策略，将SFDA问题转化为利用所有目标域训练数据的类原型优化问题。AaD(attracting-and-dispersing)[14]约束特征空间中邻近样本的预测一致性，增强远距离样本的预测差异性。然而，AaD主要关注局部邻域一致性，缺乏对全局语义的约束。基于原型与几何结构的方法：CDCL(cross-domain contrastive loss)[15]将源分类器权重作为类别原型，显式优化跨域特征距离以缩小源域与目标域的特征分布差异。GAP(generative model for the alignment of posterior probabilities)[16]通过捕获并迁移源域类别间的几何结构关系至目标域，促进模型的跨域适应性。然而，原型演化策略通常缺乏对原型空间分布的有效约束，可能导致不同类别的原型在特征空间中发生聚集性退化；而几何结构迁移方法往往忽略了类内特征的紧致性约束，易导致决策边界模糊。
传统自训练方法过度依赖伪标签，易导致误差传递问题。PDCL引入类原型作为全局锚点，为模型提供可靠的类别级监督信号，并引入原型正交损失，约束原型在空间中的分布，有助于抑制特征空间中的原型重叠，增强模型判别能力。
1.3 对比学习
自监督对比学习[17]作为无监督学习的重要范式，通过吸引语义相似的样本和排斥语义不同的样本从而学习具有强判别性的特征表示。受对比学习的启发，近期研究开始将其引入无源域自适应框架。例如，CPGA(contrastive prototype generation and adaptation)[18]使用生成的原型执行对比学习，并引入加权损失函数以提升伪标签的可靠性。HCID(historical contrastive instance discrimination)[19]融合对比学习与基于记忆库的学习策略，有效缓解了源域样本的缺失。LCCL(label consistent contrastive learning)[20]维护一个记忆库存储模型的输出来构建目标样本的正负样本对，以优化特征空间。A2Net(adaptive adversarial network)[21]设计针对目标域困难样本的辅助分类器，并结合类别感知的对比匹配模块实现目标特征的精准聚类。现有方法多聚焦于实例级对比学习，仅通过样本间的关系进行优化，而忽视了不同语义层次的对比关系。这类单一级别的对比策略存在两方面局限：无法有效捕获高层语义信息；易受低质量样本干扰。因此，PDCL提出实例级与原型级的双重对比学习策略，前者可以提高邻域预测一致性、后者有助于提升特征的类内紧凑性与类间可分性。
2. 本文方法
无源域自适应(SFDA)的目标是在仅有未标记的目标域训练数据和在监督源域上预训练的源模型的情况下，对源模型进行适应以适用于目标域。首先，基于源域数据集$ {\mathcal{D}}^{\mathrm{s}}=\{{\boldsymbol{X}}^{\mathrm{s}},{\boldsymbol{Y}}^{\mathrm{s}}\} $训练初始源域模型，其中$ \boldsymbol{x}_{i}^{\mathrm{s}}\in {\boldsymbol{X}}^{\mathrm{s}} $为源域样本，$ y_{i}^{\mathrm{s}}\in {\boldsymbol{Y}}^{\mathrm{s}} $为其对应的真实标签。利用预训练的源模型与无标签的目标域数据集$ {\mathcal{D}}^{\mathrm{t}}=\{{\boldsymbol{X}}^{\mathrm{t}}\} $执行SFDA。
为提升模型在跨域场景下的分类性能，本文主要从两方面进行改进。1)构建高质量原型，并持续优化，增强类间可判别性。2)构建实例级与原型级双重对比学习策略。本文提出的PDCL方法框架如图1所示，其中，图1(a)为源模型训练阶段，$ {f}^{\text{s}} $和$ {h}^{\mathrm{s}} $分别为源域模型的特征提取器和分类器。图1(b)为目标域适应阶段，$ \mathcal{M} $与$ \mathcal{S} $分别为目标域的特征库与概率库。$ {f}^{\text{t}} $和$ {h}^{\text{t}} $分别为目标模型的特征提取器和分类器。图1(c)与图1(d)分别对应2.3和2.4小节的原型引导学习与实例对比学习。
图 1 PDCL整体框架Fig. 1 Overall framework of the PDCL
下载:
全尺寸图片
2.1 源模型训练
借鉴SHOT的通用训练策略，本研究采用标签平滑(label smoothing, LS)技术[22]进行源模型训练。该技术通过抑制模型的过度自信预测，有效促进特征空间中类内特征的聚集与类间特征的分离。基于此，定义源域训练的目标函数为
$$ {L}_{\text{src}}(\boldsymbol{x}_{i}^{\mathrm{s}})=\sum\limits_{k=1}^{K}-q_{\mathrm{ls}}^{k}\log {\delta }^{k}({f}^{\mathrm{s}}(\boldsymbol{x}_{i}^{\mathrm{s}})) $$ 式中：$ q_{\mathrm{ls}}^{k}=(1-\mu ){q}^{k}+\mu /K $为平滑标签，$ {q}^{k} $为指示函数，当$ \boldsymbol{x}_{i}^{\mathrm{s}} $类别为$ k $时$ {q}^{k} $为1，否则为0。$ K $为总类别数，$ \mu $为平滑参数。$ {\delta }^{k}(\boldsymbol{a}) $表示向量$ \boldsymbol{a} $的第$ k $个分量，定义为$ {\delta }^{k}(\boldsymbol{a})=\exp ({a}^{k})/\displaystyle\sum_{i}\exp ({a}^{i}) $。
为深度挖掘源域知识，在源域训练阶段，模型提取并存储各类别的特征表示。这些特征在后续的适应过程中发挥两大作用：一方面，用于构建更具判别性与鲁棒性的类别原型，从而提升模型在目标域上的泛化能力；另一方面，通过聚合形成各类别的代表性特征，并与目标域样本进行特征融合，以缩小源域与目标域之间的分布差异。
具体而言，在骨干网络末端的平均池化操作前，对相同类别的样本特征进行平均运算，得到该类别的平均特征$ {\boldsymbol{M}}^{k}\in {\mathbf{R}}^{C\times H\times W} $，其表达式为
$$ {\boldsymbol{M}}^{k}=\frac{1}{{N}^{k}}\sum\limits_{i=1}^{{N}^{k}}{f}^{\mathrm{s}}(\boldsymbol{x}_{i}^{\mathrm{s}}) $$ 式中：$ {N}^{k} $表示第$ k $类的样本数。$ {\boldsymbol{M}}^{k} $保留了第$ k $类特征的空间信息，从而能够捕捉其空间分布信息。为进一步整合并提炼特征信息，生成更具概括性的全局类别表示，同时增强模型对输入微小扰动的鲁棒性。然后，对$ {\boldsymbol{M}}^{k} $应用平均池化操作，构造其对应类别的目标原型：
$$ {\boldsymbol{\omega }}^{k}\text{=avgpool}({\boldsymbol{M}}^{k}) $$ (1) 在源域模型向目标域迁移过程中，首先利用源域训练所得的类别原型初始化目标分类器[23]，即源模型训练完成后习得的分类器，并同步将其作为目标域初始类别原型，通过反向传播算法在后续训练中迭代优化。
2.2 特征融合和伪标签生成
2.2.1 特征融合
为弥补目标域中的分布差异，采用目标域样本特征与源域代表性特征相融合的策略。鉴于适应阶段目标域标签信息不可用，需将目标域各样本特征分别与源域中各类别代表性特征进行组合，生成融合特征。具体而言，对于目标域训练样本$ \boldsymbol{x}_{i}^{{\mathrm{t}}} $，其与源域第$ i $类代表性特征的融合并降维过程可表述为
$$ \boldsymbol{w}_{i}^{k}=\underset{k\in \{1,2,\cdots ,K\}}{\mathrm{avgpool}}(0.5\times \boldsymbol{M}_{\mathrm{mean}}^{k}\times {\boldsymbol{M}}_{i}+0.5\times \boldsymbol{M}_{\mathrm{max}}^{k}\times {\boldsymbol{M}}_{i}) $$ (2) 式中：$ \boldsymbol{w}_{i}^{k} $表示第$ i $个样本融合源域第$ k $类代表性特征的结果，$ K $为类别总数，$ {\boldsymbol{M}}_{i} $表示样本$ \boldsymbol{x}_{i}^{\text{t}} $的平均特征。$ \boldsymbol{M}_{\text{mean}}^{k} $与$ \boldsymbol{M}_{\text{max}}^{k} $分别为源域第$ k $类样本特征的平均映射和最大映射表征，定义为
$$ \begin{gathered} \boldsymbol{M}_{\mathrm{mean}}^{k}=\frac{1}{C}\sum\limits_{c=1}^{C}\boldsymbol{M}_{c}^{k} \\ \boldsymbol{M}_{\mathrm{max}}^{k}=\max\limits_{c\in \{1,2,\cdots ,C\}}\boldsymbol{M}_{c}^{k} \end{gathered} $$ (3) 式中：$ C $代表输出通道数，$ {\boldsymbol{M}}^{k} $为第$ k $类样本的平均特征。平均映射$ \boldsymbol{M}_{\mathrm{mean}}^{k} $通过聚合空间维度的所有通道信息，生成表征类别全局分布特性的统计特征。聚合类内所有样本的特征，可以抑制由个别样本的异常值和随机噪声所引入的局部噪声干扰，从而捕获特征的空间一致性。与之相对，最大映射$ \boldsymbol{M}_{\mathrm{max}}^{k} $致力于提取最具显著性的特征，同时抑制非关键细节，从而提供更具有判别性的特征表示。它凸显了类别中最具决定性的局部特征，强化了其重要性。综上，平均映射与最大映射分别从不同视角捕获类别特征。平均映射侧重整体特征的概括，而最大映射着重于突出关键特征。
将第$ i $个样本与源域各类别代表性特征融合后的整体特征可表述为
$$ {\boldsymbol{w}}_{i}=[\boldsymbol{w}_{i}^{1},\boldsymbol{w}_{i}^{2},\cdots ,\boldsymbol{w}_{i}^{k}] $$ 这种融合过程，以$ {\boldsymbol{w}}_{i} $的形成为核心，促使目标域特征与源域特征实现紧密对齐。这种对齐策略不仅有效缓解域偏移现象，更能显著提升特征表示能力，从而同时捕获源域的全局统计特性与显著局部特征。通过主动融合目标特征与源域代表性特征，$ {\boldsymbol{w}}_{i} $可校准在源域整体表征中贡献度不足却对目标域具判别性的特征分量，以此修正由数据分布差异引发的学习偏差。
2.2.2 伪标签生成
基于目标域样本的融合特征$ {\boldsymbol{w}}_{i} $与原型$ \boldsymbol{\omega } $之间的余弦相似度比较，通过最大化相似度确定最优匹配类别，进而生成目标域图像的伪标签。该过程可表示为
$$ \hat{y}_{i}^{\mathrm{t}}=\arg\max\limits_{k\in \{1,2,\cdots ,K\}}[\mathrm{sim}\left\langle \boldsymbol{w}_{i}^{k},{\boldsymbol{\omega }}^{k}\right\rangle ] $$ 式中：$ \mathrm{sim}\langle \cdot ,\cdot \rangle $表示余弦相似度，$ {\boldsymbol{\omega }}^{k} $为目标域第$ k $个类别原型。目标样本依据最邻近的类别原型被分配伪标签$ \hat{y}_{i}^{\mathrm{t}} $。在每轮训练过程中迭代执行此操作，实现对未标记目标样本的伪标签分配。
2.3 实例对比学习
2.3.1 相似性损失
在PDCL框架中，目标样本经迭代调整后，在特征空间中与其最近邻样本的相似度不断提高。该方法引导模型在后续迭代中为优化后的样本分配一致性更强的伪标签，从而有效纠正初始误分类，逐步提升伪标签的整体准确性。
为实现最近邻的精准识别，构建动态更新的目标域特征库$ \mathcal{M} $与概率库$ \mathcal{S} $，分别存储所有目标域样本的特征表示与预测概率。对于目标样本$ \boldsymbol{x}_{i}^{\mathrm{t}} $，其预测概率为$ p(\boldsymbol{x}_{i}^{\mathrm{t}}) $。通过维护特征库，可获取样本的最近邻$ {\mathcal{M}}_{i} $，与概率库$ \mathcal{S} $相结合即可快速获取各样本最近邻的预测概率集合。为减少因单个样本的标签或特征带来的噪声，本文使用$ K $近邻而非最近邻。基于此，引入相似性损失函数$ {L}_{\mathrm{sim}} $以拉近样本与其最近邻在预测空间中的距离，从而优化模型的表征能力。相似性损失$ {L}_{\mathrm{sim}} $的计算过程为
$$ {L}_{\mathrm{sim}}({\boldsymbol{x}}_{i})=-\sum\limits_{j\in {\mathcal{M}}_{i}}p{({\boldsymbol{x}_{i}^{\mathrm{t}}})}^{\mathrm{T}}\cdot p(\boldsymbol{x}_{j}^{\mathrm{t}}) $$ (4) 2.3.2 相异性损失
现有方法未能充分挖掘不相似样本所蕴含的潜在信息或依赖复杂辅助模块及历史模型存储实现对比学习。受AaD启发，PDCL框架引入基于小批量负样本的相异性损失$ {L}_{\mathrm{dis}} $，旨在强化负样本间的可区分性。区别于传统方法将小批量内所有样本视为负样本，PDCL采用基于精炼伪标签的样本筛选策略。通过识别并排除与目标样本具有相同伪标签的样本，即正样本对，为负样本的分离提供更为精确的类别指导信息。通过该方式，能够为需要分散的小批量负样本提供更具信息量的类别信息。同时，筛选后的负样本集包含更真实的异类样本，从而为模型提供了更清晰的类间分离信号。具体而言，对于小批量中目标样本$ \boldsymbol{x}_{i}^{\mathrm{t}} $，所有满足$ \hat{y}_{j}^{\mathrm{t}}\neq \hat{y}_{i}^{\mathrm{t}} $的样本构成负样本集$ {\mathcal{N}}_{i} $。相异性损失通过最大化目标样本$ \boldsymbol{x}_{i}^{\mathrm{t}} $与其负样本集的预测距离构建：
$$ {L}_{\mathrm{dis}}({\boldsymbol{x}}_{i})=\sum\limits_{j\in {\mathcal{N}}_{i}}p{({\boldsymbol{x}_{i}^{\mathrm{t}}})}^{\mathrm{T}}\cdot p(\boldsymbol{x}_{j}^{\mathrm{t}}) $$ (5) 相异性损失与相似性损失共同构成实例对比损失$ {L}_{\text{con}} $，以优化特征表示和伪标签生成准确性，表达式为
$$ {L}_{\mathrm{con}}={E}_{{\boldsymbol{x}_{i}^{\mathrm{t}}}\in {{\mathcal{D}}^{\mathrm{t}}}}[{L}_{\mathrm{sim}}(\boldsymbol{x}_{i}^{\mathrm{t}})+{L}_{\mathrm{d}{\mathrm{i}}\mathrm{s}}(\boldsymbol{x}_{{i}}^{\mathrm{t}})] $$ 2.4 原型引导学习
2.4.1 原型正交损失
特征融合与伪标签策略通常用于缓解域间差异，并通过实例对比学习优化目标域样本的局部特征表示。然而，域偏移和伪标签的固有噪声干扰仍可能导致原型退化现象。具体表现为，不同类别的原型向量在特征空间中过度聚集，逐渐丧失其判别性进而模糊决策边界。最终损害模型的判别能力，产生更多错误伪标签，形成模型性能持续下降的恶性循环。针对该难题，为确保模型在适应过程中维持具备良好区分性的类别结构知识，有必要在优化过程中引入一个宏观层面的结构化约束。该约束的核心目标在于：引导模型在适应目标域的同时维持类别间的区分度。为此，本文提出原型正交损失。其表达式为
$$ {L}_{\text{pro}}=\sum\limits_{i\neq j}{\boldsymbol{\omega }}^{i}\cdot {\left({\boldsymbol{\omega }}^{j}\right)}^{\mathrm{T}} $$ (6) 式中：$ {\boldsymbol{\omega }}^{i} $和$ {\boldsymbol{\omega }}^{j} $分别表示第$ i $类和第$ j $类对应的可学习原型向量。通过保持原型间的良好区分性，模型能够学习更具判别性的特征表示，从而在目标域上实现更准确的分类。
2.4.2 原型对比损失
尽管原型正交损失在宏观上保持了类别原型的分离性，但未显式约束目标样本与对应原型的对齐，且对伪标签信息利用不足。为此，本研究结合细粒度样本特征与粗粒度类别原型，提出一种原型级对比损失。通过优化样本与原型的关系，在特征空间内促进类内紧凑性与类间可分性。该损失作用于原型层面，相比于作用于单一实例，能够提升对噪声的抗干扰能力。
具体而言，对于目标样本$ \boldsymbol{x}_{i}^{\text{t}} $，原型对比损失利用目标样本的伪标签$ \hat{y}_{i}^{\text{t}} $与其融合特征$ {\boldsymbol{w}}_{i} $引导对比学习。其计算方式为
$$ \begin{gathered} {L}_{\text{ctr}}({\boldsymbol{x}}_{i}) =\\ -\log \frac{\exp (\text{sim}\langle {\boldsymbol{w}}^{k},{\boldsymbol{\omega }}^{k}\rangle /\tau )}{\exp (\text{sim}\left\langle {\boldsymbol{w}}^{k},{\boldsymbol{\omega }}^{k}\right\rangle /\tau )+\displaystyle\sum\limits_{j=1}^{K-1}\exp (\text{sim}\langle {\boldsymbol{w}}^{j},{\boldsymbol{\omega }}^{j}\rangle /\tau )} \end{gathered} $$ (7) 式中：$ \text{sim}\langle \cdot ,\cdot \rangle $表示余弦相似度。$ {\boldsymbol{\omega }}^{k} $为与样本伪标签$ \hat{y}_{i}^{\text{t}} $对应类别的原型向量，$ {\boldsymbol{w}}^{k} $代表融合了第$ k $类代表性特征的样本特征。$ {\boldsymbol{\omega }}^{j} $与$ {\boldsymbol{w}}^{j} $分别表示其余类别原型与融合特征。$ \tau $为温度超参数，用于调节相似度分布的尖锐程度。
2.5 优化目标函数
将所有损失函数整合，构建最终目标函数为
$$ {L}_{\text{total}}=\alpha \times {L}_{\text{sim}}+\beta \times {L}_{\text{dis}}+\gamma \times {L}_{\text{ctr}}+{L}_{\text{pro}} $$ (8) 式中：$ \alpha $、$ \beta $与$ \gamma $是其对应项的平衡系数。
目标域整体训练策略如算法1所示。特征提取器与分类器参数在每次迭代中依据损失梯度更新，直至收敛。
算法1 PDCL目标域整体训练算法
输入 源域模型$ {f}^{\text{s}} $和$ {h}^{\text{s}} $；无标签的目标域数据$ {\mathcal{D}}^{\text{t}} $；最大训练轮次$ E $；批量大小$ B $；超参数$ \alpha $、$ \beta $、$ \gamma $与$ U $；
输出 训练后的目标域模型$ {f}^{\text{t}} $和$ {h}^{\text{t}} $；
1)用源域模型参数初始化目标域模型，并构建目标域特征库$ \mathcal{M} $与概率库$ \mathcal{S} $；
2) for当前训练轮次$ e $=1,2,$ \cdots $,$ E $；
3)根据式(1)和(2)将目标样本特征与每个类的保留代表性特征进行融合得到融合特征；
4)根据式(3)比较样本融合特征与所有原型之间的余弦相似度，为样本分配伪标签；
5) for当前批次$ b $=1,2,$ \cdots $,$ B $；
6)在$ \mathcal{M} $与$ \mathcal{S} $中获取目标样本的$ U $个最近邻样本的预测概率；
7)根据式(4)计算目标样本与其对应$ U $个近邻之间的相似性损失；
8)根据式(5)和伪标签计算与负样本对的相异性损失；
9)根据式(6)计算原型之间的原型正交损失；
10)根据式(7)计算样本与原型之间的原型对比损失；
11) 通过SGD(stochastic gradient descent)与式(8)的总体损失优化目标域模型$ {f}^{\text{t}} $和$ {h}^{\text{t}} $；
12)重复3) ~ 11)$ E $次；
13) end。
3. 实验结果和分析
3.1 数据集及对比模型
为评估本文方法的性能，本文在3个域自适应基准数据集上开展了实验，包括Office-31[24]、Office-Home[25]和DomainNet-126[26]。其中，Office-31是小规模的数据集；Office-Home是中等规模的数据集；而DomainNet-126是大规模的数据集。为保证实验设置相同，遵循GPUE(guiding pseudo-labels with uncertainty estimation)[27]的设置，选用DomainNet中的4个域，每个域包括126个类别。
为验证PDCL的有效性，将其与无监督域自适应前沿方法以及无源域自适应方法进行对比。无监督域自适应方法包括CDAN、MDD(margin disparity discrepancy)[28]和MCC(minimum class confusion)[29]，用于说明在无源数据场景下传统UDA方法的局限性。无源域自适应方法包括1)传统自训练方法：SHOT、C-SFDA(a curriculum learning aided self-training framework)[30]和RST(rectifying self-training)[31]；2)基于对比学习的自训练方法：AaD和Ada(adacontrast)[32]；3)不确定性估计的方法：GOAL(global self-sustaining and local inheritance)[33]和GPUE。
3.2 实验设置
所有实验均在PyTorch深度学习框架与RTX 4090 GPU硬件条件下实现。为公平起见，严格遵循文献[6]的实现，本文所涉及的比较算法均采用ResNet-50[34]作为骨干网络。源模型采用ImageNet-1K[35]预训练权重初始化，训练过程使用交叉熵损失函数结合标签平滑策略进行优化。
目标域自适应阶段，模型参数及原型均使用源模型参数进行初始化。训练采用随机梯度下降SGD优化器[36]，各实验统一设置动量系数为0.9，权重衰减系数为$ 1\times {\text{10}}^{{-3}} $。Office-Home与Office-31数据集的epoch均设置为50，batch size均设置为64；DomainNet-126的epoch设置为20，batch size设置为128。最近邻数量超参数$ U $设置为4，表示在标签细化过程中，每个目标样本将利用特征库中与其最相似的4个近邻样本的信息。为平衡不同损失项对模型训练的影响，对3个权重平衡参数$ \alpha $、$ \beta $和$ \gamma $进行了精细的调整。$ \alpha $在Office-Home和Office-31中设定为1.8，在DomainNet-126中设置为2.6；$ \beta $在Office-31、Office-Home及DomainNet-126分别设置为0.9、1.8、0.6；$ \gamma $在3个数据集上统一设置为0.4。本文采用现有方法中广泛使用的分类准确率(Accuracy)作为性能评价指标。
3.3 实验结果及分析
本小节给出PDCL以及比较方法分别在Office-31、Office-Home和DomainNet-126上的分类表现，并对实验结果进行了深入的分析。实验结果如表1~3所示。
表 1 Office-31数据集上的分类准确率Table 1 Classification accuracy on the Office-31 dataset% 方法 SF A→D A→W D→A D→W W→A W→D 平均 Source × 80.4 76.5 60.2 95.6 63.4 98.6 79.1 MDD × 90.4 90.4 75.0 98.7 73.7 99.9 88.0 CDAN × 92.9 94.1 71.0 98.6 69.3 100.0 87.7 SHOT √ 94.0 90.1 74.7 98.4 74.3 99.9 88.6 AaD √ 96.4 92.1 75.0 99.1 76.5 100.0 89.9 GOAL √ 95.0 92.6 76.8 98.8 76.9 99.8 90.0 C-SFDA √ 96.2 93.9 77.9 99.7 77.3 98.8 90.5 PDCL √ 96.4 94.2 77.0 98.6 77.5 99.4 90.5 注：加粗表示最佳分类性能，SF表示在适应过程中源域数据不可获取。 表 2 Office-Home数据集上的分类准确率Table 2 Classification accuracy on the Office-Home dataset% 方法 SF A→C A→P A→R C→A C→P C→R P→A P→C P→R R→A R→C R→P 平均 Source × 34.9 50.0 58.0 37.4 41.9 46.2 38.5 31.2 60.4 53.9 41.2 59.9 46.1 CDAN × 50.7 70.6 76.0 57.6 70.0 70.0 57.4 50.9 77.3 70.9 56.7 81.6 65.8 MDD × 54.9 73.7 77.8 60.0 71.4 71.8 61.2 53.6 78.1 72.5 60.2 82.3 68.1 SHOT √ 57.1 78.1 81.5 68.0 78.2 78.1 67.4 54.9 82.2 73.3 58.8 84.3 71.8 AaD √ 59.3 79.3 82.1 68.9 79.8 79.5 67.2 57.4 83.1 72.1 58.5 85.4 72.7 C-SFDA √ 60.3 80.2 82.9 69.3 80.1 78.8 67.3 58.1 83.4 73.6 61.3 86.3 73.5 RST √ 60.9 80.4 83.8 70.5 79.8 79.5 67.3 59.6 84.5 73.7 60.5 87.6 74.0 GOAL √ 59.2 81.4 82.7 70.8 82.1 79.9 69.3 59.4 82.8 73.2 61.2 86.8 74.1 PDCL √ 56.7 79.4 84.2 72.1 81.0 83.3 74.1 57.7 85.4 74.5 59.0 87.8 74.6 注：加粗表示最佳分类性能，SF表示在适应过程中源域数据不可获取。 表 3 DomainNet-126数据集上的分类准确率Table 3 Classification accuracy on the DomainNet-126 dataset% 方法 SF R→C R→P P→C C→S S→P R→S P→R 平均 Source × 55.5 62.7 53.0 46.9 50.1 46.3 75.0 55.6 MCC × 44.8 65.7 41.9 34.9 47.3 35.3 72.4 48.9 CDAN × 65.0 64.9 63.7 53.1 63.4 54.5 73.2 62.5 SHOT √ 67.7 68.4 66.9 60.1 66.1 59.9 80.8 67.1 Ada √ 70.2 69.8 68.6 58.0 65.9 61.5 80.5 67.8 C-SFDA √ 70.8 71.1 68.5 62.1 67.4 62.7 80.4 69.0 GPUE √ 74.2 70.4 68.8 64.0 67.5 65.7 76.5 69.6 RST √ 72.1 72.0 71.5 64.6 68.6 62.8 81.5 70.4 PDCL √ 68.9 73.5 70.6 64.8 72.3 61.9 85.8 71.1 注：加粗表示最佳分类性能，SF表示在适应过程中源域数据不可获取。 从表中的实验结果，可以观察到如下结论。
1)PDCL方法在Office-31数据集上的对比结果如表1所示。PDCL在6个任务中的3个任务上达到最优性能，并与当前最优方法C-SFDA持平，共同达到最高的90.5%平均准确率。其在A→D、A→W、W→A任务以及整体平均性能上的领先，验证了PDCL在较小规模数据集上的有效性。
2)所提出的PDCL方法在Office-Home数据集的12个跨域对象识别任务中有6个优于其他对比方法，尤其在C→R和P→A任务上比当前最新的方法有较大的提升。PDCL在12个任务上的平均分类准确率最高，为74.6%，比基线方法SHOT提高了2.8百分点。
3)为进一步验证PDCL方法的有效性，本实验亦在具有挑战性的DomainNet-126数据集上进行评估。如表3所示，PDCL以71.1%的平均准确率领先于其他对比方法，较SHOT方法提升了4.0百分点。在7个跨域识别任务中的4项任务上表现最佳，特别是在S→P和P→R任务上提升明显，相较于SHOT分别提高了6.2和5.0百分点。
3.4 消融实验
与现有的相关方法相比，本文所提出的PDCL引入了相异性损失$ {L}_{\text{dis}} $、相似性损失$ {L}_{\text{sim}} $、原型对比损失$ {L}_{\text{ctr}} $和原型正交损失$ {L}_{\text{pro}} $。为验证其有效性，本小节在3个数据集上设计了一些消融实验，实验结果如表4所示。
表 4 消融实验结果Table 4 Ablation experiment results% 行号 $ {L}_{\mathrm{dis}} $ $ {L}_{\text{sim}} $ $ {L}_{\text{ctr}} $ $ {L}_{\text{pro}} $ Office-31 Office-Home DomainNet-126 0 79.1 46.1 55.6 1 √ 79.7 61.4 57.2 2 √ 84.1 63.2 61.6 3 √ √ 88.8 72.8 68.2 4 √ √ √ 89.5 73.7 70.3 5 √ √ √ 90.1 74.2 70.8 6 √ √ √ √ 90.5 74.6 71.1 注：加粗表示最佳分类性能。 通过表4可以看出，在分别引入相似性损失与相异性损失后(如表4第1行与第2行所示)，与初始源模型(第0行)相比，模型性能均获得一定提升。当将二者组合为完整的实例对比损失后，由第3行可知，所有数据集的分类准确率均呈现显著提升，这说明实例对比损失能有效拉近同类样本特征距离、扩大异类样本特征差异，从而增强局部特征的判别性。进一步地，在实例对比损失基础上分别引入原型对比损失(第4行)和原型正交损失(第5行)后，模型性能均优于仅使用实例对比损失的情况。这一结果表明，两种策略能协同抑制原型退化现象，同时增强类内特征的紧凑性和类间特征的可分离性。通过对比第4~6行实验结果发现：相较于原型对比损失，单独引入原型正交损失带来的性能提升更大；当同时引入两种损失时，模型达到最优性能。这一现象说明，原型正交损失能有效优化原型分离，提升伪标签质量。原型对比损失则可为原型向量学习提供更优的监督信号，两者协作共同促进原型表征的整体优化。以上7组对比实验结果充分验证PDCL方法所提出的4个损失的有效性。
3.5 参数敏感性分析
本小节讨论参数对所提出的PDCL性能的影响。PDCL主要包含4个参数，分别是控制相似性损失的$ \alpha $、相异性损失的$ \beta $、原型对比损失的$ \gamma $以及邻居数量$ U $。本小节依旧在上述3个基准数据集上进行实验分析，其中参数$ \alpha $在集合{1.0, 1.4, 1.8, 2.2, 2.6, 3.0}内取值，$ \beta $在集合{0.3, 0.6, 0.9, 1.2, 1.5, 1.8}内取值，$ \gamma $在集合{0.1, 0.2, 0.3, 0.4, 0.5}内取值，$ U $在集合{2, 3, 4, 5, 6}内取值。
对于参数$ \alpha $，首先将其他参数设置为最优值，然后按照给定范围变动其值，实验结果如图2(a)所示。在图2(a)中，PDCL方法的分类性能随着$ \alpha $的增大呈现先上升后下降的趋势。当$ \alpha $在[1.8, 2.6]范围内，PDCL可以获得相对稳定的分类性能。对整体趋势进行分析能够得到，当$ \alpha $过小时，同类样本的聚集效应不足，导致特征判别性降低；而当$ \alpha $过大时，模型过度关注局部特征优化，可能削弱全局结构的判别能力。
图 2 $ \alpha $、$ \beta $和$ \gamma $与PDCL的分类性能之间的关系Fig. 2 Classification performance with respect to $ \boldsymbol{\alpha } $, $ \boldsymbol{\beta } $ and $ \boldsymbol{\gamma } $下载:
全尺寸图片
对于参数$ \beta $，按照上面的方式，首先将其他参数设置为最优值，然后按照给定范围变动其值，实验结果如图2(b)所示。观察图2(b)可以发现，分类准确率在Office-Home与DomainNet-126数据集上随着参数$ \beta $的变化呈现不同趋势。这可能是由于Office-Home数据集类间视觉差异显著(如Art域与Product域)，增强相异性损失可有效分离易混淆类别，而类别重叠严重的DomainNet-126数据集采用更低的参数设置，避免过度分离导致破坏语义相关类别的特征连续性。
对于参数$ \gamma $，依旧按照上面的方式，首先将其他参数设置为最优值，然后按照给定范围变动其值，实验结果如图2(c)所示。由图2(c)可知，模型准确率的波动范围始终处于0.5%以内，表明PDCL对$ \gamma $的敏感性较低，具有较强的稳定性。
图3给出了不同邻居数量$ U $值对模型性能的影响。由实验结果可知，3个数据集均在$ U $为4时性能达到峰值，表明在给定范围内，4是兼顾判别性与鲁棒性的最佳值。当$ U $过小时，局部邻域信息不足，导致相似性损失无法充分考虑局部结构。$ U $过大时，会引入非同类噪声样本，模糊类内边界。
图 3 $ U $与PDCL的分类性能之间的关系Fig. 3 Classification performance with respect to $ \boldsymbol{U} $下载:
全尺寸图片
综上所述，当参数在合理的取值范围内变动时，新提出的PDCL的分类准确率基本保持稳定，并且能取得令人满意的结果。
3.6 特征分布可视化
为直观地展示所提出PDCL方法的优越性，本小节利用t-SNE(t-distributed stochastic neighbor embedding)技术将原始特征以及SHOT和PDCL学习到的转换后的特征进行可视化。图4显示了Office-Home数据集Pr→Ar任务上目标域的2维嵌入特征，其中不同颜色代表不同类别。由图4可知，与其他方法相比，PDCL实现了更清晰的特征表示和平滑的边界，表明PDCL能够提取更具区分性的特征。
图 4 特征可视化Fig. 4 Feature visualization下载:
全尺寸图片
3.7 时间复杂度分析
本节对所提出的方法以及对比方法的时间复杂度进行分析。在确保硬件配置与实验环境一致的前提下，对不同方法在Office-Home数据集上的训练时间和分类准确率进行了对比，结果如表5所示。通过表5可以看出，AaD的训练时间最短，但是其分类准确率欠佳。相较于RST，PDCL在保证分类准确性提升的同时，仅增加了约10%的训练时间开销。因此，PDCL在保持较小额外训练时间的前提下，实现了更高的分类准确率。
表 5 不同方法的耗时与精度Table 5 Performance and runtime of different methods方法 训练时间/min 分类准确率/% SHOT 572 71.8 AaD 524 72.7 RST 672 74.0 PDCL 750 74.6 4. 结束语
现有无源域自适应方法大多采用自训练学习策略，易受噪声伪标签的影响而阻碍模型性能。为此，本文提出一种结合原型与对比学习的无源域自适应方法PDCL。通过设计原型正交损失函数，构建具有区分度的类别原型，为模型适应提供可靠的监督信号。其次，提出实例和原型双重对比学习策略，其中实例对比损失包含相似性损失和相异性损失。相似性损失通过拉近与近邻样本的距离，增强类内紧致性；相异性损失则通过推远不同类样本的距离，提高类间区分度。原型对比损失则通过约束样本与其对应类别原型的相似性，同时降低与其他类别原型的相似性来强化特征的全局类别结构。双重对比学习策略在训练过程中协同优化模型特征表示学习。最后，在3个基准数据集上进行了大量的对比实验，结果证明了PDCL的有效性。
尽管PDCL在多个基准数据集上取得了良好的性能，但在伪标签生成过程中未考虑异常点的影响，可能会使模型在噪声较大的场景时鲁棒性有所降低。未来的研究工作将探索在伪标签生成过程中排除异常点的有效策略，从而提升模型在复杂场景下的性能。此外，无源域自适应方法有望在医疗诊断、工业质检等源域数据受限的应用场景中发挥重要作用。鉴于此，未来拟将该方法扩展至数据受限场景的医学辅助诊疗领域。
-
图 1 PDCL整体框架
Fig. 1 Overall framework of the PDCL
下载:
全尺寸图片
图 2 $ \alpha $、$ \beta $和$ \gamma $与PDCL的分类性能之间的关系
Fig. 2 Classification performance with respect to $ \boldsymbol{\alpha } $, $ \boldsymbol{\beta } $ and $ \boldsymbol{\gamma } $
下载:
全尺寸图片
图 3 $ U $与PDCL的分类性能之间的关系
Fig. 3 Classification performance with respect to $ \boldsymbol{U} $
下载:
全尺寸图片
图 4 特征可视化
Fig. 4 Feature visualization
下载:
全尺寸图片
表 1 Office-31数据集上的分类准确率
Table 1 Classification accuracy on the Office-31 dataset
% 方法 SF A→D A→W D→A D→W W→A W→D 平均 Source × 80.4 76.5 60.2 95.6 63.4 98.6 79.1 MDD × 90.4 90.4 75.0 98.7 73.7 99.9 88.0 CDAN × 92.9 94.1 71.0 98.6 69.3 100.0 87.7 SHOT √ 94.0 90.1 74.7 98.4 74.3 99.9 88.6 AaD √ 96.4 92.1 75.0 99.1 76.5 100.0 89.9 GOAL √ 95.0 92.6 76.8 98.8 76.9 99.8 90.0 C-SFDA √ 96.2 93.9 77.9 99.7 77.3 98.8 90.5 PDCL √ 96.4 94.2 77.0 98.6 77.5 99.4 90.5 注：加粗表示最佳分类性能，SF表示在适应过程中源域数据不可获取。 表 2 Office-Home数据集上的分类准确率
Table 2 Classification accuracy on the Office-Home dataset
% 方法 SF A→C A→P A→R C→A C→P C→R P→A P→C P→R R→A R→C R→P 平均 Source × 34.9 50.0 58.0 37.4 41.9 46.2 38.5 31.2 60.4 53.9 41.2 59.9 46.1 CDAN × 50.7 70.6 76.0 57.6 70.0 70.0 57.4 50.9 77.3 70.9 56.7 81.6 65.8 MDD × 54.9 73.7 77.8 60.0 71.4 71.8 61.2 53.6 78.1 72.5 60.2 82.3 68.1 SHOT √ 57.1 78.1 81.5 68.0 78.2 78.1 67.4 54.9 82.2 73.3 58.8 84.3 71.8 AaD √ 59.3 79.3 82.1 68.9 79.8 79.5 67.2 57.4 83.1 72.1 58.5 85.4 72.7 C-SFDA √ 60.3 80.2 82.9 69.3 80.1 78.8 67.3 58.1 83.4 73.6 61.3 86.3 73.5 RST √ 60.9 80.4 83.8 70.5 79.8 79.5 67.3 59.6 84.5 73.7 60.5 87.6 74.0 GOAL √ 59.2 81.4 82.7 70.8 82.1 79.9 69.3 59.4 82.8 73.2 61.2 86.8 74.1 PDCL √ 56.7 79.4 84.2 72.1 81.0 83.3 74.1 57.7 85.4 74.5 59.0 87.8 74.6 注：加粗表示最佳分类性能，SF表示在适应过程中源域数据不可获取。 表 3 DomainNet-126数据集上的分类准确率
Table 3 Classification accuracy on the DomainNet-126 dataset
% 方法 SF R→C R→P P→C C→S S→P R→S P→R 平均 Source × 55.5 62.7 53.0 46.9 50.1 46.3 75.0 55.6 MCC × 44.8 65.7 41.9 34.9 47.3 35.3 72.4 48.9 CDAN × 65.0 64.9 63.7 53.1 63.4 54.5 73.2 62.5 SHOT √ 67.7 68.4 66.9 60.1 66.1 59.9 80.8 67.1 Ada √ 70.2 69.8 68.6 58.0 65.9 61.5 80.5 67.8 C-SFDA √ 70.8 71.1 68.5 62.1 67.4 62.7 80.4 69.0 GPUE √ 74.2 70.4 68.8 64.0 67.5 65.7 76.5 69.6 RST √ 72.1 72.0 71.5 64.6 68.6 62.8 81.5 70.4 PDCL √ 68.9 73.5 70.6 64.8 72.3 61.9 85.8 71.1 注：加粗表示最佳分类性能，SF表示在适应过程中源域数据不可获取。 表 4 消融实验结果
Table 4 Ablation experiment results
% 行号 $ {L}_{\mathrm{dis}} $ $ {L}_{\text{sim}} $ $ {L}_{\text{ctr}} $ $ {L}_{\text{pro}} $ Office-31 Office-Home DomainNet-126 0 79.1 46.1 55.6 1 √ 79.7 61.4 57.2 2 √ 84.1 63.2 61.6 3 √ √ 88.8 72.8 68.2 4 √ √ √ 89.5 73.7 70.3 5 √ √ √ 90.1 74.2 70.8 6 √ √ √ √ 90.5 74.6 71.1 注：加粗表示最佳分类性能。 表 5 不同方法的耗时与精度
Table 5 Performance and runtime of different methods
方法 训练时间/min 分类准确率/% SHOT 572 71.8 AaD 524 72.7 RST 672 74.0 PDCL 750 74.6 -
[1] DONG Shi, WANG Ping, ABBAS K. A survey on deep learning and its applications[J]. Computer science review, 2021, 40: 100379. doi: 10.1016/j.cosrev.2021.100379 [2] LIU Xiaofeng, YOO C, XING Fangxu, et al. Deep unsupervised domain adaptation: a review of recent advances and perspectives[J]. APSIPA transactions on signal and information processing, 2022, 11(1): 1−51. [3] 李庆勇, 何军, 张春晓. 基于分类差异与信息熵对抗的无监督域适应算法[J]. 智能系统学报, 2021, 16(6): 999−1006. LI Qingyong, HE Jun, ZHANG Chunxiao. Unsupervised domain adaptation algorithm based on classification discrepancy and information entropy[J]. CAAI transactions on intelligent systems, 2021, 16(6): 999−1006. [4] LI Jingjing, YU Zhiqi, DU Zhekai, et al. A comprehensive survey on source-free domain adaptation[J]. IEEE transactions on pattern analysis and machine intelligence, 2024, 46(8): 5743−5762. doi: 10.1109/TPAMI.2024.3370978 [5] LI Rui, JIAO Qianfen, CAO Wenming, et al. Model adaptation: unsupervised domain adaptation without source data[C]//2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Seattle: IEEE, 2020: 9638−9647. [6] LIANG Jian, HU Dapeng, FENG Jiashi. Do we really need to access the source data? source hypothesis transfer for unsupervised domain adaptation[C]// Proceedings of International Conference on Machine Learning. New York: PMLR, 2020: 6028−6039. [7] LONG Mingsheng, CAO Zhangjie, WANG Jianmin, et al. Conditional adversarial domain adaptation[C]//Proceedings of the 32nd International Conference on Neural Information Processing Systems. Montréal: ACM, 2018: 1647−1657. [8] LONG Mingsheng, CAO Yue, CAO Zhangjie, et al. Transferable representation learning with deep adaptation networks[J]. IEEE transactions on pattern analysis and machine intelligence, 2019, 41(12): 3071−3085. doi: 10.1109/TPAMI.2018.2868685 [9] 曹艺, 郭茂祖, 吴伟宁. 融合扩增技术的无监督域适应方法[J]. 软件学报, 2025, 36(7): 3253−3270. CAO Yi, GUO Maozu, WU Weining. Unsupervised domain adaptation method with augmentation technology[J]. Journal of software, 2025, 36(7): 3253−3270. [10] HOU Yunzhong, ZHENG Liang. Visualizing adapted knowledge in domain transfer[C]//2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Nashville: IEEE, 2021: 13819−13828. [11] DING Yuhe, SHENG Lijun, LIANG Jian, et al. ProxyMix: proxy-based mixup training with label refinery for source-free domain adaptation[J]. Neural networks, 2023, 167: 92−103. doi: 10.1016/j.neunet.2023.08.005 [12] 王帆, 韩忠义, 尹义龙. 伪标签不确定性估计的源域无关鲁棒域自适应[J]. 软件学报, 2022, 33(4): 1183−1199. doi: 10.13328/j.cnki.jos.006467 WANG Fan, HAN Zhongyi, YIN Yilong. Source free robust domain adaptation based on pseudo label uncertainty estimation[J]. Journal of software, 2022, 33(4): 1183−1199. doi: 10.13328/j.cnki.jos.006467 [13] ZHOU Lihua, LI Nianxin, YE Mao, et al. Source-free domain adaptation with class prototype discovery[J]. Pattern recognition, 2024, 145: 109974. doi: 10.1016/j.patcog.2023.109974 [14] JUI S, VAN DE WEIJER J, WANG Kai, et al. Attracting and dispersing: a simple approach for source-free domain adaptation[C]//Advances in Neural Information Processing Systems 35. New Orleans: NeurIPS, 2022: 5802−5815. [15] WANG Rui, WU Zuxuan, WENG Zejia, et al. Cross-domain contrastive learning for unsupervised domain adaptation[J]. IEEE transactions on multimedia, 2023, 25: 1665−1673. doi: 10.1109/TMM.2022.3146744 [16] CHHABRA S, VENKATESWARA H, LI Baoxin. Generative alignment of posterior probabilities for source-free domain adaptation[C]//2023 IEEE/CVF Winter Conference on Applications of Computer Vision. Waikoloa: IEEE, 2023: 4114−4123. [17] 赵磊, 张慧铭, 邢卫, 等. 基于自相似与对比学习的图像跨域转换算法[J]. 计算机研究与发展, 2023, 60(4): 930−946. doi: 10.7544/issn1000-1239.202220039 ZHAO Lei, ZHANG Huiming, XING Wei, et al. Image cross-domain translation algorithm based on self-similarity and contrastive learning[J]. Journal of computer research and development, 2023, 60(4): 930−946. doi: 10.7544/issn1000-1239.202220039 [18] QIU Zhen, ZHANG Yifan, LIN Hongbin, et al. Source-free domain adaptation via avatar prototype generation and adaptation[C]//Proceedings of the Thirtieth International Joint Conference on Artificial Intelligence. Montreal: IJCAI, 2021: 2921−2927. [19] HUANG Jiaxing, GUAN Dayan, XIAO Aoran, et al. Model adaptation: historical contrastive learning for unsupervised domain adaptation without source data[C]//Proceedings of the 35th International Conference on Neural Information Processing Systems. Vancouver: Curran Associates Inc. , 2021: 3635−3649. [20] ZHAO Xuejun, STANISLAWSKI R, GARDONI P, et al. Adaptive contrastive learning with label consistency for source data free unsupervised domain adaptation[J]. Sensors, 2022, 22(11): 4238. doi: 10.3390/s22114238 [21] XIA Haifeng, ZHAO Handong, DING Zhengming. Adaptive adversarial network for source-free domain adaptation[C]//2021 IEEE/CVF International Conference on Computer Vision. Montreal: IEEE, 2022: 8990−8999. [22] MÜLLER R, KORNBLITH S, HINTON G. When does label smoothing help? [EB/OL]. (2019−06−06)[2025−08−28]. https://arxiv.org/abs/1906.02629. [23] ZHANG Yixin, WANG Zilei, HE Weinan. Class relationship embedded learning for source-free unsupervised domain adaptation[C]//2023 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Vancouver: IEEE, 2023: 7619−7629. [24] SAENKO K, KULIS B, FRITZ M, et al. Adapting visual category models to new domains[C]//Computer Vision – ECCV 2010. Berlin: Springer, 2010: 213−226. [25] VENKATESWARA H, EUSEBIO J, CHAKRABORTY S, et al. Deep hashing network for unsupervised domain adaptation[C]//2017 IEEE Conference on Computer Vision and Pattern Recognition. Honolulu: IEEE, 2017: 5385−5394. [26] PENG Xingchao, BAI Qinxun, XIA Xide, et al. Moment matching for multi-source domain adaptation[C]//2019 IEEE/CVF International Conference on Computer Vision. Seoul: IEEE, 2019: 1406−1415. [27] LITRICO M, DEL BUE A, MORERIO P. Guiding pseudo-labels with uncertainty estimation for source-free unsupervised domain adaptation[C]//2023 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Vancouver: IEEE, 2023: 7640−7650. [28] ZHANG Yuchen, LIU Tianle, LONG Mingsheng, et al. Bridging theory and algorithm for domain adaptation[C]//Proceedings of the 36th International Conference on Machine Learning. Long Beach: PMLR, 2019: 7404−7413. [29] JIN Ying, WANG Ximei, LONG Mingsheng, et al. Minimum class confusion for versatile domain adaptation[C]//Computer Vision–ECCV 2020. Cham: Springer, 2020: 464−480. [30] KARIM N, MITHUN N C, RAJVANSHI A, et al. C-SFDA: a curriculum learning aided self-training framework for efficient source free domain adaptation[C]//2023 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Vancouver: IEEE, 2023: 24120−24131. [31] XING Bowei, YING Xianghua, WANG Ruibin. Rectifying self-training with neighborhood consistency and proximity for source-free domain adaptation[J]. Neurocomputing, 2024, 606: 128425. doi: 10.1016/j.neucom.2024.128425 [32] CHEN Dian, WANG Dequan, DARRELL T, et al. Contrastive test-time adaptation[C]//2022 IEEE/CVF Conference on Computer Vision and Pattern Recognition. New Orleans: IEEE, 2022: 295−305. [33] PENG Lin, HE Yuhang, WANG Shaokun, et al. Global self-sustaining and local inheritance for source-free unsupervised domain adaptation[J]. Pattern recognition, 2024, 155: 110679. doi: 10.1016/j.patcog.2024.110679 [34] HE Kaiming, ZHANG Xiangyu, REN Shaoqing, et al. Deep residual learning for image recognition[C]//2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas: IEEE, 2016: 770−778. [35] DENG Jia, DONG Wei, SOCHER R, et al. ImageNet: a large-scale hierarchical image database[C]//2009 IEEE Conference on Computer Vision and Pattern Recognition. Miami: IEEE, 2009: 248−255. [36] BOTTOU L. Stochastic gradient descent tricks[M]//Neural Networks: Tricks of the Trade. Berlin: Springer, 2012: 421−436.
