单光子发射计算机断层扫描(Single-photon Emission Computerized Tomography，SPECT)是一种诊断成像技术，通过对投影数据进行断层重建来估计放射性示踪剂在体内的分布情况。放射性示踪剂会对人体造成特异性辐射损伤，目前在积极研究低剂量SPECT重建，希望能在减少辐射和图像质量之间找到最佳平衡点。为提高低剂量SPECT重建图像的质量，现有大量研究工作探索基于全监督的深度学习重建方法，该方法依赖大量的标记数据。然而，在医学图像处理领域，标记数据非常缺乏，而大量的未标记数据却很容易获得。为克服标记数据获取困难，本文提出一种新的半监督学习重建方法，使用预训练模型和GAN损失函数进行低剂量SPECT重建。

基于深度学习的重建方法已成为医学成像领域的主流。与基于模型的迭代重建^[1-3]方法相比，基于深度学习方法的优点是可以捕获图像的复杂特征和相关依赖关系，从而提高图像质量并降低计算成本。正如文献[4]中介绍的，基于深度学习的方法可以分为4大类：图像域学习、弦图域学习、混合域学习和自动映射。

弦图域学习可以被视为一种预处理方法，采用神经网络(Neural Network，NN)来学习弦图域插值并抑制噪声^[5-7]。文献[8-9]主要将残差学习与U-Net架构相结合，去除低光子数正弦图中的随机噪声或合成稀疏视角正弦图中的缺失数据。混合域学习是一种由物理和数据耦合驱动的方法。Shao等^[10]提出“SPECTnet”，采用两步训练策略，学习从投影空间到图像空间的转换，作为传统OSEM算法的替代方案。Li等^[11]使用一种用于SPECT图像重建的训练端到端展开迭代神经网络，这需要一个内存高效的前向−后向投影来实现高效的反向传播。Shao等^[12]提出用网络来重建图像，输入投影数据最初被输送到两个全连接(Fully Connected，FC)层以执行基本重建。然后，FC层的输出和衰减图被传递到5个卷积层，进行信号衰减补偿和图像优化。自动映射使用神经网络学习从弦图域到图像域的直接映射。以前的工作^[13-14]讨论利用通用深度神经网络的端到端图像重建。Häggström等^[13]提出一种基于深度卷积编码器−解码器网络架构的端到端正电子发射计算机断层扫描(Positron Emission Computed Tomography，PET)图像重建技术，网络以PET正弦图数据为输入，有效地输出高质量的重建图像。Pribanić等^[15]评估使用深度卷积神经网络(Deep Convolutional Neural Network，DCNN)来减少采集时间的可行性。欠采样图像数据集作为输入提供给神经网络，而缺失的投影作为目标提供。

图像域学习是一种后处理方法，应用神经网络从一些传统方法产生的损坏图像中学习噪声或伪影^[16]。Zhang等^[17]利用编码器−解码器框架逐步将输入图像压缩为特征表示，然后逐步将特征表示重建为完整的数据。对于低剂量医学成像，该方法采用深度学习来学习低剂量和正常剂量图像之间的映射，从而解决由于辐射剂量减少导致的图像质量差问题。Xie等^[18]提出一种逐层 Transformer 网络，用于从3D少角度数据重建心脏 SPECT 图像。Shao等^[19]提出一种神经网络，在给定SPECT投影数据和衰减图的情况下，可以为SPECT生成高分辨率和低噪声图像。

大多数基于深度学习的重建方法属于全监督学习，需要使用大量的标记数据训练。对于低剂量医学成像，标记数据包括配对的低剂量和正常剂量数据。然而，获取大量标记数据非常耗时且昂贵，并且临床上容易获得大量未标记数据。为解决标记数据缺乏，研究人员对医学成像的无监督和半监督学习方法进行研究。在无监督学习中，模型只能从可用数据中学习，生成高质量的去噪图像。Gu等^[20]使用自适应归一化层将低剂量CT(Low-dose CT，LDCT) 图像转换为正常剂量CT图像。事实上，半监督学习方法被证明在医学图像分割与分类任务领域是有效的^{[21- 22]}，可以利用少量标记数据和大量未标记数据来进一步提高学习性能。半监督学习方法通过训练少量标记数据和大量未标记数据降低低剂量医学成像中的噪声^[23]。此外，目前还没有针对低剂量SPECT的系统研究半监督学习方法。

本文在图像域学习提出一种带有GAN(Generative Adversarial Network)损失的预训练平均教师方法(Pre-trained Mean Teacher Method with GAN Loss，PMTG)，以实现低剂量SPECT重建。所提方法在平均教师(Mean Teacher，MT) 模型引入基于Swin-Conv-Unet(SCUNet)^[24]的预训练模型，以提高未标记训练数据的可靠性。教师模型指导学生模型进行一致性预测，预训练模型指导学生模型使用未标记数据进行相似性预测。GAN损失函数用于测量学生模型和预训练模型之间的相似度。数值实验验证所提方法在抑制噪声和保持特征方面的性能，数据集由SIMIND仿真软件使用XCAT数字模体生成。

1 方法与细节

本节提出一种用于低剂量SPECT重建的半监督学习方法，包括预训练模型和MT模型。并进一步描述仿真数据集和使用SIMIND进行SPECT成像的仿真设置。

1.1 GAN 损失的预训练平均教师学习方法

首先介绍所提PMTG方法的结构，包括3种学习模型如图1所示，学生模型(Student Model，SM)$ {f}_{\mathrm{S}} $可以整合来自教师模型(Teacher Model，TM)$ {f}_{\mathrm{T}} $和预训练模型(Pre-trained Model，PM)$ {f}_{\mathrm{P}} $的知识。其中教师和学生模型的骨干为UNet，预训练模型为SCUNet，相似性约束$ {\mathcal{L}}_{\mathrm{P}} $为GAN损失函数。TV-PAPA为全变差正则化的预处理交替投影算法。Proposed Model为PMTG方法。Label为正常剂量重建图像，Unlabel为低剂量重建图像。TM对一系列SM的参数进行平均，并通过一致性监督SM。PM采用SCUNet网络生成的伪标签使用GAN损失函数进一步监督SM。因此，SM不仅直接从标记数据中学习，还通过TM和PM获取未标记数据的知识。在本文中，$ {D}_{\mathrm{L}}= {\left\{\left({x}_{i}，{y}_{i}\right) \right\}}_{i=1}^{N} $表示标记数据集，其中$ {x}_{i} $为第$ i $个低剂量重建图像，$ {y}_{i} $为第$ i $个正常剂量重建图像。$ {D}_{\mathrm{U}}={\left\{\left({x}_{i}\right) \right\}}_{i=1}^{M} $表示未标记数据集。不失一般性，假设N远小于M。

首先，采用标记数据对PM进行训练，然后在所提PMTG方法中，将PM学习到的参数固定。另外，采用标记数据对SM进行训练，并将未标记数据输入到3个计算模型中。具体来说，PM的输出用于提高监督可靠性，TM的参数通过SM的指数移动平均(Exponential Moving Average，EMA)进行更新，其输出用于监督SM。

PMTG的复合损失函数设计算式如下：

$ {\mathcal{L}}_{\mathrm{t}\mathrm{o}\mathrm{t}\mathrm{a}\mathrm{l}}={\mathcal{L}}_{\mathrm{S}}+{\lambda }_{\mathrm{T}}{\mathcal{L}}_{\mathrm{T}}+{\lambda }_{\mathrm{P}}{\mathcal{L}}_{\mathrm{P}} $

(1)

式中，$ {\mathcal{L}}_{\mathrm{S}} $是SM和标记数据之间的平均绝对误差(Mean Absolute Error，MAE) 损失函数，$ {\mathcal{L}}_{\mathrm{T}} $是SM和TM之间使用均方误差 (Mean Squared Error，MSE) 的一致性正则化，$ {\mathcal{L}}_{\mathrm{P}} $为SM和PM之间的相似性约束。在该复合损失函数中，$ {\lambda }_{\mathrm{T}} $为预热师生一致性约束的步长相关系数，由下式给出

$ {\lambda }_{{\rm{T}}}\left(t\right) =\mathrm{e}\mathrm{x}\mathrm{p}\left\{-5 \cdot {\left(1-\frac{t}{{t}_{\mathrm{m}\mathrm{a}\mathrm{x}}}\right) }^{2}\right\} $

(2)

式中，$ t $为迭代次数，$ {t}_{\mathrm{m}\mathrm{a}\mathrm{x}} $为最大迭代次数，在训练初期，TM不可靠。一个小的$ {\lambda }_{\mathrm{T}} $切断不可靠的伪标签对SM的影响。随着训练的进行，TM会生成更可靠的伪标签，更大的$ {\lambda }_{\mathrm{T}} $对学生进行指导。$ {\lambda }_{\mathrm{P}} $为降温PM和SM相似性约束系数。随着训练进行，SM性能更好，$ {\lambda }_{\mathrm{P}} $越小，SM受到的约束越少。接下来详细介绍这3个损失函数。

1.1.1 预训练(PM)模型

在MT模型的训练阶段，由于SM学习能力不足，MT模型训练初期不稳定，导致TM学习的参数不可靠。为解决标记数据有限问题，本文添加一个PM，在训练的早期阶段通过未标记数据生成的伪标签指导SM。卷积神经网络(Convolutional Neural Network，CNN)仅具有局部建模能力，缺乏非局部建模能力^[25]。为获得局部和非局部建模能力，使用SCUNet作为附加分支，学习数据分布的结构信息，并在每个解码层加入一个残差连接。使用标记数据预训练，然后在PMTG中利用未标记数据固定PM参数。

在PMTG的训练阶段，PM参数固定，为未标记数据生成伪标签。在没有标签的情况下，伪标签并非真正的标签，使用逐像素度量可能导致更大的误差。因此，在本文中，设计一种相似性度量的GAN损失函数，由下式给出

$ {\mathcal{L}}_{\mathrm{P}}={\mathrm{E}}_{x}\left[\mathrm{l}\mathrm{g}D\left(x,{f}_{\mathrm{P}}\left(x\right) \right) \right]+{\mathrm{E}}_{x}\left[\mathrm{l}\mathrm{g}\left(1-D\left(x,{f}_{\mathrm{S}}\left({x}_{i},\theta \right) \right) \right) \right] $

(3)

式中，$ x\in {D}_{\mathrm{U}} $，$ D\left(\cdot \right) $作为判别器。当判定不正确时，对抗性损失会惩罚判别器；当判定正确时，对抗性损失项会惩罚SM。因此，SM努力通过最小化判别器的分类精度来改进其输出的图像，而判别器则努力最大化其分类精度。

1.1.2 MT模型

在PMTG中，采用MT模型来实现低剂量SPECT重建的半监督学习方法。SM和TM的骨干都是UNet^[26]。TM的权重($ {\theta }^{\mathrm{\text{'}}} $) 不是通过梯度反向传播更新，而是通过SM权重($ \theta $) 的EMA更新。

$ {{\theta }'_{t}}=\alpha {{\theta }'_{t-1}}+(1-\alpha ) {\theta }_{t} $

(4)

式中，$ \alpha $用于控制EMA更新率的衰减因子，$ t $表示迭代次数。$ \alpha $的值可以影响TM对SM的指导速度。MT模型目的是在模型扰动的影响下最小化SM和TM输出之间的差异。

$ {\mathcal{L}}_{\mathrm{T}}=\displaystyle\sum _{i=1}^{N+M}{\|{f}_{\mathrm{T}}({x}_{i},{\theta }') -{f}_{\mathrm{S}}({x}_{i},\theta ) \|}^{2} $

(5)

式中，$ {x}_{i}\in {D}_{\mathrm{U}} $，$ {f}_{\mathrm{T}}(\cdot,\cdot) $代表TM的输出，$ {f}_{\mathrm{S}}(\cdot,\cdot) $代表SM的输出。

SM需要从少量标记数据$ {D}_{\mathrm{L}} $中学习知识，

$ {\mathcal{L}}_{\mathrm{S}}=\displaystyle\sum _{i=1}^{N}\left|{f}_{\mathrm{S}}({x}_{i},\theta ) -{y}_{i}\right| $

(6)

式中，$ \left({x}_{i}，{y}_{i}\right) \in {D}_{\mathrm{L}} $，同时SM从TM和PM中获取$ {D}_{\mathrm{U}} $的知识。

1.2 仿真数据集与模拟设置

本文从XCAT(Extended Cardiac-torso)数字模体^[27]获得仿真数据集，为医学成像研究提供真实的成像数据。模体的正弦图数据是使用SIMIND软件模拟SPECT成像产生的。

首先选择10个不同的XCAT数字模体来生成仿真数据集，这是真实的头部和躯干三维骨骼数据，共有2190个切片，尺寸为128×128像素。模体信息包括切片数量、年龄、身高、体重指数(Body Mass Index，BMI)，见表1。

正常剂量水平的正弦图重建图像用作标签，低剂量水平的正弦图重建图像用作网络的输入。重建图像以4:1的比例划分为训练集和测试集。为扩大训练集并避免过度拟合，使用2种数据增强方法，包括水平翻转和垂直翻转。此外，采用无偏TV-PAPA^[2]重建算法将所有正弦图重建到图像域。

2 实验结果及分析

在本节中进行数值实验，证明所提方法的有效性，同时与对比方法相比有所提升。并给出实现其方法的参数集和评估指标。进一步在消融方面进行实验。

2.1 实验细节

所提PMTG中，PM采用SCUNet，代码位于https://github.com/cszn/SCUNet。SM和PM采用UNet，由4个下采样模块、4个上采样模块和瓶颈层组成。每个下采样模块由2个连续卷积层组成，卷积核大小为3×3，步长为1，采用批量归一化层，激活函数为LeakyReLU函数。同时，在每个下采样模块中进行最大池化减小图像大小。瓶颈层结构与下采样模块相同，每个上采样模块通过跳连接将图像大小放大两倍，然后由2个连续的卷积层组成，卷积层结构与下采样模块相同。在本文中，所有基于深度学习模型的权重均使用Adam算法进行优化，Adam的动量参数设置为$ {\beta }_{1}=0.5 $和$ {\beta }_{2}=0.999 $。根据经验实验研究$ {\lambda }_{\mathrm{T}} $设置为0.1，$ {\lambda }_{\mathrm{P}} $设置为0.01。框架的学习率设置为$ {10}^{-4} $。本文应用学习率衰减策略，其中学习率在训练周期的一半后从初始值线性衰减到0。该策略避免训练过程中的过度振荡，有利于目标函数收敛到鞍点。

所提模型在PyTorch平台上实现，并使用 NVIDIA 3090 TI GPU 进行训练。训练轮数为400。PM使用标记数据训练轮数为200，其参数在PMTG训练过程中是固定的。

2.2 评估指标

对于评估指标，采用3个全局图像质量指标和一个局部图像质量指标。全局图像质量指标为峰值信噪比(Peak Signal-to-Noise Ratio，PSNR)和结构相似性指数(Structural Similarity，SSIM)以及均方根误差(Root Mean Square Error，RMSE)。局部图像质量指标为平均对比度(Mean Contrast，MC)。

PSNR是评价图像重建的传统质量指标，PSNR值越高，重建图像的质量越高。SSIM是根据亮度、对比度和结构来评估两幅图像相似度的指标。SSIM值越高意味着结构信息匹配越好。RMSE用于测量图像之间的误差。

MC是计算高摄取区域ROI(Region of Interest)和低摄取区域背景之间的平均对比度差异。

$ {C}_{a}=\left\langle{\left|{A}-{B}\right|}\right\rangle $

(7)

式中，A为重建图像的高摄取区域ROI的平均放射性，B为距离边缘或边界周围5个低摄取区域背景的平均放射性，$ \left\langle{\cdot}\right\rangle $表示平均值。

2.3 性能对比实验

本文进行性能对比实验，验证提出的半监督学习方法优于其他对比方法。图2是使用不同方法重建的胸部图像。可以观察到TV-PAPA粗略地重建骨骼的整体轮廓，但丢失许多图像细节。相比之下，基于深度学习的方法既重建图像的整体结构，又恢复图像细节。为进一步评估不同方法的性能，选择两个ROI进行比较。对于图2(f)中标记的ROI II，可以观察到所提方法在保持骨骼结构和重建图像对比度方面优于其他方法。如图2(f)中标记的ROI I蓝色箭头所示，所提方法在获取图像特征方面相较于其他方法表现更为准确。

表2为不同方法的定量结果。所提方法在对比方法中取得最好的性能，相较于SCUNet，所提方法的PSNR提高了0.43 dB。与对比方法相比，定量结果表明所提方法取得更好的重建性能。MT方法使用不同骨干网络，性能提升并不明显。更换骨干网络并没有很大程度提升性能，是因为MT方法利用未标记数据的能力有限。相较于SCUNet作为MT方法的骨干网络，所提方法的PSNR提高了0.14 dB。

2.4 消融实验

本文进行消融研究使用有限的标记数据和大量的未标记数据，验证提出的半监督学习方法有效性。

表3为SM和PM之间使用不同度量方法的定量结果。如表3所示，使用逐像素MAE度量方法与MSE度量方法相当。相较于使用逐像素度量方法，使用GAN相似性度量方法，PSNR提高了0.21dB。由于未标记数据生成的伪标签在某种程度上是不可靠的，特别是在重建图像的器官边缘，这导致不准确的计算，从而影响模型性能。

表4为不同方法的训练时间和内存使用情况。PM采用SCUNet网络，该网络具备学习局部和非局部能力的特性。从表4可以看出，当MT方法替换骨干网络为SCUNet，相较于MT方法，训练时间增加2.5 h，内存使用量增加14674 MB。所提方法相较于MT方法，训练时间增加1.9 h，内存使用量增加661 MB。所提方法使用未标记数据以提高性能，同时训练时间和资源消耗大大减少。

图3(a)中的放大区域表示颚骨的一部分，本文使用MC指标定量评估局部区域对比度恢复质量。在10个XCAT模体的面下部切片中选择了颚骨上的高摄取区域ROI(如图3(a)中的绿色ROI所示)，高摄取区域ROI可能涵盖病灶区域，这为临床疾病应用提供潜在的帮助。本文计算10个XCAT模体的高摄取区域ROI和低摄取圆形背景之间的平均对比度差，并在图3(b)中绘制不同方法的MC结果，评估其局部对比度恢复能力。可以观察到，与其他方法相比，所提方法在高摄取区域ROI提供最佳的局部对比度。评估结果表明，与本文其他方法相比，所提方法可以有效地提高重建图像的局部对比度。

消融实验结果表明，所提GAN损失函数有助于提高重建性能。此外，本文验证GAN损失与其他逐像素度量损失之间的有效性。本文采用SCUNet作为预训练模型，通过有效地融合局部特征和非局部特征，实现最佳的图像重建性能。此外，通过实验证实得知，若采用过于强大的PM，由于其对图像细节的表现过多，可能导致SM的学习能力不足。

3 总结

本文提出一种带有GAN损失的预训练平均教师方法，以提高低剂量SPECT重建图像的质量。在传统的平均教师框架中加入基于SCUNet的预训练模型，同时利用GAN损失函数度量学生模型和预训练模型之间的相似度。实验结果表明，所提方法在不影响重建图像质量的前提下，能够降低SPECT成像所需的示踪剂剂量。所提方法有助于减轻大规模医学图像标注的需求。