0 引　言

近年来，随着深度学习在图像处理、语音识别、自然语言处理等领域的成功应用^[1]，在无线通信领域，引入深度学习进行系统设计的思想理念则成为学者们广泛关注的热点。特别是文献[2]开创性地提出了一种基于端到端学习优化自编码器概念的通信系统设计方案，将深度学习的“热浪”带入到了无线通信物理层关键技术研究领域。由此构建的基于深度学习的无线收发机已经显示出良好的系统性能，例如正交频分复用（orthogonal frequency division multiplexing, OFDM）无线通信系统^[3]，多输入多输出（multiple input multiple output, MIMO）无线通信系统^[4]和单载波无线通信系统^[5]，均为通信系统设计提供了新的理念。

海上通信受到海洋复杂多变环境影响，信道衰落较为严重，误码率也较高。对于无线通信多载波调制系统，由于OFDM技术可以将频率选择性衰落信道划分成多个平坦衰落子信道，因此经常用来对抗频率选择性衰落的影响。然而，OFDM系统需要高精度的信道估计来恢复发送信号。通常使用基于导频的频域信道估计算法，如最小二乘（least squares, LS）算法和线性最小均方误差（linear minimum mean square error, LMMSE）算法。除去经典信道估计算法之外，文献[6]设计了一种简单全连接（full connection，FC）神经网络构成的OFDM信道估计器。文献[3]和文献[7]结合图像处理领域，信道估计问题被表述为超分辨率重建问题^[8]，将导频数据视为低分辨率图像，需要估计的信道频域响应(channel frequency response，CFR)被视为相应的高分辨率图像，并用神经网络实现此过程。此外，文献[3]还使用密度卷积神经网络（dense convolutional neural networks, Dense-Net）进一步降低了计算复杂度并提高了模型的表达能力，但是使用的激活函数和损失函数缺乏一定的合理性。可以看到，以上研究方案多是基于简单直接的监督深度学习来实现的。这需要在实际中获取大量的无偏差实时信道状态信息，其实现困难且成本高。无监督深度学习将神经网络从标签数据中解放出来，有效地解决目标信息不足或获取困难的问题^[9]。此外，无监督深度学习方法可以与现有监督深度学习方法结合，使用容易获取的标签数据对神经网络进行预训练，帮助网络构建合理的初始化映射方案，并通过无监督学习查找标签数据中未包含的潜在特征。

在文献[3]的基础上，本文提出一种改进的无监督深度学习海上OFDM系统信道估计算法。无监督深度学习在没有真值信息约束的情况下进行训练，即训练过程中不用额外提供CFR作为标签。而且，在该算法中提出了使用双极性激活函数的思想，引入最小化曼哈顿距离作为目标函数，用以降低算法复杂度、加快模型收敛和提高信道估计精度。

针对常用非线性激活函数的软饱和问题，提出传统Elu和负极性Elu的混合使用方案，提高了神经网络隐藏层的特征表达能力，使模型更轻量化。

针对实数构成的神经网络，提出最小化曼哈顿距离的目标函数，提高了模型的迭代收敛速度和信道估计精度。

1 系统模型

信道估计问题被描述为一个图像超分辨率过程^[10]，导频数据视为低分辨率图像，并由Dense-Net重建高分辨率的全部CFR图像^[3]。本文提出的模型借助无监督深度学习摆脱了对输出真值（CFR）的束缚，同时提出的双极性激活函数使用方案和最小化曼哈顿距离的目标函数使模型更轻量化、高效化及更精确估计CFR。

1.1 迭代过程

图1展示了一个典型神经网络模型，由1个输入层，L-2个隐藏层和1个输出层构成。每一层由全连接层、卷积层或循环层等任何具有可更新参数的结构层 $ {S_l}\left( {{w_{{1_l}}}, \ldots ,{w_{{n_l}}};x} \right) $ 构成，其中 $ {S}_{l}(·) $ 表示每l个结构层的映射，l=1为输入层，l=L为输出层， $ {w_{{n_l}}} $ 表示第l结构层的第n个可更新参数，x表示层输入。结构层经过激活函数层 ${F_l}\left( x \right)$ 完成一次层的前向传播过程，其中，输入层和隐藏层一般使用非线性激活函数来增加各层的非线性映射学习能力，常用的非线性激活函数Elu如图2所示^[11]，输出层则通常根据不同学习的任务选择线性函数或其他有利于预测结果的函数。因此，该神经网络每层的前向传播结果可以表示为 ${O_l} = {F_l}\left( {S_l}\left( {w_{{1_l}}}, \cdots ,\right. \right. \left.\left.{w_{{n_l}}};{O_{l - 1}} \right) \right)$ ，其中l−1>0。通过损失函数 $ J(·) $ 计算出模型本次前向传播的总估计误差 $J\left( {{O_L},y} \right)$ ，O_L为该模型的输出层预测值，y为该模型的输出真值，常用的损失函数有交叉熵函数和均方误差函数等^[12]。

使用梯度下降法反向传播以迭代更新参数，从而获得最小化的总估计误差。计算第l层前向传播结果O_l相对前一层前向传播结果O_l−1的偏导：

$ {D_l} = \frac{{\partial {O_l}}}{{\partial {S_l}({O_{l - 1}})}} \times \frac{{\partial {S_l}({O_{l - 1}})}}{{\partial {O_{l - 1}}}}\text{，} $

(1)

因此，损失函数相对第l层的第i个（i={1,2…,n_l}）可更新参数的偏导可以表示为：

$ \frac{{\partial J\left( {{O_L},y} \right)}}{{\partial {w_{{i_l}}}}} = \frac{{\partial J\left( {{O_L},y} \right)}}{{\partial {O_L}}} \times {D_L} \cdots \times \frac{{\partial {O_l}}}{{\partial {S_l}({w_{{i_l}}})}}\times \frac{{\partial {S_l}({w_{{i_l}}})}}{{\partial {w_{{i_l}}}}} \text{，}$

(2)

由此，得出参数 $ {w_{{i_l}}} $ 的一次反向传播结果：

$ w_{_{{i_l}}}^{{\text{new}}} = w_{_{{i_l}}}^{} - \alpha \frac{{\partial J\left( {{O_L},y} \right)}}{{\partial w_{_{{i_l}}}^{}}}\text{。} $

(3)

可知，参数 $ {w_{{i_l}}} $ 的更新值主要由学习率 $\alpha _{}^{}$ 和损失函数相对 $ {w_{{i_l}}} $ 的偏导结果 $ {{\partial J\left( {{O_L},y} \right)} \mathord{\left/ {\vphantom {{\partial J\left( {{O_L},y} \right)} {\partial {w_{{i_l}}}}}} \right. } {\partial {w_{{i_l}}}}} $ 影响。其中，学习率 $\alpha _{}^{}$ 通常随着迭代次数的增加而降低，以此控制参数更新的步长使损失函数迭代收敛至最小值。此外，由式（2）可知，偏导结果由损失函数的导数 $ {{\partial J\left( {{O_L},y} \right)} \mathord{\left/ {\vphantom {{\partial J\left( {{O_L},y} \right)} {\partial {O_L}}}} \right. } {\partial {O_L}}} $ 、各层激活函数的导数 $ {{\partial {O_l}} \mathord{\left/ {\vphantom {{\partial {O_l}} {\partial {S_l}({O_{l - 1}})}}} \right. } {\partial {S_l}({O_{l - 1}})}} $ 和各结构层偏导 $ {{\partial {S_l}(\theta )} \mathord{\left/ {\vphantom {{\partial {S_l}(\theta )} {\partial \theta }}} \right. } {\partial \theta }} $ 三部分构成， $ \theta _{}^{} $ 为该结构层可更新参数或输入数据。其中，损失函数由模型的优化目标决定，因此在固定优化目标下，其导数趋势保持一致。同样的，各结构层偏导 $ {{\partial {S_l}(\theta )} \mathord{\left/ {\vphantom {{\partial {S_l}(\theta )} {\partial \theta }}} \right. } {\partial \theta }} $ 和由层间连接结构及层类型决定，即受到神经网络的结构设计影响。意味着在固定的损失函数和神经网络结构下，各层间激活函数的选取对反向传播至关重要。

Elu激活函数在深度学习领域得到广泛应用。相对于其他主流激活函数，Elu具备非线性映射能力和输出均值接近于0，即收敛快速等优点。然而，Elu存在左侧软饱和现象，负值输入时输出逐渐趋近于固定值并且导数逐渐趋近于0，即参数值更新极小或停止更新。这些问题对于处理分类问题或计算机视觉等非负数据任务可能没有显著影响，然而对于信道估计任务来说，估计数据并非单一极性且幅度随机，这就需要使用更多的特征和更深的网络层弥补Elu左侧软饱和的缺点。因此，提出传统Elu（ ${F_{{\text{Elu}}}}\left( x \right)$ ）和负极性Elu（ $ - {F_{{\text{Elu}}}}\left( { - x} \right)$ ）的混合使用方案。通过叠加处理的操作解决软饱和的问题，同时保证非线性映射的能力。

1.2 无监督学习信道估计算法

基于无监督学习的信道估计模型框图如图3所示，具体结构参数由表1给出。比特信息通过OFDM发射机生成无监督深度学习模型的输入数据T，T被映射到频域以提高神经网络学习效率，其包含e个OFDM信号，每个OFDM信号有m个子载波，每个子载波携带的复数信息由2个实数表达。发送信号T经过无线信道，信道频域响应为H、加性高斯白噪声（AWGN）为N。接收端得到频域接收信号 $ R{\text{ = }}TH{\text{ + }}N $ ，并根据已知导频分布信息提取导频信号P得到信道估计网络的输入，每个OFDM信号包含p个导频信号。由于基于Dense-Net的超分辨率信道估计算法^[3]表现出良好的信道估计性能，仍沿用此神经网络设计方案，导频信号分别通过图1正极性Elu和负极性Elu激活函数构成的Dense-Net信道估计网络^[3]，并输出2组CFR预测值。最后，根据式 $ R{\text{ = }}TH{\text{ + }}N $ 的逆过程 $ T{\text{ = }} R{\text{/}}H{\text{ - }}N{\text{/}}H $ 获得估计结果 $ \hat T $ ，即OFDM接收信号R除以正极性和负极性信道估计网络输出的预测CFR之和 $ \hat H $ ，N/H则为正则化项。

整个模型，利用估计输入数据 $ \hat T $ 与原始输入数据T的一致性误差 $ J(·) $ 作为损失函数。同时，由于输入数据T的恢复过程中涉及到CFR估计，因此以无监督学习的方式完成对信道频域响应的估计 $ \hat H $ 。此外，干扰信号中的随机噪声与随机信道的组合N/H增加了模型对噪声的鲁棒性。高信噪比训练时，方差极小的偏置值N/H充当了正则化项，其作为随机偏置抑制了模型训练时的过拟合现象，同时提高了模型的泛化能力^[13]。

相比于使用单一极性激活函数的网络，传统Elu和负极性Elu的混合使用方案在一定程度上解决了整体模型的软饱和问题。意味着以更少的参数和更浅的网络层深度能够完成原有信道估计任务。更重要的是，相比于监督的深度学习，无监督学习不需要数据标签（CFR）。

1.3 模型训练

本文提出的无监督学习信道估计模型以OFDM发射机的频域发送信号T作为训练数据（由Python编写的OFDM系统仿真生成），并用绝对误差（mean absolute error）作为训练损失函数，其表达式为：

$ {J_{{\text{MAE}}}} = \frac{{\text{1}}}{U}\sum\nolimits_{i = 1}^U {\left| {{t_i}^{{\text{real}}} - {{\hat t}_i}^{{\text{real}}}} \right| + \left| {{t_i}^{{\text{imag}}} - {{\hat t}_i}^{{\text{imag}}}} \right|}\text{。} $

(4)

其中： $ {t_i}^{{\text{real}}} $ 和 $ {\hat t_i}^{{\text{real}}} $ 分别为实部的训练数据和估计数据； $ {t_i}^{{\text{imag}}} $ 和 $ {\hat t_i}^{{\text{imag}}} $ 为虚部的训练数据和估计数据；U为复信号样本数。

MAE体现了真实值和估计值在二维空间上的曼哈顿距离^[14]，表述了2个值在标准二维坐标系上的各自绝对轴距之和。MAE可以描述出2个实数特征的误差并使其收敛至最优解，同时最小化了实、虚部的真实值与估计值之间的误差，保证了模型的合理收敛。

在激活函数上，选取传统Elu、负极性Elu和Linear激活函数帮助神经网络实现非线性和线性映射及快速收敛。为了防止数据过拟合，设定神经元随机失活（Dropout）的概率为0.1。更重要的是，使用ADAM算法优化反向传播过程，在训练过程中控制梯度下降的步长与方向，使神经网络更容易向最优解收敛。

此外，无监督学习无由于缺少真值信息的约束，在精度方面还无法超越有监督方案。因此需要更多的训练数据来驱动模型训练，即数据量远大于文献[3]。训练基于的比特能量信噪比E_b/N₀也是收敛到最优解和影响模型泛化能力的一个重要因素。低E_b/N₀下训练时，由于噪声功率大，神经网络难以学习到复杂的数据结构。另一方面，如果训练E_b/N₀过高，神经网络失去了处理受噪声污染数据的能力。本文提出基于无监督学习的信道估计器在40 dB下进行训练。

2 性能分析

对提出的无监督深度学习信道估计器（channel estimator，CE）设计方案进行仿真分析，系统参数如表2所示。为验证本文提出的信道估计器设计方案能够比现有基于深度学习的信道估计方案^[3]有更好的性能表现，根据图3和表1给出的网络结构及参数，针对多径效应引起的频率选择性衰落，给出了慢衰落和快衰落信道条件下系统误符号率（symbol error rate，SER）及估计性能MSE的仿真结果，其中，以规定多普勒频率为5 Hz的扩展行人信道模型（extended pedestrian a model，EPA）作为慢衰落通信信道的仿真环境^[15]，以多普勒频率为2MHz的EPA模型作为更复杂的快衰落通信信道的仿真环境。

实验1　快衰落信道不同训练数据规模条件下无监督深度学习信道估计器MSE性能

考虑多普勒频移为2 MHz时的快衰落信道，以文献[3]提出的信道估计器作为比较基准，获得的MSE性能如图4所示。图中UL表示无监督学习，SL表示监督学习。当无监督信道估计器训练集规模E_UL为监督信道估计器^[3]训练集规模E_SL的2倍和4倍时，观察到基于无监督深度学习信道估计器的MSE性能随着训练集规模增加而提升，但仍差于文献[3]。在E_UL为E_SL的8倍和12倍时，基于无监督深度学习信道估计器均与文献[3]的MSE性能相当。其原因在于，无监督学习相对于监督学习缺乏真值信息CFR的直接约束，需要更大规模的训练集驱动模型训练，并且目前在精度上也无法超越基于监督学习的神经网络。但是，无监督学习信道估计器的训练过程更加简单，简化了对模型标签CFR的获取。因此，以8倍于文献[3]的训练集规模进行无监督学习。

实验2　快衰落信道不同激活函数及神经网络深度下信道估计器MSE性能

考虑多普勒频移为2MHz时的快衰落信道，以文献[3]提出的信道估计器作为比较基准，获得的MSE性能如图5所示。可以看出，在Dense-Net模块的深度为3层和12层时，混合使用传统Elu和负极性Elu的信道估计器在中高信噪比下差于文献[3]的MSE性能。然而在Dense-Net模块的深度为6层和9层时，本文提出的混合Elu使用方案在全信噪比下和文献[3]的MSE性能相当。这是因为过少的神经网络层数或参数导致模型的表达能力不足，过多的神经网络层数或参数使得模型收敛困难且过拟合现象严重。而且，混合Elu使用方案相比于文献[3]解决了Elu单侧软饱和的问题，同时保证了非线性映射的能力，使得该方案可以用更浅的神经网络准确估计出CFR。因此，使用深度为6层的Dense-Net模块。

相比于使用文献[3]的信道估计模型（总卷积层数为12、参数量为19192），本文提出的信道估计模型（总卷积层数为12、参数量为9082）更为轻量化。因为Dense-Net结构随着深度的增加，参数成指数增加，而混合Elu方案增加了Dense-Net模块的数量，即神经网络的宽度，减少了单个Dense-Net模块的深度，从而显著降低了模型的参数量。

此外，验证了Elu激活函数的合理性。在多普勒频移为2MHz时的快衰落信道下，以混合使用传统Elu和负极性Elu的信道估计器（Dense-Net模块深度为6）作为比较基准，不同激活函数的MSE性能如图6所示。可以看出，使用Tanh激活函数的信道估计器性能最差，这是因为Tanh函数左右侧均饱和且幅度被压缩。使用线性函数和Relu激活函数的信道估计器略差于基准，因为线性函数缺少非线性映射的能力，而Relu激活函数的梯度存在死区现象。因此，使用Elu作为激活函数。

实验3　快衰落信道不同损失函数下信道估计器性能

考虑多普勒频移为2 MHz时的快衰落信道，以文献[3]提出的信道估计器作为比较基准，获得的性能如图7所示。可以看出，同时以MAE和MSE作为评价标准的情况下，本文提出的以MAE为损失函数训练的信道估计器均优于文献[3]。显然，欧氏距离无法明确表达出每个实数特征的估计值与真实值误差，以最小化曼哈顿距离为目标函数可以更好地帮助实数搭建的网络模型收敛并取得更好的性能。

此外，验证了模型的快速收敛性。在多普勒频移为2MHz时的快衰落信道下，图8展示了信道估计模型分别使用MAE和MSE的损失函数曲线。可以看出，以MAE为损失函数的信道估计模型提前于以MSE为损失函数的信道估计模型收敛，即本文提出的信道估计模型可以用更少的迭代次数的训练并收敛。

实验4　不同衰落信下信道估计器SER性能

为了进一步证明所提出的信道估计算法的学习能力，以OFDM系统接收端具有完美CFR和文献[3]提出的基于深度学习的信道估计算法作为比较基准。

在多普勒频移为5 Hz的慢衰落信道下，图9给出了OFDM系统的SER对比曲线，图中CE表示信道估计器。当系统使用BPSK，4-QAM和16-QAM时，观察到文献[3]和本文所提出的信道估计器都可以达到与使用完美CIRs时相同的性能，但在64-QAM的情况下，文献[3]在高信噪比下存在较大误差，而本文提出的信道估计器仍然能够准确地重构CIRs，其性能和接收端已知完美CFR的OFDM系统更加接近。

在多普勒频率为2 MHz的快衰落信道下，图10给出了OFDM系统的SER对比曲线。可以看出，当多普勒频率为2MHz时，由于信道快速变化导致所有基于信道估计器的SER性能都差于完美CFR的系统。进一步观察，图10中所有信道估计算法在高信噪比区域都表现出了地板效应，当m较大时，地板效应变得更加明显。但是，提出的信道估计算法仍然能够取得比文献[3]更好的SER性能。总之，本文信道估计模型均可获得更好的MSE、MAE和SER性能以及更少的训练迭代次数。

表3为本文提出的信道估计算法和文献[3]提出的信道估计算法对比。

3 结　语

本文针对进一步提高OFDM信道估计精度进行研究，提出一种改进的无监督深度学习海上OFDM系统信道估计算法。采用双极性Elu混合方案，提高了神经网络隐藏层的特征表达能力，降低了模型的复杂度。此外，提出最小化曼哈顿距离的目标函数，保证了实数神经网络的合理收敛，使其可以学习复杂的信号特征以获得更高精度的信道估计结果。在多径衰落信道下，本文提出的信道估计器性能优于现有基于深度学习的信道估计算法，且算法计算复杂度更低和迭代收敛速度更快。