舰船科学技术  2023, Vol. 45 Issue (6): 166-169    DOI: 10.3404/j.issn.1672-7649.2023.06.032   PDF    
基于机器学习的舰船通信网络故障检测方法
潘志安, 庞国莉, 王小英     
防灾科技学院 信息工程学院,河北 三河 065201
摘要: 为提升舰船通信质量,提出基于机器学习的检测通信网络故障检测方法。在机器学习的自编码神经网络内,添加稀疏性限制与输入数据相关性限制,建立相关性稀疏自编码神经网络;通过逐层贪婪法,预训练神经网络,结合反向传播算法有监督微调神经网络,确定神经网络最佳权值与偏置;在最佳参数确定后的神经网络输入层内,输入原始舰船通信网络数据,利用神经网络隐层提取通信网络故障特征,以Softmax回归分类器为神经网络的输出层,在该层内输入故障特征,以最小错误率为决策准则,输出舰船通信网络故障检测结果。实验证明:该方法可有效提取舰船通信网络故障特征,且各类型故障特征提取结果的边界较为清晰;该方法可精准检测通信网络故障。
关键词: 机器学习     舰船通信     网络故障     稀疏性     神经网络     Softmax回归    
Fault detection method of ship communication network based on machine learning
PAN Zhi-an, PANG Guo-li, WANG Xiao-ying     
School of Information Engineering, Institute of Disaster Prevention, Sanhe 065201, China
Abstract: In order to improve the quality of ship communication, the fault detection method of detection communication network based on machine learning is studied. In the self-coding neural network of machine learning, the sparse restriction and the correlation restriction of input data are added to establish the correlation sparse self-coding neural network; The optimal weight and bias of the neural network are determined through the layer-by-layer greedy method, the pre-training of the neural network, and the supervised fine tuning of the neural network combined with the back-propagation algorithm; In the input layer of the neural network after the optimal parameters are determined, input the original data of the ship communication network, extract the fault characteristics of the communication network using the hidden layer of the neural network, take the Softmax regression classifier as the output layer of the neural network, input the fault characteristics in this layer, take the minimum error rate as the decision criterion, and output the fault detection results of the ship communication network. The experimental results show that this method can effectively extract the fault features of the ship communication network, and the boundaries of the fault feature extraction results of each type are relatively clear. This method can accurately detect communication network faults.
Key words: machine learning     ship communication     network failure     sparsity     neural network     Softmax regression    
0 引 言

舰船信息传输的关键是舰船通信网络。舰船通信网络可确保舰船航行过程中,舰船内部与外部间信息的安全交互[1]。舰船通信网络出现故障时,会导致舰船不能及时接收航行相关信息,影响航行安全[2-3]。为此,研究高效、精准的舰船通信网络故障检测方法非常重要。朱圳等[4]通过分析原始通信网络数据,挖掘数据内的潜在特征,通过LightGBM算法,对挖掘的潜在特征实施重要性评估,筛选较为重要的通信网络数据特征,在集成学习模型内输入筛选获取的重要特征,输出通信网络故障检测结果。该方法的通信网络故障检测精度较高。陈红红等[5]在萤火虫算法内,引入莱维飞行,对该算法进行改进,通过极限学习机建立通信网络故障检测目标函数,利用改进萤火虫算法优化目标函数,得到通信网络故障检测结果[5]。该方法可有效检测通信网络故障,且故障检测准确率较高。但这2种方法均需要大量故障标签数据,而实际舰船通信网络中,获取大量故障标签数据并非易事,从而影响故障检测效果。机器学习是指令计算机具备人的学习能力,可在海量繁琐的数据内,学习到有价值的知识[6],在原始数据样本较少情况下,依旧具备较优的学习能力,提升故障检测效果。常见的机器学习算法有Softmax回归与神经网络等。本文研究基于机器学习的舰船通信网络故障检测方法,提升故障检测效果。

1 舰船通信网络故障检测方法 1.1 基于自编码神经网络的舰船通信网络故障检测

利用常见机器学习算法内的自编码(auto encoder,AE)神经网络,对舰船通信网络,实施故障检测。AE内输入层为O1、隐层O2、输出层是O3O1O3内神经元数量一致,均为 $ m $ 个。O2内神经元数量为 $ n $ ,且 $ n \leqslant m $ O1O2的变换过程是编码,在O1内输入原始舰船通信网络数据样本 $ x $ ,作为O2的输入,O2的输出结果为:

$ u = S\left( {{w_{{O_2}}}x + {b_{{O_2}}}} \right)。$ (1)

其中: $ S\left( \cdot \right) $ 为编码时的Sigmoid函数; $ {w_{{O_2}}} $ $ {b_{{O_2}}} $ 分别为O2的权重、偏置; $ u $ 为舰船通信网络故障特征。

O2O3的变换过程是解码,在O3内输入 $ u $ O3的输出结果为:

$ y = S'\left( {{w_{{O_3}}}u + {b_{{O_3}}}} \right)。$ (2)

其中: $ S'\left( \cdot \right) $ 为解码时的Sigmoid函数; $ {w_{{O_3}}} $ $ {b_{{O_3}}} $ 分别为O3的权重、偏是; $ y $ 为舰船通信网络故障检测结果。

预训练AE,就是寻找最佳 $ {w_{{O_2}}} $ $ {b_{{O_2}}} $ $ {w_{{O_3}}} $ $ {b_{{O_3}}} $ $ y $ $ x $ 间是误差降至最低,即损失函数Q(w,b)降至最小。Q(w,b)的计算公式为:

$ Q\left( {w,b} \right) = \dfrac{{\displaystyle\sum\limits_{i = 1}^H {\frac{{\left\| {x_i^2 - y_i^2} \right\|}}{2}} }}{H} + \frac{{\gamma \displaystyle\sum\limits_{l = 1}^{\eta - 1} {\displaystyle\sum\limits_{j = 1}^{{n_l}} {{{\left( {w_{ja}^l} \right)}^2}} } }}{2} 。$ (3)

式中: $ H $ 为原始舰船通信网络数据样本数量;xiyi分别为第 $ i $ 个样本的输入与输出向量; $ \eta $ 为AE的网络层数;nl为第 $ l $ 层神经元数量; $ w_{ja}^l $ 为第 $ l $ 层第 $ j $ 个神经元和第 $ l + 1 $ 层第 $ a $ 个神经元间的权值; $ \gamma $ 为权值衰减系数。

1.2 基于相关性稀疏自编码神经网络的故障检测

在AE的隐层内,添加稀疏性限制,令大多数隐层神经元处于非激活状态,提升舰船通信网络故障特征提取效果。损失函数Q(w,b)中添加稀疏惩罚项,公式如下:

$ Q'\left( {w,b} \right) = Q\left( {w,b} \right) + \beta \sum\limits_{j = 1}^n {L\left( {{\textit{z}}\left\| {{{\textit{z}}_j}} \right.} \right)}。$ (4)

式中: $ \beta $ 为稀疏惩罚项的权值; $ {\textit{z}} $ 为平均活跃度;zjO2内第 $ j $ 个神经元的平均活跃度;L(Z||zj)为 $ {\textit{z}} $ zj间相对熵。其计算公式为:

$ L\left( {{\textit{z}}\left\| {{{\textit{z}}_j}} \right.} \right) = {\textit{z}}\lg \frac{{\textit{z}}}{{{{\textit{z}}_j}}} + \left( {1 - {\textit{z}}} \right)\lg \frac{{1 - {\textit{z}}}}{{1 - {{\textit{z}}_j}}} ,$ (5)

zj的计算公式为:

$ {{\textit{z}}_j} = \frac{{\sum\limits_{i = 1}^H {{\alpha _j}\left( {{x_i}} \right)} }}{H}。$ (6)

式中:对于xi,第 $ j $ 个神经元的激活度为αj

利用AE提取舰船通信网络故障特征时,需要考虑舰船通信网络数据样本间的相关性,才会避免影响原始舰船通信网络数据结构特征的提取。因此,在式(4)的基础上,添加输入数据相关性限制,变更后的损失函数为:

$ \begin{split} Q''\left( {w,b} \right) =& \left( {1 - \omega } \right)Q\left( {w,b} \right) + \\ & \frac{{\omega \displaystyle\sum\limits_{i = 1}^H {\frac{{\left\| {R\left( {x_i^2} \right) - R\left( {y_i^2} \right)} \right\|}}{2}} }}{H} + \beta \sum\limits_{j = 1}^n {L\left( {{\textit{z}}\left\| {{{\textit{z}}_j}} \right.} \right)} 。\end{split} $ (7)

式中:R(xi),R(yi)为xiyi的相关性; $ \omega $ 为输入数据相关性的权值。

R(xi)的本质是xi ${{x}}_{{i}}^{\rm{T}}$ 的乘积,其中,T为转置符号。因此,损失函数为:

$\begin{split} Q''\left( {w,b} \right) =& \left( {1 - \omega } \right)Q\left( {w,b} \right) + \\ & \dfrac{{\omega \displaystyle\sum\limits_{i = 1}^H {\frac{{\left\| {{{\left[ {{x_i}\left( {x_i^{\rm{T}}} \right)} \right]}^2} - {{\left[ {{y_i}\left( {y_i^{\rm{T}}} \right)} \right]}^2}} \right\|}}{2}} }}{H} + \beta \displaystyle\sum\limits_{j = 1}^n {L\left( {{\textit{z}}\left\| {{{\textit{z}}_j}} \right.} \right)}。\end{split} $ (8)

在AE内添加稀疏性限制与输入数据相关性限制后,建立相关性稀疏自编码神经网络(SRAE),将多个SRAE堆叠形成SSRAE,就是上个SRAE隐层的输出是下一个SRAE的输入。以预训练与有监督微调的方式,确定SSRAE的最佳 $ w $ $ b $ 。以逐层贪婪法预训练SSRAE,通过海量无标签训练样本,计算各SRAE的 $ Q''\left( {w,b} \right) $ 取得最小值情况下,对应的 $ w $ $ b $ 。以持续迭代降低各SRAE的 $ Q''\left( {w,b} \right) $ 值的方式,将 $ Q''\left( {w,b} \right) $ 降至指定值,获取最终的 $ w $ $ b $

通过反向传播算法有监督微调SSRAE,利用反向传播算法再次迭代更新预训练阶段获取的各SRAE的 $ w $ $ b $ ,以达到最大迭代次数位置,输出各SRAE的最佳 $ w $ $ b $ $ w $ $ b $ 的更新公式如下:

$ \left\{ \begin{gathered} {w'}_j^l = w_j^l - \mu \frac{{\partial Q''\left( {w,b} \right)}}{{\partial w_j^l}},\\ {b'}_j^l = b_j^l - \mu \frac{{\partial Q''\left( {w,b} \right)}}{{\partial w_j^l}}。\\ \end{gathered} \right. $ (9)

式中: $ \mu $ 为学习速率; $ {w'}_j^l $ $ {b'}_j^l $ 分别为最佳权值与偏置。

1.3 通信网络故障检测的实现

以Softmax分类器为SSRAE的输出层,将SSRAE隐层提取的舰船通信网络故障特征 $ h $ ,作为Softmax分类器的输入,输出舰船通信网络故障检测结果。舰船通信网络故障类别数量为 $ K $ ,Softmax分类器的输出结果为:

$\begin{split} {\hat y_{w,b}}\left( {{h_i}} \right) =& \left[ \begin{gathered} P\left( {{G_1}\left| {{u_i};w,b} \right.} \right) \\ P\left( {{G_2}\left| {{u_i};w,b} \right.} \right) \\ \mathop {}\nolimits_{} \mathop {}\nolimits_{} \mathop {}\nolimits_{} \vdots \\ P\left( {{G_K}\left| {{u_i};w,b} \right.} \right) \\ \end{gathered} \right] =\\ & \dfrac{1}{{\displaystyle\sum\limits_{k = 1}^K {\exp \left[ {\left( {w,b} \right)_k^T{u_i}} \right]} }}\left[ \begin{gathered} \exp \left[ {\left( {w,b} \right)_1^{\rm{T}}{u_i}} \right] \\ \exp \left[ {\left( {w,b} \right)_2^{\rm{T}}{u_i}} \right] \\ \mathop {}\nolimits_{} \mathop {}\nolimits_{} \mathop {}\nolimits_{} \vdots \\ \exp \left[ {\left( {w,b} \right)_K^{\rm{T}}{u_i}} \right] \\ \end{gathered} \right]。\end{split} $ (10)

其中:P(Gk|ui)为舰船通信网络故障属于各类别的后验概率;ui为第 $ i $ 个舰船通信网络故障特征;G1, G2,…,Gk为舰船通信网络故障类别。

舰船通信网络故障检测的决策准则是最小错误率,舰船通信网络故障特征检测结果是类故障时的错误概率为:

$ {P_e}\left( {{G_K}\left| u \right.} \right) = 1 - P\left( {{G_K}\left| u \right.} \right) 。$ (11)

舰船通信网络故障检测的最小错误率决策准则是argminPe(Gk|u)。结合式(11)可知,最小错误率即最大后验概率argmaxP(Gk|u)。

舰船通信网络故障检测类型及其编码如表1所示。

表 1 故障检测类型及其编码 Tab.1 Fault detection type and code
2 实验结果与分析

以某舰船的通信网络数据为实验对象,该数据集内记录了2个月的舰船通信网络连接数据,共包含近1百万条数据。该数据集内有7种类型的舰船通信网络数据,具体信息如表2所示。

表 2 舰船通信网络数据集具体信息 Tab.2 Specific information of ship communication network data set

利用本文方法对该数据集内的舰船通信网络数据进行故障特征提取,通过主成分分析提取故障特征的前3个主成分,以可视化形式呈现本文方法引入稀疏性限制与输入数据相关性限制前后,故障特征提取效果。舰船通信网络故障特征提取的可视化结果如图1所示,以信号丢失故障特征、端口故障特征、通信线路故障特征、通信网IP冲突故障特征为例。分析图1(a)可知,本文方法添加稀疏性限制与输入数据相关性限制前,可有效提取舰船通信网络故障特征,但提取的4种故障特征边界存在混淆情况。分析图1(b)可知,添加稀疏性限制与输入数据相关性限制后,本文方法提取的各类型舰船通信网络故障特征聚集效果较优,各类型故障特征的边界较为清晰,在舰船通信网络故障检测方面更具优势。实验证明:本文方法可有效提取舰船通信网络故障特征,且提取的故障特征间并无混淆情况,边界非常清晰。

图 1 改进前后的舰船通信网络故障特征提取结果 Fig. 1 Fault feature extraction results of ship communication network before and after improvement

在该数据集内随机选择35个样本,各数据类型的样本数量均为5个,利用本文方法对这35个样本进行舰船通信网络故障诊断,故障诊断结果如图2所示。可知,本文方法可有效检测舰船通信网络故障,对比表2可知,0~5号样本的故障检测结果为路由器故障,其中仅有一个样本的故障检测结果错误;11~15号样本的故障检测结果为通信网IP冲突故障,其中,也仅有一个样本的故障检测结果错误。6~10号样本故障检测结果为网卡故障;16~20号样本故障检测结果为通信线路故障;21~25号样本故障检测结果为端口故障;26~30号样本故障检测结果为信号丢失故障;31~35号样本故障检测结果为无故障。实验证明,本文方法可精准检测舰船通信网络故障,为提升舰船通信质量提供保障。

图 2 舰船通信网络故障诊断结果 Fig. 2 Fault diagnosis results of ship communication network
3 结 语

舰船通信质量与舰船航行安全息息相关,为此,研究基于机器学习的舰船通信网络故障检测方法,及时发现并解决通信网络故障,提升舰船通信质量,确保舰船航行过程中能够随时接收内部与外部的交互信息,制定安全的航行路径,提升舰船航行的安全性。

参考文献
[1]
陈子兆, 矫文成, 孙慧贤, 等. 基于深度置信网络的通信控制设备故障诊断[J]. 探测与控制学报, 2020, 42(2): 86-91.
CHEN Zizhao, JIAO Wencheng, SUN Huixian, et al. Fault diagnosis based on wavelet transform and deep belief network[J]. Journal of Detection & Control, 2020, 42(2): 86-91.
[2]
陈哲, 胡玉其, 田世庆, 等. 基于非平稳信号组合分析的故障诊断方法[J]. 通信学报, 2020, 41(5): 187-195.
CHEN Zhe, HU Yuqi, TIAN Shiqing, et al. Non-stationary signal combined analysis based fault diagnosis method[J]. Journal on Communications, 2020, 41(5): 187-195.
[3]
赵季红, 吴豆豆, 曲桦, 等. 基于软件定义网络的可靠性虚拟网络映射保障机制[J]. 计算机应用, 2020, 40(3): 770-776.
ZHAO Jihong, WU Doudou, QU Hua, et al. Survivable virtual network embedding guarantee mechanism based on software defined network[J]. Journal of Computer Applications, 2020, 40(3): 770-776.
[4]
朱圳, 刘立芳, 齐小刚. 基于数据挖掘的通信网络故障分类研究[J]. 智能系统学报, 2022, 17(6): 1228-1234.
ZHU Zhen, LIU Lifang, QI Xiaogang. Research on communication network fault classification based on data mining[J]. Transactions on Intelligent Systems, 2022, 17(6): 1228-1234.
[5]
陈红红, 翟伊景, 郝占军, 等. 基于改进极限学习机的无线传感器网络故障检测方法[J]. 西北师范大学学报(自然科学版), 2021, 57(1): 48-55.
CHEN Honghong, ZHAI Yijing, HAO Zhanjun, et al. A wireless sensor network fault detection method based on improved extreme learning machine[J]. Journal of Northwest Normal University (Natural Science), 2021, 57(1): 48-55.
[6]
肖衡, 龙草芳. 基于机器学习的无线传感网络通信异常入侵检测技术[J]. 传感技术学报, 2022, 35(5): 692-697.
XIAO Heng, LONG Caofang. Communication anomaly intrusion detection technology for wireless sensor networks based on machine learning[J]. Chinese Journal of Sensors and Actuators, 2022, 35(5): 692-697.