0 引　言

无人艇电力系统相比于大型舰船电力系统，具有模块化、集成度高等特点。随着大型无人艇执行长航时、高机动性任务的需求增加，对其电力系统的可靠性、保障性和健康管理水平提出了更高的要求。近年来，学者们围绕船舶电力系统故障诊断和健康管理开展了较多研究。贾哲宇等^[1]采用随机森林算法的故障诊断模型对涡轮增压器故障进行分类；杨奕飞等^[2]提出基于HMM-SVR的设备状态预测模型，实现了船舶动力设备的实时状态预测；TIFEI等^[3]利用改进的Cuckoo Search算法优化LSSVM模型参数，将其运用到船舶电力设备故障识别；高际航等^[4]采用FWA-PSO-MSVM网络实现对船舶区域配电电力系统的故障诊断；陈世鹏等^[5]提出了SCA-MRVM模型在故障诊断上有良好的性能；SENEMMAR等^[6]中采用了门控递归神经网络对八总线中压船舶电力系统实现了故障定位和识别，徐舒玮等^[7]基于PSS\E平台实现输电线路故障的批量仿真，并采用深度自动编码器实现对线路故障的辨识^[8]。目前针对电力系统的故障诊断研究大都集中在大型船舶电力系统，对于无人艇电力系统故障诊断和健康管理的研究较少。

本文提出了一种结合Vision-Transformer（VIT）神经网络与卷积特征压缩方法，并且采用改进注意力机制对VIT模型进行改进，将其运用于无人艇电力系统故障诊断，不仅利用VIT模型的分类任务适用性实现了故障的精确识别，而且实现了算法空间简化和计算速度提升。

1 经典VIT神经网络

谷歌大脑团队基于Transformer架构提出了Vision-Transformer并将其应用于多个领域^[9]，由于它在分类任务上的高效性，因此非常适用于故障分类识别。VIT模型主要由3个部分构成：1）编码嵌入，分割二维数据并展平，然后按顺序排列，最后与嵌入编码拼接；2）编码器，由层归一化（Layer Normalization，LN）、多头注意力机制（Multi-Head Attention）和多层感知机（Multilayer Perceptron，MLP）构成，编码器的数量决定模型深度，该阶段形成多层特征筛选的作用；3）MLP head，抽出被编码器运算过的可训练嵌入编码，用于实现最后的分类工作。模型结构如图1所示。

2 改进VIT神经网络 2.1 采用卷积特征压缩的编码嵌入流程

经典VIT模型的编码嵌入原理是直接将输入的二维数据分割并展平然后再拼接嵌入编码。该分割方法虽然保证了输入样本的特征完整性，但是存在缺点，一是嵌入编码的长度为原始数据切割展平后的长度，数据维度越大越需要大量多层感知机的隐藏单元。模型参数规模庞大，训练难度增加；二是切割出的多个数据块并非每一个都是有效特征，多余的干扰项会减慢模型收敛速度。

针对上述缺点，改进VIT模型采用一层卷积网络替代图像分割。经过卷积操作后，输入VIT编码器的序列为展平过后的卷积特征图加上嵌入编码。定义输入数据x的维度为${\text{shape}}(x) = l \times l \times h$，使用步长为s大小为$k \times k$的n个二维卷积核，卷积操作后的中间嵌入层为$z = {\text{Conv2D}}(x)$和z的维度${\text{shape}}(z) = b \times b \times n$，$b = {{(l - k)} \mathord{\left/ {\vphantom {{(l - k)} s}} \right. } s} + 1$，展平并嵌入编码后的输出y和${\text{shape}}(y)$为：

$y = {\text{Concat}}({\text{Reshape(}}z{\text{)}} + {P_{{\text{pos}}}},{P_{{\text{class}}}})。$

(1)

式中：${l_y} = {b^2} + 1$；${\text{shape}}(y) = {l_y} \times n$；Concat()函数表示矩阵的拼接；分类编码参数${P_{{\text{class}}}}$用于模型分类输出需要通过模型计算；位置编码参数${P_{{\text{pos}}}}$表示序列的位置关系：

${P}_{\text{pos}}=\left\{\begin{array}{l}\mathrm{sin}(pos/{10\ 000}^{i/n}),pos=2i，\\ \mathrm{cos}(pos/{10\ 000}^{i/n}),pos=2i+1\end{array},i\in [0\text{，}n/2] \right.。$

(2)

相较于传统方法，该方法通过调整卷积核的尺寸和数量以适应变化的输入数据维度，使模型更加轻量化，虽然可训练参数中增加了一层卷积网络的参数，但是模型总体参数量却减少了。改进后编码嵌入的结构如图2所示。

2.2 改进注意力机制

注意力机制是VIT模型的核心组成部分，其本质是通过查询值q（Query）与一系列键-值对（k-v, Key-Value）之间的映射关系来实现特征筛选的过程^[10]。在并行计算中，将多个同维度的q、k、v值分别组合为矩阵Q、K、V，当输入为X时，$Q=X{W}^{Q}，K=X{W}^{K}，V=X{W}^{V}$。使用缩放点积注意力函数将注意力机制描述为：

${\text{Attention}}(Q,K,V) = {\text{SoftMax}}\left(\frac{{Q{K^{\rm T}}}}{{\sqrt {{d_k}} }}\right)V。$

(3)

式中：${W}^{Q}、{W}^{K}、{W}^{V}$分别对应Q、K、V的权重矩阵；${d_k}$为矩阵Q和K的维度；矩阵V的维度为${d_v}$，引入点积缩放因子$\sqrt {{d_k}}$的缩小SoftMax函数梯度规模。多头注意力机制(Multi-Head Attention)的原理是采用多组Q、K、V矩阵同时输入到注意力函数中以获取同一数据的不同特征信息，数学表达式如下：

$\left\{ \begin{gathered} {h_i} = {\text{Attention}}(QW_i^Q,KW_i^K,VW_i^V)，\\ {\text{MultiHead}}(Q,K,V) = {\text{Concat}}({h_1},{h_2}, \cdots {h_{\text{h}}}){W^O}。\\ \end{gathered} \right.$

(4)

式中：权重矩阵${W}_{i}^{Q} \in {\text{R}}^{{d}_{\text{model}} \times {d}_{k}}，{W}_{i}^{K} \in {\text{R}}^{{d}_{\text{model}} \times {d}_{k}}$，${W}_{i}^{V}\in {\text{R}}^{{d}_{\text{model}}\times dv}，{W}^{O}\in {\text{R}}^{h{d}_{v}{d}_{\text{model}}}$；${d_{{\text{model}}}}$为模型输入的维度；Q、K、V的维度参数${d_k} = {d_v} = {d_{{\text{model}}}}/h$，R表示实数空间。

前述注意力机制呈现了数据序列中的局部优先级和内在相关性，通过对查询值（Query）、键（Key）和值（Value）3组向量进行计算，可提取和表达其关联性。向量计算引入了复杂的算法空间，算法空间的复杂度呈h倍增加，从而增加了模型陷入局部最优解的风险。

采用改进的注意力机制，矩阵Q、K、V使用3个不同的卷积核求取，重新定义了求取过程：

$\left\{ \begin{gathered} Q = {\text{Con}}{{\text{v}}_Q}(X)，\\ K = {\text{Con}}{{\text{v}}_K}(X)，\\ V = {\text{Con}}{{\text{v}}_V}(X)。\\ \end{gathered} \right.$

(5)

然后使用SoftMax函数生成Q和K之间的相关性注意力映射${A_{{\text{map}}}}$，如下式，可将其理解为V的内部权重系数。

${A_{{\text{map}}}}= {\text{SoftMax}}\left(\frac{{{K^{\rm T}} \otimes Q}}{{\sqrt {{d_k}} }}\right)。$

(6)

式中，$\sqrt {{d_k}}$为所提点积缩放因子。最后V与权值相乘得到注意力输出：

${\text{Attention}}(X) = V \otimes Amap。$

(7)

3 无人艇电力系统故障数据集建立 3.1 无人艇电力系统拓扑

以某大型无人艇电力系统为对象进行仿真研究，电力系统拓扑如图3所示，主配电板采用380 V、50 Hz低压三相交流电制。主发电机组为两台参数一致的柴油发电机G₁、G₂，2台辅助发电机G₃、G₄作为备用。设定两台主发电机单机额定容量500 kW，功率因数0.9；辅助发电机额定容量100 kW，功率因数0.8。储能系统由2套蓄电池组B₁、B₂通过逆变器连接到分配电板DSB，同时一套应急锂电池组EB通过逆变器连接到主配电板作MSB作为备用。电力推进系统分别由2台推进电机M₁、M₂和相应的变频控制系统组成，T₁、T₂表示变压器，L₁～L₆表示不同区域的负荷单元。发电机组通过主配电板分别向两台推进电机供电。

3.2 故障仿真流程

针对上述无人艇电力系统，采用Matlab进行典型短路故障仿真，分别对应3种单相接地短路（L-G）、3种两相相间短路（L-L）、三相短路（L-L-L）和三相接地短路（L-L-L-G）等11种故障场景。每类故障场景发生频率如表1所示。

无人艇电力系统短路故障的持续时间受多种因素影响，包括短路发生位置和短路时负载状况。由于断路器、空开和各种继电保护装置的作用，短路发生持续时间一般不超过1 s，大部分情况下只有几十毫秒^[11]。按照对数正态分布设定50～2000 Ω范围内各短路场景对应的相间电阻和对地电阻，采用威布尔分布设定20 ms～2 s范围的短路持续时间。每次仿真时间为5 s，故障发生时刻在0 s～(5 s-${t_{\text{D}}}$)时间段内。仿真流程如图4所示。

3.3 故障数据分布

仿真实验共收集到11种故障状态的数据45280条、正常状态数据的数据4000条，实验数据分布如图5所示。图5(a) 中横坐标为短路电阻，纵坐标为样本数量；图5(b) 中横坐标为短路持续时间的区间，纵坐标为样本数量。

4 无人艇电力系统故障诊断实例 4.1 基于连续小波变换的特征图转换

本文采用连续小波变换（Continues Wavelet Transform，CWT）对前期数据进行特征提取，其数学表达式定义为：

${\text{CWT}}(\alpha ,\beta ) = \frac{1}{{\sqrt \alpha }}\int\limits_{ - \infty }^\infty {\phi (t){\psi ^ * }\left(\frac{{t - \beta }}{\alpha }\right) {\mathrm{d}}t}。$

(8)

式中：${\psi ^*}$为Morlet母波的复共轭；$\alpha$和$\beta$为缩放尺度因子和平移尺度因子，不同的取值可以展示不同频率的信息。采用CWT方法对标准化后的电压数据处理效果如图6所示。

4.2 故障诊断结果分析

利用上述数据集，本文仿真对比了卷积神经网络CNN、深度收缩残差网络DRSN、VIT和改进VIT模型4种深度学习神经网络模型的故障识别性能，4种模型的深度学习框架都在同一台计算机上采用Tensor-flow API实现，仿真诊断结果如表2所示，本文提出的改进VIT模型的诊断准确度为97.08%，优于比VIT模型，显著优于其他2种模型。

4种深度学习模型的故障诊断结果混淆矩阵如图7所示，其中，横坐标表示模型的预测标签，纵坐标表示数据的真实标签，A-G、B-G、C-G表示单相接地短路，A-B、B-C、A-C表示两相相间短路，A-B-C表示三相短路。由图可见，DRSN网络和CNN网络对单相接地短路故障的识别准确度不高，VIT模型的短路故障识别平均准确率在90%以上，改进VIT模型对单相短路故障识别率最低为93%，对相间短路、三相短路的故障识别精度均为100%。

通过进一步仿真研究发现，上述深度学习神经网络模型的故障识别准确度与短路故障发生时的短路电阻大小有关。图8所示为模型识别精度与短路电阻之间的关系。可见，随着短路故障电阻的增加，4种模型的识别精度均呈现下降趋势，但本文提出的改进VIT模型识别精度下降幅度较小，相比于其他模型有更强的适应性。

5 结　语

对大型无人艇电力系统的故障诊断方法进行了研究，提出了一种改进VIT模型，建立了不同短路场景和不同短路电阻工况下的短路故障仿真数据集，并采用四种不同的深度学习模型进行故障诊断仿真研究。仿真结果表明：改进的VIT模型对无人艇电力系统的短路故障诊断准确度高，且受短路电阻大小的影响较小，相比其他3种模型具有显著的适应性。该模型可应用于无人艇故障诊断，为无人艇故障诊断及健康管理提供方法支撑。