在电能传输过程中保障输电线路安全稳定高效运行具有重要意义^[1]。近些年来，因为放风筝、气球等人为活动导致产生输电线路异物、进而影响电力系统稳定运行的事件络绎不绝，严重的甚至造成了跳闸事故，致使部分片区电力系统陷入瘫痪，因为输电线路悬挂的异物会使电力线发生短路，放电距离缩短^[2]。因此，采取措施来发现并清除这些异物具有重要意义。输电线路上悬挂的异物主要有风筝、气球、塑料薄膜类的垃圾以及鸟类在杆塔上搭建的巢穴。早期的清障任务由人工来完成，但有些异物位于比较偏远的地区，且多附着在高压线上，人工来清除这些输电线路异物存在极大的安全隐患，并且清除操作难度也很大。之后提出采用爬行机器人、无人机等方式清障。携带喷火装置的无人机^[3]清理异物对操作人员的技术是一项挑战，突然急剧上升的温度会加速线路的劳损，影响输电效率。再后来提出用传统的人工特征提取方法识别出异物后采用物理抓取来清障：文献[4]通过检测输电导线外形轮廓判断异物存在与否；文献[5]通过梯度法获取电力线边缘，并选取霍夫变换累加器中局部极大值个数与最终检测到的线路数量作为异物特征向量来检测异物，检测效果受复杂背景、噪声等因素影响，精度较低。

近年来深度学习成为了热点技术，摆脱了传统机器学习带来的一些弊端。神经网络不易受检测目标的几何变换、形变、光照等因素影响，降低了异物附着在输电线上产生的形变带来的识别难度^[6]；且它能自动生成检测目标所对应的特征，避免了人工设计特征的烦琐，相较于传统目标检测算法具有显著优势。基于深度学习的目标检测算法分为一阶段和二阶段2类，二阶段算法需要生成大量候选框，计算量极为庞大，检测速度很慢，在实际工业应用上完全无法达到实时检测的程度，这类算法的代表是快速区域卷积神经网络（faster region-convolutional neural network，Faster R-CNN）^[7]。文献[8]采用图像合成技术扩充数据集，并采用Faster R-CNN实现输电线异物识别，但是该方法生成的数据集质量较差，模型训练效果不佳。沈茂东等^[6]优化了候选框，设计了一种名为TLFOD Net的网络结构，提高了模型性能，但最终的模型运算速度仍然很慢。而一阶段算法则通过神经网络训练后不产生候选框，直接回归目标的类别置信度和位置坐标，因此可获得较快速度，这类算法的代表是一阶段多框检测（single shot multibox detector，SSD）^[9]和YOLO^[10-13]系列算法。文献[14]改进了YOLOv4的特征金字塔和损失函数，改进的YOLOv4针对输电线路异物检测性能得到了提升。文献[15]将Darknet-53网络插入了RepVGG模块并添加了多尺度检测，提升了检测性能，但精度和速度仍然有限。

YOLOv4是目前的主流目标检测算法，具有较好的检测效果。它在初步特征提取网络采用CSPDarkNet53^[16]作为骨干网络，加强特征提取网络加入了空间金字塔池化(spatial pyramid pooling，SPP)^[17]模块和路径聚合网络(path aggregation network，PAN)^[18]模块，进一步提取有效特征。由于本文构建的输电线路异物数据集大部分为小目标，且尺度上存在一定程度的扭曲，导致原先默认规范的尺度框无法完全准确标定异物目标，因此本文利用K-means聚类生成新的锚点框，提升模型鲁棒性；同时采用优化的快的空间金字塔池化（spatial pyramid pooling-fast，SPPF）模块替代原始的SPP模块，加快运行检测速度；最后引入在深层网络中更具优势的SiLU激活函数替换原始的全部激活函数，进一步提升了模型性能。

1.   输电线异物数据集

1.1   数据集采集

由于针对高压输电线路的异物检测没有公开数据集，因此本文自建了该类检测的数据集，主要通过网络采集图像、无人机拍摄、视频逐帧分解以及Adobe Photoshop（PS）技术等方式生成相关图像，图像背景基本都是高压输电线路场景。图1为构建数据集的流程。最终获得数据集共包含4579张图片，分为4类，其中鸟巢2541张、气球704张、风筝691张、垃圾643张。将数据集按照7∶2∶1划分为训练集、验证集和测试集。训练集用于模型拟合样本；验证集用于验证模型拟合效果，从而调整超参数；测试集用于最终测试模型在该检测任务中的泛化性。

图  1  构建数据集流程

下载: 全尺寸图片

1.2   数据集标注

本文数据集采用Labelimg标注，得到的XML文件记录了每张图片中异物种类、矩形框坐标，用于模型训练。

1.3   数据集在线增强

由于模型对于数据量的需求极大，越多的数据投入生成的模型可获得的性能越好、泛化性越强。为了增大数据集规模，采用了多种数据增强方式，具体见表1。考虑到部分图片背景涉及到电线杆塔，故不采用随机垂直翻转。

2.   改进YOLOv4异物检测算法

2.1   网络结构

如图2所示，输入尺寸大小416×416的图片，依次通过骨干网络、加强特征提取网络向检测头输出13×13、26×26、52×52这3种不同尺度大小的特征层；参考CSPNet改进的CSPDarkNet53^[19]作为其骨干网络，使用ResNet的残差边思想修改了残差块CSP-X，添加了一条大的残差边来保留浅层信息，其中X代表残差组件的数量。在骨干网络中使用Mish^[20]激活函数替代Leaky ReLU激活函数，颈部部分设计了SPP空间金字塔池化模块和路径聚合网络来对不同尺度的信息进行提取和融合。最后通过探测头进行分类回归，输出检测结果。

图  2  改进YOLOv4网络结构

下载: 全尺寸图片

2.2   训练技巧

2.2.1   Mosaic数据增强

YOLOv4算法的数据增强方法除了采用了常规的随机水平翻转、缩放、色域变换等操作，还根据Cutmix的原理提出了一种Mosaic数据增强方式。其具体实施方法是从数据集中随机选取4张图片，将4张图片分别进行缩放，放置于4个不同方向对应的角落，空白区域用灰色填充，最后将其拼接在一起构成一张新图片，如图3所示。生成的新图片丰富了检测背景，同时由于采用了不同程度的缩放，加强了对小目标的检测。而我们的数据集中主要标注的为大目标，小目标样本匮乏，因此采取Mosaic数据增强十分必要，能使鲁棒性更好，并且在批标准化的计算过程一次性计算4张图片，减轻了图像处理单元（graphic processing unit，GPU）的负担。

图  3  图像缩放与图像拼接

下载: 全尺寸图片

2.2.2   标签平滑

标签平滑采用惩罚机制。当分类过于准确时给予惩罚，避免模型过度自信，两端极值往中间靠一点，避免出现过拟合。训练数据的过程中，一方面考虑到准备的数据集并不算大，无法覆盖实际生活中的所有情况；另一方面数据集规模越大，越难以保证标注目标均正确，一旦标注错误，会对模型的训练带来不利影响。因此，采用标签平滑技术训练出来的模型对于样本量不足和少量标注错误都具有一定的“容忍度”，提高了模型的泛化性。策略公式为

式中： $ y' $ 为标签平滑后的类别真实值标签； $ \varepsilon $ 为标签平滑因子，用于控制标签平滑的程度； $ y $ 为类别真实值标签； $ c $ 为总类别数。

采用标签平滑后，模型不仅要考虑训练样本中正确分类标签的类别损失，还会添加一个错误类别标签的损失，导致最终的类别损失增大、训练难度提升；因此改进模型要训练到原来模型的最低损失值，就需要学习训练得更好，加强模型的学习能力。为此设置了对比实验如表2所示，采用YOLOv4网络，仅调整标签平滑因子 $ \varepsilon $ 的取值，其他训练参数不变。其中平均精度均值（mean average precision，mAP）指标越高代表网络模型整体的检测精度越高。由实验结果可知，标签平滑因子 $ \varepsilon $ 取值为0.005时最合适。

2.2.3   余弦退火衰减

在文献[21]中引入了余弦退火的学习率下降方式。在优化过程中，为了找到全局最优解，避免训练过程中梯度下降算法陷入局部最优，通过余弦退火衰减算法（图4）在学习率下降到一定程度后，通过重启突然提高学习率跳出局部最优，重新去寻找全局最优解。给定一个较大的学习率后，学习率先缓慢下降然后加速下降，再缓慢下降，下降到一定程度后通过重启操作，学习率重新回到一个较大的值，再重复之前的学习率衰减方式，这种下降模式配合学习率能产生较好学习效果。其实现方法为

图  4  余弦退火衰减

下载: 全尺寸图片

式中： $ {\eta _t} $ 为学习率， $ {\eta _{\max }} $ 和 $ {\eta _{\min }} $ 分别为最大和最小学习率， $ {T_{{\text{cur}}}} $ 为当前迭代次数， $ {T_i} $ 为第i轮的迭代次数。当 $ {T_{{\text{cur}}}} = {T_i} $ 时，表明已经迭代到最后一轮，此时学习率为最小值 $ {\eta _t} = {\eta _{\min }} $ ；每次重启后当 $ {T_{{\text{cur}}}} = 0 $ 时，学习率为最大值 $ {\eta _t} = {\eta _{\max }} $ 。

2.3   K-means聚类优化目标框

原模型采用的3种尺寸的锚点框是由COCO数据集中80类目标聚类得到，参数具有普适性。但是本文构建的输电线路异物数据集大部分均为小目标，且尺度上存在一定程度的扭曲等情况，导致原先默认的规范的尺度框无法完全准确标定异物目标，因此采用K-means聚类，对数据集不同尺寸大小目标进行聚类分析，通过生成的聚类来重新选择更合适的宽高尺寸。传统的K-means聚类通过计算两者之间的欧式距离来衡量2个对象是否属于同一簇，但这么做存在的问题是当进行锚点计算时会促使大的边界框相应产生大的误差，因此本文通过采用计算聚类中心和异物目标的IOU值来衡量聚类结果：

式中： $ {B_{{\text{box}}}} $ 为聚类框， $ {C_{{\text{centroid}}}} $ 为簇中心框，IOU代表两者之间的交并比。最终通过聚类生成的锚点框如表3所示，并给出了不同锚点框的mAP。

由于本文数据集大部分标记框大小接近，尺寸比较集中，因此通过K-means聚类算法产生的锚点框也较为集中，从大、中、小尺寸对应的锚点框大小就可以看出来其相差并不大，而这也无法体现模型在多尺度输出的优势。进一步分析发现，数据集中标注框尺寸也有较多比得到的锚点框尺寸要大，这样在训练时对模型的要求也更高，那么最终得到的输出也会因为这些误差而使损失值更大。因此考虑到本文目标多为小中尺寸，因此采用K-means聚类后生成的小中尺寸的锚点框，保留原始大尺寸的锚点框，构成最终的9组锚点框。由表3数据看到测精度得到明显提升，证明了该方法的可行性。

2.4   优化的SPPF模块

原始的SPP是使用不同尺寸的池化核对卷积后的输出进行最大池化，从而产生不同尺度的更大的感受野，获得的上下层特征更显著，从而能提取出更丰富的图像特征。输入并行通过4条支路，分别对应于最大池化核1、3、9和13，然后拼接在一起进一步融合，能在一定程度上解决目标多尺度问题。

如图5所示，本文设计了SPPF模块来代替原始的SPP模块。SPPF模块设置了1条主线通道，将输入串行通过多个5×5池化核。第1条支路直接连接到输出，相当于1个1×1大小的池化核；第2条支路经过了1个5×5的卷积核，再连接到输出；第3条支路通过2个5×5的池化核，再连接到输出，其中2个5×5池化核可达到1个9×9池化核的效果；最后一条支路通过3个5×5的池化核，再连接到输出，3个5×5的池化核可发挥1个13×13池化核的效果。最终将4条支路的输出堆叠起来，实际的池化效果与原先的SPP模块相同，但实现更高效。每当需要进入下一个最大池化核时，前一个池化核已经提前完成了部分池化操作，因此可以节省时间。改进后的SPPF模块在发挥同等作用的前提下实现了更高的效率，可以将运算速度提高2倍，加快模型的收敛。

图  5  SPP模块和SPPF模块

下载: 全尺寸图片

2.5   SiLU激活函数

原模型在路径聚合网络和预测层部分采用的激活函数为Leaky ReLU，其公式如下：

原模型中当 $ x < 0 $ 时，系数设置为0.1，而ReLU激活函数在取值为负时梯度为0，Leaky ReLU为了保证输入信息小于0时不会完全丢失，设置了一个较小的梯度，但是该函数曲线不够平滑。而本文采用的Sigmoid加权线性单元（Sigmoid weighted linear unit，SiLU)激活函数是Swish^[22]激活函数的特例，表达式为

式（1）对应的曲线如图6所示，可以看出曲线相当平滑，无上界有下界，并且是非单调的，对性能可以发挥有利作用，效果相较Leaky ReLU函数更好，特别是在深层网络中优势更加明显。

图  6  SiLU激活函数

下载: 全尺寸图片

3.   模型训练与结果分析

3.1   实验环境

本文实验平台的配置如下。操作系统：Windows 10；中央处理器：Intel Core i7-8700K，3.6 GHz；内存：32 GB；图像处理器：NVIDIA GeForce Titan Xp，12 GB；图像处理器加速库：CUDA 11.1，cudnn 8.0；深度学习框架：Pytorch。

3.2   实验参数

输入尺寸大小为416×416，批处理大小为8，初始学习率设置为0.001，之后采用余弦退火衰减算法阶段性改变当前学习率，平滑标签大小设置为0.005，迭代训练100个世代。

3.3   损失函数及其变化曲线

本文在自建数据集的基础上分别训练了原始YOLOv4模型以及叠加了不同改进后的YOLOv4模型，图7给出不同训练条件下的损失曲线。从图7中可以看出，改进后的模型拥有更快的收敛速度和更好的鲁棒性，同时最终的损失值更低。

图  7  模型不同训练条件下的损失曲线

下载: 全尺寸图片

3.4   实验结果及分析

3.4.1   消融实验

性能指标以mAP、帧率和存储空间为代表，最终结果如表4所示。文中选择的基准模型为目前主流的目标检测模型YOLOv4，采用K-means聚类后模型获得了更合适的锚点框，mAP提高了0.72%，锚点框的改动不改变模型参数，因此模型速度保持不变；之后采用SPPF模块用于提升SPP部分池化效率，增强模型特征提取能力，mAP提升了0.4%，并且帧率也相应提高了0.3；最后通过改变路径聚合网络部分和预测层部分的激活函数，采用更先进的SiLU激活函数，在模型速度不变的情况下精度再次提升了0.11%。整个YOLOv4模型改进的过程中，可以发现模型在不增加参数量的情况下，精度得到了逐步地提升，且速度并没有减慢，满足实际工业场景中对于实时性的要求。

3.4.2   对比实验

除了设置消融实验，本文还与该类算法同属一个系列的YOLOv5模型进行对比实验，其中YOLOv5选取的是精度最高的x版本。精度对比如表5所示，由表5可知，原版YOLOv4与YOLOv5在精度上都不如本文提出的模型，且YOLOv5的帧率较低，不过YOLOv5内存占用相对较少。其中YOLOv4在风筝和垃圾2类异物的检测中平均精度（average precision，AP）相对较低，YOLOv5在风筝这类样本的学习中AP较差，而本文模型的改进使得4类目标的检测精度都得到了一定程度的提升，且速度和内存占用不因精度提升而受到影响。

3.4.3   检测效果对比

为了比较3种算法实际检测效果，随机选取了2张输电线路缠绕异物的图片进行测试，检测效果如图8所示。由图8可以看出，第1个场景下原模型YOLOv4算法存在漏检，第2个场景下原模型YOLOv4算法检测的置信度仅为0.57，YOLOv5-x算法模型检测出了异物且取得了不错的效果，但文中改进的YOLOv4算法模型的检测效果最佳，以极高的置信度框选出了输电线路上的异物。一方面说明本模型提升了在复杂背景下的适应性，另一方面说明改进后的模型精度得到了显著提升。

图  8  检测效果对比

下载: 全尺寸图片

4.   结论

本文针对输电线路上的异物检测，研究了基于改进YOLOv4算法的实时检测模型。

1）为了提升模型的精度，改进了针对自建数据集生成的锚点框，改进了空间金字塔池化层，优化了模型的激活函数。改进后的模型在不增加模型原有参数量的条件下，检测精度得到了提升，速度几乎不变，可以满足实时检测的要求。

2）自建数据集用于模型的训练与验证，最终训练出的模型能较好地检测出输电线路上存在的各类异物，但由于异物种类和尺寸的特殊性以及图片像素问题，仍存在一定的漏检情况。之后可不断扩充数据集，增强模型泛化性，以适应更多变的情况。

未来工作可以继续细分异物数据集检测的类别，以便于工作人员针对不同种类异物采用不同清障方法。