基于改进YOLOv5s的面向自动驾驶场景的道路目标检测算法

胡丹丹 张忠婷

胡丹丹, 张忠婷. 基于改进YOLOv5s的面向自动驾驶场景的道路目标检测算法 [J]. 智能系统学报, 2024, 19(3): 653-660. doi: 10.11992/tis.202206034
引用本文: 胡丹丹, 张忠婷. 基于改进YOLOv5s的面向自动驾驶场景的道路目标检测算法 [J]. 智能系统学报, 2024, 19(3): 653-660. doi: 10.11992/tis.202206034
HU Dandan, ZHANG Zhongting. Road target detection algorithm for autonomous driving scenarios based on improved YOLOv5s [J]. CAAI Transactions on Intelligent Systems, 2024, 19(3): 653-660. doi: 10.11992/tis.202206034
Citation: HU Dandan, ZHANG Zhongting. Road target detection algorithm for autonomous driving scenarios based on improved YOLOv5s [J]. CAAI Transactions on Intelligent Systems, 2024, 19(3): 653-660. doi: 10.11992/tis.202206034

基于改进YOLOv5s的面向自动驾驶场景的道路目标检测算法

doi: 10.11992/tis.202206034
基金项目: 中央高校基本科研业务项目(3122022PY17, 3122017003);天津市科技计划项目(17ZXHLGX00120).
详细信息
    作者简介:

    胡丹丹,副教授,主要研究方向为机器人环境感知、多传感器数据融合。申请发明专利30余项,发表学术论文20余篇。E-mail:ddhu@cauc.edu.cn;

    张忠婷,硕士研究生,主要研究方向为无人驾驶车辆环境感知,被评为校级优秀研究生,曾获国家励志奖学金,华北五省(市、自治区)大学生机器人大赛类人机器人竞技体育赛(投篮)竞赛项目一等奖。E-mail:1113276573@qq.com.

    通讯作者:

    胡丹丹. E-mail:ddhu@cauc.edu.cn.

  • 中图分类号: TP391.4

Road target detection algorithm for autonomous driving scenarios based on improved YOLOv5s

  • 摘要: 在复杂道路场景中检测车辆、行人、自行车等目标时,存在因多尺度目标及部分遮挡易造成漏检及误检等情况,提出一种基于改进YOLOv5s的面向自动驾驶场景的道路目标检测算法。首先,利用深度可分离卷积替换部分普通卷积,减少模型的参数量以提升检测速度。其次,在特征融合网络中引入基于感受野模块(receptive field block,RFB)改进的RFB-s,通过模仿人类视觉感知,增强特征图的有效感受野区域,提高网络特征表达能力及对目标特征的可辨识性。最后,使用自适应空间特征融合(adaptively spatial feature fusion,ASFF)方式以提升PANet对多尺度特征融合的效果。实验结果表明,在PASCAL VOC数据集上,所提算法检测平均精度均值相较于YOLOv5s提高1.71个百分点,达到84.01%,在满足自动驾驶汽车实时性要求的前提下,在一定程度上减少目标检测时的误检及漏检情况,有效提升模型在复杂驾驶场景下的检测性能。

     

    Abstract: When vehicles, pedestrians, bicycles, and other targets are detected in complex road scenes, the existence of multiscale targets and partial occlusions may easily cause missed and false detections. In this paper, a road target detection algorithm is proposed based on improved YOLOv5s, orienting to autonomous driving scenarios. First, depthwise separable convolution is used to replace partial ordinary convolutions to reduce the number of parameters of the model to improve the detection speed. An improved RFB-s based on receptive field block (RFB) is introduced into the feature fusion network to enhance the effective receptive field area of the feature map, improving the network feature expression capability and the recognizability of the target features by imitating human visual perception. Finally, an adaptive spatial feature fusion method is used to enhance the effect of PANet on multiscale feature fusion. The experimental results reveal that, on the PASCAL VOC dataset, compared with YOLOv5s, the mean value of the average detection precision of the proposed algorithm is improved by 1.71%, reaching 84.01%. Under the premise of meeting the real-time requirement of autonomous driving vehicles, this algorithm has reduced false and missed detections in the target detection to a certain extent, effectively improving the detection performance of the model in complex driving scenarios.

     

  • 复杂道路场景中的车辆、行人、自行车等目标的检测效果直接关系到智能汽车的行驶决策,对其进行准确定位和类别检测能够为行驶中的车辆提供信息,保障车辆安全行驶。实时和鲁棒的目标检测算法可以有效避免交通事故的发生,提高汽车行驶的安全性能。

    计算机视觉和深度学习的快速发展,可以有效弥补基于人工提取特征进行目标检测时存在的检测精度低、易受环境干扰以及泛化能力不强等缺点,已经取得了一些显著效果。

    目前基于深度学习的目标检测算法主要分为两类:1)R-CNN[1]、Fast R-CNN [2]、Faster R-CNN[3]、R-FCN[4]、Mask R-CNN[5]等双步目标检测算法,大都先使用区域候选网络(region proposal network,RPN)生成一个可能包含待检测目标的候选框,再利用卷积神经网络提取特征完成对候选目标的位置和类别的预测和识别。2)SSD[6]、DSSD[7]、FSSD[8]、YOLO[9]、YOLO9000[10]、YOLOv3[11]、YOLOv4[12]、YOLOv5[13]和EfficientDet[14]等单步目标检测算法,直接通过卷积神经网络提取特征来产生目标的位置和类别信息,将检测转化为回归问题,是一种端到端的目标检测算法,具有更快的检测速度。

    已有一些研究工作将两类检测算法应用到自动驾驶场景中的目标检测问题中。例如,陈泽等[15]在Faster R-CNN检测算法中引入基于双线性插值的对齐池化层,减少量化操作中的像素偏差。设计了基于级联的特征融合策略,实现特征复用,能够有效提高对小尺度行人的检测性能。郁强等[16]提出一种多尺度YOLOv3的道路场景目标检测算法,新增两个面向小目标的特征输出模块,较好地解决小尺度目标的检测问题,同时又没有影响大目标的检测。

    现有单步、双步目标检测算法在面向驾驶场景下的目标检测中已取得了一些研究进展,但是减少多尺度差异及遮挡情况下目标检测的误检及漏检仍是迫切需要解决的问题。此外,在自动驾驶场景中,目标检测算法需要对道路目标做出准确的响应且及时回传到汽车的控制系统中,即需要同时具备较高的实时性和准确性。YOLOv5s算法在检测精度和速度两方面有较好的平衡性,但是其检测精度仍存在很大的改进空间以提高实际问题中目标检测的准确率。因此,针对上述问题,本文以YOLOv5s算法[13]为基础模型进行改进,提出一种基于感受野增强和多尺度特征融合的道路目标检测算法−YOLOv5s-RFB-s-ASFF。

    YOLOv5s-RFB-s-ASFF算法检测过程如图1所示,分为离线训练阶段和在线测试阶段两部分:1)离线训练阶段将数据集的样本划分为训练样本集和测试样本集,利用YOLOv5s的自适应图像缩放功能将输入图像尺寸自动缩放至640像素×640像素的大小;对训练样本集进行标注,送入到YOLOv5s-RFB-s-ASFF检测网络中进行训练,得到模型预训练权重。2)在线测试阶段,利用搭载了视觉相机的无人驾驶平台进行采集图像,使用得到的模型权重对待检测的图像进行测试验证。

    图  1  YOLOv5s-RFB-s-ASFF算法检测过程
    Fig.  1  YOLOv5-sRFB-s-ASFF algorithm detection process
    下载: 全尺寸图片

    本文提出的基于感受野增强和多尺度特征自适应融合的道路目标检测方法——YOLOv5s-RFB-s-ASFF,其网络框架如图2所示,由4部分组成:

    图  2  YOLOv5s-RFB-s-ASFF算法网络框架
    Fig.  2  YOLOv5s-RFB-s-ASFF algorithm network framework
    下载: 全尺寸图片

    1)输入端(Input)对数据进行mosaic数据增强、自适应锚框计算和自适应图片缩放等预处理操作。

    2)主干网络(Backbone)主要采用Focus结构、跨阶段局部结构及空间金字塔池化等深度卷积操作从图像中提取不同层次的特征。

    3)颈部部分(Neck)由特征金字塔网络和路径聚合网络组成的PANet网络。本文在Neck部分引入深度可分离卷积精简原检测网络的计算参数,以提高检测速度;嵌入改进感受野模块RFB-s,扩大有效感受野,增强网络对道路目标的特征表达能力及对目标特征的可辨识性;在预测网络前利用自适应特征融合结构ASFF融合不同尺度大小的浅层特征图和深层特征图的位置和类别信息,提高检测精度。

    4)预测部分(Prediction):主要是在不同特征图上预测不同尺寸的目标,包括计算损失函数、NMS非极大值抑制等。损失函数由回归框预测误差$ L_{{\rm{cla}}} $、置信度误差$ L_{{\rm{conf}}} $、目标类别损失函数$ L_{{\rm{cla}}} $这3部分组成。其中$ L_{{\rm{loc}}} $采用GIoU[17]函数来计算,计算公式为

    $$ {{\rm{GIoU}}} = {I_{{\rm{oU}}}} - \frac{{\left| {C - ({ {A}} \cup B)} \right|}}{{\left| { {C}} \right|}} $$ (1)

    式中:$ {I_{{\rm{oU}}}} $表示为预测框与真实框的交并比;${ {A}}$表示预测框;$ B $表示真实框;$ C $表示${ {A}}$$ B $最小包围框,表示预测框与真实框的并集。

    为有效降低模型参数量,提高目标检测实时性,使用深度可分离卷积将原始YOLOv5s的Neck部分第11、15、19和22层的普通卷积层替换为深度可分离卷积,简化网络结构,降低计算消耗内存。

    深度可分离卷积(depthwise separable convolution,DSC)[18]进行卷积的过程可以分为两个步骤:1)使用深度卷积在二维平面内对输入特征图进行逐通道的卷积,得到与输入特征图通道相同的特征映射。2)使用尺寸大小为1×1的卷积对深度卷积操作生成的特征映射进行逐点卷积,在深度方向上加权组合,进行维度变换,从而有效利用不同通道在相同空间位置上的特征信息。

    设输入特征图尺寸为$ \left\{ {D_{{\rm{F}}} ,D_{{\rm{F}}} ,M} \right\} $$ M $为输入通道数,卷积核大小为$ D_{{\rm{K}}} \times D_{{\rm{K}}} $,输出特征图尺寸为$ \left\{ {D_{{\rm{F}}} ,D_{{\rm{F}}} ,N} \right\} $$ N $为输出通道数。深度可分离卷积的计算量为$ D_{{\rm{K}}} \cdot D_{{\rm{K}}} \cdot M \cdot D_{{\rm{F}}} \cdot D_{{\rm{F}}} +M \cdot N \cdot D_{{\rm{F}}} \cdot D_{{\rm{F}}} $,普通卷积的计算量为$ D_{{\rm{K}}} \cdot D_{{\rm{K}}} \cdot M \cdot N \cdot D_{{\rm{F}}} \cdot D_{{\rm{F}}} $

    $$ \frac{{D_{{\rm{K}}} \cdot D_{{\rm{K}}} \cdot M \cdot D_{{\rm{F}}} \cdot D_{{\rm{F}}} +M \cdot N \cdot D_{{\rm{F}}} \cdot D_{{\rm{F}}} }}{{D_{{\rm{K}}} \cdot D_{{\rm{K}}} \cdot M \cdot N \cdot D_{{\rm{F}}} \cdot D_{{\rm{F}}} }} = \frac{{1}}{N}+\frac{{1}}{{D_{{\rm{K}}} ^2}} < 1 $$ (2)

    由式(2)可以看出,深度可分离卷积的计算量比普通卷积计算量大大减少,占其计算量的$ \dfrac{{1}}{N}+\dfrac{{1}}{{D_{{\rm{K}}} ^2}} $,当$ D_{{\rm{K}}} $取3时,即使用3×3卷积核时,相比于普通卷积可以降低8~9倍的参数量,加快了运算速度,提高了检测效率,降低了内存占用。

    在颈部特征融合网络处引入基于感受野模块[19]改进的RFB-s,以不同大小尺寸的卷积核对特征图进行特征提取,进一步提升网络的特征融合能力,对有遮挡的相似物体进行更好的类别判断与区分。

    图3所示,感受野模块RFB模拟人类视觉的感受野,借鉴Inception网络[20],使用了多分支结构。并引入空洞卷积,在多分支结构上使用不同尺度的常规卷积和空洞卷积,增大特征图的有效感受野区域,增强特征分辨能力。

    图  3  感受野模块特征提取示意
    Fig.  3  Schematic diagram of feature extraction of perceptual field module
    下载: 全尺寸图片

    图4所示,RFB内部结构主要分为两部分。

    图  4  RFB网络结构示意
    Fig.  4  RFB network structure diagram
    下载: 全尺寸图片

    1)多分支卷积层

    设计了一种多分支网络结构,包含3个分支,使用不同大小的卷积核,其特征提取能力优于使用相同尺寸大小卷积核的网络结构。

    图4所示,第1个分支是由1×1标准卷积、3×3空洞卷积(扩张系数为1)组成,第2个分支是由1×1 标准卷积、3×3标准卷积、3×3空洞卷积(扩张系数为3)组成,第3个分支是由1×1标准卷积、5×5 标准卷积、3×3空洞卷积(扩张系数为5)组成。此外,还借鉴了ResNet中的shortcut结构,通过直连的方式减轻深层网络的训练负担。

    2)空洞卷积

    空洞卷积在标准卷积层中加入了一个新的参数−扩张率(dilation rate),能够将卷积核扩张到规定的尺度大小,可以在参数量相同的情况,增大特征图的有效感受野,因此能够优化高分辨率图像相邻像素间的冗余信息。

    图5所示,基于RFB改进的RFB-s网络,用3×3的卷积层和代替较大的5×5的卷积层,用1×3和3×1的卷积层代替3×3的卷积层,分支变多,但卷积核的尺寸变小,减少了计算量。

    图  5  RFB-s网络结构示意
    Fig.  5  RFB-s network structure diagram
    下载: 全尺寸图片

    面向自动驾驶环境的目标检测,待检测的车辆、行人、自行车等目标存在尺度差异,且目标被遮挡后会出现轮廓模糊、部分特征缺失的情况,特征提取网络提取到的低级特征信息就会失效。因此需要增强网络模型对不同尺度特征的融合利用能力,从而增强网络的特征表达能力。

    原始YOLOv5s框架采用FPN+PAN的结构,将特征图变换为相同尺度后,采用直接级联的方式对不同尺度的特征进行融合,对不同尺度特征的利用程度较低,容易造成网络检测精度低。

    在YOLOv5s中加入自适应空间特征融合机制ASFF[21],通过给不同尺度特征分配自适应的权重参数,实现不同尺度特征的高效融合,自动学习并滤除其他层的无用信息,保留有用的信息。同时ASFF的融合过程是可微分的,可以通过标准的反向传播来学习并更新权重,具有实现方式简单,计算量小等优点。

    在YOLOv5s中加入ASFF,ASFF结构如图6所示,改进后的PANet结构输出3个不同尺度的特征层分别记为L1L2L3,经过融合得到3个ASFF层分别对应ASFF-1、ASFF-2和ASFF-3。

    图  6  ASFF结构
    Fig.  6  ASFF structure
    下载: 全尺寸图片

    具体的实现步骤可以分为两步:

    1)不同尺度间的特征缩放:将输入层Ll(l∈{1,2,3})尺度特征设为$ {X^l} $,将其他的特征层Ln(n≠ l)的特征$ {X^n} $调整到与$ {X^l} $一样的尺度大小。

    对于尺度小于给定尺度大小的特征图时,需要对该特征图进行上采样操作,使用1×1的点卷积将特征图的通道数压缩至与目标层$ l $级相同的通道数,然后利用插值法来扩大特征图的尺寸大小。

    对于尺度大于给定尺度大小的特征图时,需要对该特征图进行下采样操作,使用3×3的卷积核(步长为2)进行下采样,将特征图调整为现在尺寸的1/2,同时调整特征图的通道数和尺寸大小。使用最大池化层(步长为2)加3×3的卷积层(步长为2)进行1/4比例的下采样,实现特征图的尺度大小统一。

    2)自适应特征融合:通过尺度特征缩放后,得到$ {\boldsymbol{X}}_{}^{1 \to l} $$ {\boldsymbol{X}}_{}^{2 \to l} $$ {\boldsymbol{X}}_{}^{3 \to l} $标准化后的特征图,沿通道方向进行拼接,然后经过一个输出通道为3的1×1卷积层,并利用softmax函数将输出调整为[0,1]之间,最后得到3层特征图的自适应空间权重$ \alpha _{ij}^l $$ \, \beta _{ij}^l $$ \gamma _{ij}^l $,每个特征图都与其对应的权重参数矩阵相乘,然后采用对应元素值相加的方式得到最终的特征融合结果。

    $ {\boldsymbol{X}}_{ij}^{{{n}} \to l} $表示由第$ {{n}} $层的特征图调整尺度到第$ {{l}} $层特征映射上$ ({{i,j}}) $位置的特征向量,对应第$ {{l}} $级的特征融合结果如下:

    $$ {\boldsymbol{y}}_{ij}^l = {\boldsymbol{X}}_{ij}^{1 \to l} \times \alpha _{ij}^l + {\boldsymbol{X}}_{ij}^{2 \to l} \times \beta _{ij}^l + {\boldsymbol{X}}_{ij}^{3 \to l} \times \gamma _{ij}^l $$ (3)

    式中: $ {\boldsymbol{y}}_{ij}^l $表示特征图$ {y^l} $$ ({{i,j}}) $处的输出;$ \alpha _{ij}^l $$ \, \beta _{ij}^l $$ \gamma _{ij}^l $∈[0,1],是可学习的参数,分别为在第$ {\text{l}} $层特征图中学习到的权重,满足以下关系式:

    $$ \alpha _{ij}^l + \beta _{ij}^l + \gamma _{ij}^l = 1 $$ (4)

    其中,$\alpha _{ij}^l $$ \,\beta _{ij}^l $$ \gamma _{ij}^l $分别定义为

    $$ \alpha _{ij}^l = \frac{{{{{\rm{e}}} ^{\lambda _{{\alpha _{ij}}}^l}}}}{{{{{\rm{e}}} ^{\lambda _{{\alpha _{ij}}}^l}} + {{{\rm{e}}} ^{\lambda _{{\beta _{ij}}}^l}} + {{{\rm{e}}} ^{\lambda _{{\gamma _{ij}}}^l}}}} $$ (5)
    $$ \beta _{ij}^l = \frac{{{{{\rm{e}}} ^{\lambda _{{\beta _{ij}}}^l}}}}{{{{{\rm{e}}} ^{\lambda _{{\alpha _{ij}}}^l}} + {{{\rm{e}}} ^{\lambda _{{\beta _{ij}}}^l}} + {{{\rm{e}}} ^{\lambda _{{\gamma _{ij}}}^l}}}} $$ (6)
    $$ \gamma _{ij}^l = \frac{{{{{\rm{e}}} ^{\lambda _{{\gamma _{ij}}}^l}}}}{{{{{\rm{e}}} ^{\lambda _{{\alpha _{ij}}}^l}} + {{{\rm{e}}} ^{\lambda _{{\beta _{ij}}}^l}} + {{{\rm{e}}} ^{\lambda _{{\gamma _{ij}}}^l}}}} $$ (7)

    式中: $ \lambda _{{\alpha _{ij}}}^l $$ \lambda _{{\beta _{ij}}}^l $$ \lambda _{{\gamma _{ij}}}^l $$ {\boldsymbol{X}}_{}^{1 \to l} $$ {\boldsymbol{X}}_{}^{2 \to l} $$ {\boldsymbol{X}}_{}^{3 \to l} $分别经过1×1卷积得到,然后$ \lambda _{{\alpha _{ij}}}^l $$ \lambda _{{\beta _{ij}}}^l $$ \lambda _{{\gamma _{ij}}}^l $通过使用控制参数的softmax函数得到$ \alpha _{ij}^l $$ \,\beta _{ij}^l $$ \gamma _{ij}^l $,将其输出调整为[0,1]。

    为了验证本文提出的YOLOv5s-RFB-s-ASFF算法的性能,在Pytorch框架下对其进行训练与测试,训练平台使用Python 3.8.0进行编译和测试,处理器为Intel(R) Core(TM) i7-10750H,显卡为NVIDIA GTX 1650Ti,操作系统为Ubuntu 18.04,采用11.1版本的CUDA,计算机视觉库为Python-OpenCV 4.4.0。初始学习率设为0.01,batch size为4。

    在PASCAL VOC目标检测公开数据集上进行对比实验,将PASCAL VOC 2007和 PASCAL VOC 2012的训练集进行合并,作为YOLOv5s-RFB-s-ASFF模型的训练集,测试集为PASCAL VOC 2007测试集部分。数据集中已经人工标注好了待检测目标的真实框的位置、大小及类别信息。数据集中的目标总共可以分为4大类:vehicle、household、animal、person,细分后有20个类别的物体。

    为了对本文提出的YOLOv5s-RFB-s-ASFF目标检测算法的性能进行定量及综合的评价,采用mAP@0.5和检测速度作为评价标准。

    平均精度均值(mAP)反映目标检测精度,mAP@0.5代表在IoU阈值为0.5时的平均精度均值。检测速度为每秒能够检测的图像帧数,反映目标检测速度。检测结果可以分为4种:真正例$ {{\rm{TP}}} $、假正例$ {{\rm{FP}}} $、真负例$ {{\rm{TN}}} $、假负例$ {{\rm{FN}}} $

    精确率$ P $表示网络检测的所有目标中为正类个数的比例,召回率$ R $表示网络检测的正类占数据集所有正类的比例,计算公式为

    $$ P = \frac{{{N_{{\rm{TP}}}}}}{{{N_{{\rm{TP}}}} + {N_{{\rm{FP}}}}}} \times {100 \text{%} } $$ (8)
    $$ {{R = }}\frac{{{N_{{\rm{TP}}}}}}{{{N_{{\rm{TP}}}} + {N_{{\rm{FN}}}}}} \times {100 \text{%} } $$ (9)

    平均精度$ {P_{\text{A}}} $和平均精度均值${P_{{{\rm{mA}}} }}$的计算公式为

    $$ {P_{\text{A}}} = \int_0^1 {P(R){{\rm{d}}} R} $$ (10)
    $$ {P_{{{\rm{mA}}} }} = \frac{1}{n}\sum\limits_{i = 1}^n {{P_{{{A,i}}}}} $$ (11)

    式中:$ {{n}} $为数据集包含的类别总数,$ {P_{{{A,i}}}} $为第$ {{i}} $个类别检测的平均准确率。

    3.3.1   客观分析

    为了验证本文提出的YOLOv5s-RFB-s-ASFF算法的性能,分别统计网络的mAP@0.5和检测速度,不同算法性能指标对比如表1所示。

    表  1  不同算法性能指标对比
    Table  1  Comparison of performance metrics of different algorithms
    算法输入尺寸/(像素×像素)主干网络mAP @0.5/%检测速度/(f/s)
    Fast R-CNN600×1000VGG1670.000.5
    Faster R-CNN600×1000VGG1673.207
    SSD512×512VGG1679.8019
    DSSD513×513ResNet-10181.505.5
    YOLOv3416×416Darknet5379.2626.7
    YOLOv4416×416CSP-Darknet5383.6466
    YOLOv5s640×640CSP-Darknet5382.3076
    YOLOv5s-RFB-s-ASFF640×640CSP-RFB-s-ASFF84.0161

    表1的对比算法检测结果可以看出,本文提出的YOLOv5s-RFB-s-ASFF算法的mAP@0.5高于其他对比算法,相比于原始YOLOv5s算法的mAP@0.5值提高了1.71个百分点,RFB-s感受野增强模块及ASFF机制的加入,使得模型能够更加充分利用低层次的特征信息,改善了被遮挡目标的检测效果,有效减少了漏检及误检情况,获得了较高的检测精度。由于RFB-s及ASFF模块的加入,增加了一定的计算量,采用深度可分离卷积替换部分普通卷积,使得本文算法的检测速度虽比原始算法的检测速度下降了15 f/s,但仍保持较高的实时性,较大幅度提升了模型的性能。

    3.3.2   消融实验

    本文算法在YOLOv5s算法的基础上采用了多个改进策略,为了验证不同模块改动和不同模块组合的改进策略的有效性,设计了消融实验进行对比研究,实验结果如表2所示。从表2可以看出,深度可分离卷积替换普通卷积后,相较于原始YOLOv5s算法,模型mAP@0.5降低了1.04个百分点,但是检测速度明显提高;RFB-s模块的添加,提高了算法的精度,mAP@0.5由81.26%提升到83.80%,证明了增强感受野对于特征提取的重要性;在加入RFB-s的基础上加入特征自适应融合模块ASFF,mAP提高了0.21个百分点,证明了ASFF模块可以更有效地利用浅层和高层特征之间的联系,使其获得更高的准确率。

    表  2  消融实验
    Table  2  Ablation experiments
    组别DSCRFB-sASFFmAP@0.5/%检测速度/(f/s)
    182.3076
    281.2684
    383.8073
    484.0161
    3.3.3   可视化分析

    为了进一步直观的验证本文提出的YOLOv5s-RFB-s-ASFF算法的性能,选取具有代表性的4种场景对模型进行验证,分别为:多尺度且多种类待检测目标、多种类被遮挡目标、单一种类被遮挡目标、实际黑夜校园环境。实验中,将本文算法与YOLOv3、YOLOv4、YOLOv5s几种目标检测算法进行对比,可视化结果对比如图7所示,从左到右4组实验结果及分析如下。

    图  7  可视化结果对比图
    Fig.  7  Visualization results comparison chart
    下载: 全尺寸图片

    第1组实验:在昏暗环境中,存在两种类别的待检测目标。从第1组的实验对比结果可以看出,所有的检测算法均可以检测出待检测目标,但是YOLOv3算法存在误检现象,将其中一只白色的狗误检为猫,将图像中间位置的狗误检为羊,YOLOv4与YOLOv5s-RFB-s-ASFF检测精度率高于YOLOv5s。

    第2组实验:待检测目标为两种类别且存在严重遮挡。从第2组的实验对比结果可以看出,YOLOv4算法检测结果中存在一辆摩托车漏检,而其他3种算法均能够正确检测出待检测目标,YOLOv5s-RFB-s-ASFF算法的检测精度与YOLOv3相当,且高于YOLOv5s,由于深度可分离卷积的加入,本文算法检测速度比YOLOv3快。

    第3组实验:单一种类且目标存在遮挡。从第3组实验对比结果可以看出,改进感受野增强模块RFB-s的加入使本文算法能够增大有效感受野,准确检测出所有待检测目标,而其余算法均出现了漏检情况。

    第4组实验:待检测目标为实际校园环境中存在遮挡的自行车,且图像中自行车尺度有差异。YOLOv3、YOLOv4算法存在漏检情况,只检测到5个待检测目标,YOLOv5s只检测到4个待检测目标且还存在误检情况,将其中一辆自行车误检为摩托车,本文算法可以准确检测出所有的6个待检测的自行车目标。

    综合而言,相较YOLOv3、YOLOv4、YOLOv5s算法,本文提出的YOLOv5s-RFB-s-ASFF算法目标识别误检及漏检率低,识别精度更高,而且实时性有保证。

    1)提出了一种基于YOLOv5s改进的目标检测算法−YOLOv5s-RFB-s-ASFF算法,在识别精度及实时性方面表现性能较优。利用深度可分离卷积替换部分普通3×3卷积层,在一定程度上减少了模型的参数量;加入改进感受野增强模块RFB-s,使网络更多地捕获靠近感受野中心区域的信息,从而生成更大感受野的特征图,进而提高目标的检测精度;基于ASFF构建多尺度特征自适应融合机制,能更有效表达待检测目标特征,减少了由于特征表达能力不足而造成的漏检和误检现象。

    2)实际实验表明本文方法能够较好地解决多尺度特征及目标遮挡的检测问题,改进后的算法实时检测速率相较于原始算法有所降低,但仍满足实时性要求,该算法可以很好地服务于驾驶场景下的目标检测任务中。下一步将制作驾驶场景下的数据集,大幅增加目标数量,验证YOLOv5s-RFB-s-ASFF算法在目标密集场景下目标检测的能力。

  • 图  1   YOLOv5s-RFB-s-ASFF算法检测过程

    Fig.  1   YOLOv5-sRFB-s-ASFF algorithm detection process

    下载: 全尺寸图片

    图  2   YOLOv5s-RFB-s-ASFF算法网络框架

    Fig.  2   YOLOv5s-RFB-s-ASFF algorithm network framework

    下载: 全尺寸图片

    图  3   感受野模块特征提取示意

    Fig.  3   Schematic diagram of feature extraction of perceptual field module

    下载: 全尺寸图片

    图  4   RFB网络结构示意

    Fig.  4   RFB network structure diagram

    下载: 全尺寸图片

    图  5   RFB-s网络结构示意

    Fig.  5   RFB-s network structure diagram

    下载: 全尺寸图片

    图  6   ASFF结构

    Fig.  6   ASFF structure

    下载: 全尺寸图片

    图  7   可视化结果对比图

    Fig.  7   Visualization results comparison chart

    下载: 全尺寸图片

    表  1   不同算法性能指标对比

    Table  1   Comparison of performance metrics of different algorithms

    算法输入尺寸/(像素×像素)主干网络mAP @0.5/%检测速度/(f/s)
    Fast R-CNN600×1000VGG1670.000.5
    Faster R-CNN600×1000VGG1673.207
    SSD512×512VGG1679.8019
    DSSD513×513ResNet-10181.505.5
    YOLOv3416×416Darknet5379.2626.7
    YOLOv4416×416CSP-Darknet5383.6466
    YOLOv5s640×640CSP-Darknet5382.3076
    YOLOv5s-RFB-s-ASFF640×640CSP-RFB-s-ASFF84.0161

    表  2   消融实验

    Table  2   Ablation experiments

    组别DSCRFB-sASFFmAP@0.5/%检测速度/(f/s)
    182.3076
    281.2684
    383.8073
    484.0161
  • [1] GIRSHICK R, DONAHUE J, DARRELL T, et al. Rich feature hierarchies for accurate object detection and semantic segmentation[C]//Proceedings of the 2014 IEEE Conference on Computer Vision and Pattern Recognition. Columbus: ACM, 2014: 580–587.
    [2] GIRSHICK R. Fast R-CNN[C]//2015 IEEE International Conference on Computer Vision. Santiago: IEEE, 2015: 1440–1448.
    [3] REN Shaoqing, HE Kaiming, GIRSHICK R, et al. Faster R-CNN: towards real-time object detection with region proposal networks[J]. IEEE transactions on pattern analysis and machine intelligence, 2017, 39(6): 1137–1149. doi: 10.1109/TPAMI.2016.2577031
    [4] DAI Jifeng, LI Yi, HE Kaiming, et al. R-FCN: object detection via region-based fully convolutional networks[C]//Proceedings of the 30th International Conference on Neural Information Processing Systems. Barcelona: ACM, 2016: 379–387.
    [5] HE Kaiming, GKIOXARI G, DOLLÁR P, et al. Mask R-CNN[C]//2017 IEEE International Conference on Computer Vision. Venice: IEEE, 2017: 2980–2988.
    [6] LIU Wei, ANGUELOV D, ERHAN D, et al. SSD: single shot MultiBox detector[C]//European Conference on Computer Vision. Cham: Springer, 2016: 21–37.
    [7] FU Chengyang, LIU Wei, RANGA A, et al. DSSD: deconvolutional single shot detector[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. Hawaii: IEEE, 2017: 2881−2890.
    [8] LI Zuoxin, YANG Lu, ZHOU Fuqiang. FSSD: feature fusion single shot multibox detector[EB/OL]. (2017–12–04)[2022–06–20]. http://arxiv.org/abs/1712.00960.
    [9] REDMON J, DIVVALA S, GIRSHICK R, et al. You only look once: unified, real-time object detection[C]//2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas: IEEE, 2016: 779–788.
    [10] REDMON J, FARHADI A. YOLO9000: better, faster, stronger[C]//2017 IEEE Conference on Computer Vision and Pattern Recognition. Honolulu: IEEE, 2017: 6517–6525.
    [11] REDMON J, FARHADI A. YOLOv3: an incremental improvement[EB/OL]. (2018–04–08)[2022–06–20]. http://arxiv.org/abs/1804.02767.
    [12] BOCHKOVSKIY A, WANG C Y, LIAO H Y M. YOLOv4: optimal speed and accuracy of object detection[J]. (2020–04–23)[2022–06–20]. https://arxiv.org/abs/2004.10934.
    [13] GLENN J. Ultralytics. YOLOv5[EB/OL]. (2020–06–03)[2021–04–15]. https://github.com/ultralytics/yolov5.
    [14] TAN Mingxing, PANG Ruoming, LE Q V. EfficientDet: scalable and efficient object detection[C]//2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Seattle: IEEE, 2020: 10778–10787.
    [15] 陈泽, 叶学义, 钱丁炜, 等. 基于改进Faster R-CNN的小尺度行人检测[J]. 计算机工程, 2020, 46(9): 226–232,241.

    CHEN Ze, YE Xueyi, QIAN Dingwei, et al. Small-scale pedestrian detection based on improved faster R-CNN[J]. Computer engineering, 2020, 46(9): 226–232,241.
    [16] 郁强, 王宽, 王海. 一种多尺度YOLOv3的道路场景目标检测算法[J]. 江苏大学学报(自然科学版), 2021, 42(6): 628–633,641.

    YU Qiang, WANG Kuan, WANG Hai. A multi-scale YOLOv3 detection algorithm of road scene object[J]. Journal of Jiangsu University (natural science edition), 2021, 42(6): 628–633,641.
    [17] REZATOFIGHI H, TSOI N, GWAK J, et al. Generalized intersection over union: a metric and a loss for bounding box regression[C]//2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Long Beach: IEEE, 2019: 658–666.
    [18] CHOLLET F. Xception: deep learning with depthwise separable convolutions[C]//2017 IEEE Conference on Computer Vision and Pattern Recognition. Honolulu: IEEE, 2017: 1800–1807.
    [19] LIU Songtao, HUANG Di, WANG Yunhong. Receptive field block net for accurate and fast object detection[C]//Computer Vision – ECCV 2018: 15th European Conference. Munich: ACM, 2018: 404–419.
    [20] SZEGEDY C, LIU Wei, JIA Yangqing, et al. Going deeper with convolutions[C]//2015 IEEE Conference on Computer Vision and Pattern Recognition. Boston: IEEE, 2015: 1–9.
    [21] LIU Songtao, HUANG Di, WANG Yunhong. Learning spatial fusion for single-shot object detection[EB/OL]. (2019–11–21)[2022–06–20]. http://arxiv.org/abs/1911.09516.
WeChat 点击查看大图
图(7)  /  表(2)
出版历程
  • 收稿日期:  2022-06-21
  • 网络出版日期:  2023-09-14

目录

    /

    返回文章
    返回