自动驾驶场景下小且密集的交通标志检测
«上一篇
文章快速检索     高级检索
下一篇»
  智能系统学报  2018, Vol. 13 Issue (3): 366-372  DOI: 10.11992/tis.201706040
0

引用本文  

葛园园, 许有疆, 赵帅, 等. 自动驾驶场景下小且密集的交通标志检测[J]. 智能系统学报, 2018, 13(3), 366-372. DOI: 10.11992/tis.201706040.
GE Yuanyuan, XU Youjiang, ZHAO Shuai, et al. Detection of small and dense traffic signs in self-driving scenarios[J]. CAAI Transactions on Intelligent Systems, 2018, 13(3), 366-372. DOI: 10.11992/tis.201706040.

基金项目

国家自然科学基金项目(61472276).

通信作者

韩亚洪. E-mail:yahong@tju.edu.cn.

作者简介

葛园园,女,1991年生,硕士研究生,主要研究方向为物体检测;
许有疆,男,1992年生,硕士研究生,主要研究方向为视频动作识别;
赵帅,男,1988年生,硕士研究生,主要研究方向为深度学习与机器学习、车辆动力学、自动驾驶技术、驾驶行为分析

文章历史

收稿日期:2017-06-10
网络出版日期:2018-04-11
自动驾驶场景下小且密集的交通标志检测
葛园园1, 许有疆1, 赵帅2, 韩亚洪1    
1. 天津大学 计算机科学与技术学院,天津 300350;
2. 中国汽车技术研究中心 数据资源中心,天津 300300
摘要:在自动驾驶场景中,交通标志的检测和识别对行车周围环境的理解至关重要。行车过程中拍摄的图片中存在许多较小的交通标志,它们很难被现有的物体检测方法检测到。为了能够精确地检测到这部分小的交通标志,我们提出了用浅层VGG16网络作为物体检测框架R-FCN的主体网络,并改进VGG16网络,主要有两个改进点:1)减小特征图缩放倍数,去掉VGG16网络卷积conv4_3后面的特征图,使用RPN网络在浅层卷积conv4_3上提取候选框;2)特征拼层,将尺度相同的卷积conv4_1、conv4_2、conv4_3层的特征拼接起来形成组合特征(aggregated feature)。改进后的物体检测框架能够检测到更多的小物体,在驭势科技提供的交通标志数据集上取得了很好的性能,检测的准确率mAP达到了65%。
关键词交通标志    目标检测    深度学习    组合特征    卷积神经网络    特征图    候选框    自动驾驶    
Detection of small and dense traffic signs in self-driving scenarios
GE Yuanyuan1, XU Youjiang1, ZHAO Shuai2, HAN Yahong1    
1. School of Computer Science and Technology, Tianjin University, Tianjin 300350, China;
2. Data Resource Center, China Automotive Technology and Research Center, Tianjin 300300, China
Abstract: In self-driving scenarios, the detection and recognition of traffic signs is critical to understanding the driving environment. The plethora of small traffic signs are hard to detect by the existing object detection technology. To detect these small traffic signs accurately, we propose the use of the shallow network VGG16 as the R-FCN ’s backbone and the modification of the VGG16 network. There are mainly two improvements in the VGG16 network. First, we reduce the multiple zooming of feature maps, remove the feature maps behind the VGG16 network convolution conv4_3, and use the RPN network to extract the region proposal in the shallow convolution conv4_3 layer. We then concatenate the feature maps. The features of the layers of the convolutions conv4_1, conv4_2, and conv4_3 are adjoined to form an aggregated feature. The improved object detection framework can detect more small objects. We use a dataset of traffic signs to test the performance and mAP accuracy.
Key words: traffic sign    object detection    deep learning    aggregate feature    CNN    feature map    region proposal    self-driving    

近年来,随着深度学习技术[1-8]的发展,自动驾驶引起了人们的广泛关注。在自动驾驶场景中,交通标志的检测和识别起着非常重要的作用。精确的检测对后续的识别、辅助定位和导航起着决定性的作用。在真实的拍摄场景中,交通标志种类众多,大小不一,存在着颜色差异,且受到天气、光照、拍摄角度等因素的影响。这些复杂的因素使得交通标志的检测变得非常困难,尤其是图片中存在大量小且密集的交通标志。为了能够更好地解决小物体的检测,本文首先对已有的基于深度学习的目标检测做了研究和总结,然后提出自己改进的目标检测框架。

现有的基于深度学习的目标检测算法大致可以分为两大类:一类是基于候选框提取的目标检测算法,另一类是基于回归方法的目标检测算法。下面介绍这两大类目标检测算法的代表性检测框架。

R-CNN是Ross Girshick等[9]最早提出的用卷积神经网络做目标检测的框架,它是基于候选框提取的目标检测算法。首先通过selective search算法[10]提取候选框,然后用这些候选框微调卷积神经网络训练SVM(支持向量机)分类器,进行边框回归等。R-CNN在VOC2012数据集上mAP[11]达到了53.3%,和之前该数据集上最好的检测结果相比提高了30%。但R-CNN也存在着很大的缺陷,浪费磁盘空间,训练时间长,检测速度慢。

SPP-Net[12]在R-CNN的基础上作了改进,提出了共享卷积层策略,采用空间金字塔下采样(spatial pyramid pooling),将每个候选框映射后的特征归一化到同样尺度,输入到后面的全连接层中。SPP-Net的检测速度比R-CNN快了24~102倍,检测精度也得到了一定的提高。但SPP-Net的训练过程包括多个阶段,比较慢。

Fast R-CNN[13]将R-CNN与SPP-Net的空间金字塔采样融合到一起,提出了候选框下采样层(ROI pooling layer),直接将映射后的候选框下采样到7×7大小的特征图输入到后面的全连接层中。Fast R-CNN还提出了多任务损失函数,直接对候选框进行分类和边框回归,检测速度得到了很大提升,使得候选框提取成为限制目标检测速度的一个计算瓶颈。Faster R-CNN[14]为了解决候选框提取问题,提出了RPN(region proposal network)网络来提取候选框,将RPN网络和Fast R-CNN网络结合到了一起。Faster R-CNN的检测精度和速度得到了很大的提高。

R-FCN[15]在Faster R-CNN的基础上作了进一步的改进,提出位置敏感权重图(position-sensitive score maps)来解决图像分类时的旋转不变性和物体检测上位置的旋转可变性之间的矛盾。R-FCN的位置敏感权重图策略使得网络变成了一个全卷积网络,不再有全连接层,进一步加快了目标检测的速度和准确率。

以上目标检测算法都是深度学习方面基于候选框的目标检测框架。另一类基于回归方法的目标检测框架的典型代表是YOLO[16]和SSD[17],它们不必先提取候选框,再进行候选框的分类和位置调整,而是直接对图像进行划分网格,在每个网格对应位置回归出目标位置和类别信息,它们网络训练的整个过程都是端到端的,检测速度非常快,可以达到实时要求。

对于自动驾驶场景下小且密集的交通标志检测来说,上述两大类物体检测框架都存在着一定的缺陷:基于候选框的检测框架相比基于回归方法的检测框架来说,检测精度会高很多,但速度比较慢;基于回归方法的检测框架虽然检测速度比较快,但由于是对图像进行暴力网格划分,对于物体的检测精度比较差,尤其是对于小且密集物体的检测,效果非常差。因此,为了保证自动驾驶场景中小且密集的交通标志的检测精度,本文提出了对基于候选框目标检测框架中速度最快的R-FCN[15]框架进行改进,进一步保证了小且密集的交通标志的检测精度。

Download:
图 1 基于改进版VGG16的R-FCN小物体检测框架 Fig. 1 Small-size object detection architecture based on modified VGG16’s R-FCN
1 检测框架

R-FCN[15]目标检测框架分别以ResNet-50、ResNet-101[18]作为提取特征的主体网络,在PASCAL VOC[11]数据集上取得了不错的检测效果,但是交通标志检测数据集中存在很多较小的物体,卷积网络层数越深,最后一层卷积特征图上的特征点对应于原图的感受野越大,对小物体的位置定位比较困难,检测效果比较差。因此,本文采用层数不是很深的VGG16[19]网络作为R-FCN的主体网络,并在此基础上针对小物体的检测作进一步的改进。本文提出的物体检测框架主要是对R-FCN检测框架的主体网络进行改进,网络的训练过程和R-FCN中的训练过程保持一致。图1是本文提出的基于改进版VGG16的R-FCN小物体检测框架。该检测框架主要是对VGG16作了两个改进,第一个改进是将VGG16的卷积层conv5_1、conv5_2、conv5_3去掉,同时去掉conv4_3后面的pool4层;第二个改进是特征拼层,将conv4_1、conv4_2、conv4_3通过L2 normalization[20] 标准化,然后再拼接到一起,称之为组合特征,然后输入到后续网络中。RPN网络在标准化后的卷积conv4_3上提取候选框,将候选框和网络最后一组卷积层特征输入到PSROIPooling层来做后续的物体分类和边框回归。

2 改进方法

本文提出的物体检测框架主要针对交通标志数据集中的小物体的检测。网络层数越深,最后一层卷积层的感受野越大,会破坏小物体在特征图上的位置信息。R-FCN[15]物体检测框架使用ResNet-50、ResNet-101作为主体网络时,可以很好地检测到较大的物体,但是对于存在大量密集的小物体的数据集来说,检测结果没有浅层的VGG16效果好。因此,本文采用VGG16[19]作为R-FCN的主体网络,VGG16从conv1_1到conv5_3总共有13个卷积层,每一层的卷积核大小、移动步长都是相同的,这13个卷积层可以分为5组,第一、二组分别有2个卷积层,第三、四、五组分别有3个卷积层,每一组的特征图大小相同,前4组特征每组后面都接了1个步长为2的下采样层。本文提出的两个关键改进点都是对VGG16网络进行改进,下面对这两个关键改进点作具体说明。

2.1 减小特征图缩放倍数

VGG16作为R-FCN的主体网络,在卷积conv5_3上通过RPN网络提取候选框,从conv1_1到conv5_3,中间经过了4次步长为2的下采样层,原始图像到达conv5_3层边长缩小了16倍,conv5_3特征图上的一个特征点相当于对应原图的16×16个像素点。当RPN网络从conv5_3上产生候选框时,有边长小于16个像素的候选框被过滤掉了,因为边长小于16个像素的候选框无法映射到从conv5_3上卷积得到的后续特征图上,这就造成许多边长小于16个像素的小物体无法被检测到,或者检测不准确。针对这一问题,本文提出减小特征图缩放倍数的策略,也就是说,去掉卷积conv5_1、conv5_2、conv5_3和pool4层,在conv4_3层上通过RPN产生候选框,再映射到从conv4_3上得到的后续特征图上。这样,原图到conv4_3边长缩小了8倍,边长在8~16范围内的小物体可以得到更好的检测效果。

2.2 特征拼层

RPN网络产生的边长较小的候选框和最后一层卷积特征作映射后得到的特征尺度特别小,只用conv4_3层输入到后续的网络中进行分类和边框回归特征不充足,对于小物体位置定位来说检测效果不是很好,还有待提升。因此,为了能够丰富小物体的特征信息,使得对于小物体的位置定位更加精确,提出了特征拼层的策略。首先对卷积conv4_1、conv4_2、conv4_3进行L2 normalization[12]。假设用向量 $ {X}=(x_1,x_2,\cdots,x_d)$ 来表示一个输入特征层的所有元素,对该特征图进行如下标准化:

$\widehat {{X}} = \frac{{{X}}}{{{{\left\| {{X}} \right\|}_2}}}$ (1)
${\left\| {{X}} \right\|_2} = {\left( {\sum\nolimits_{i = 1}^d {{{\left| {{x_i}} \right|}^2}} } \right)^{1/2}}$ (2)

式中 $ \widehat {{X}}$ 表示标准化后的特征图向量。标准化后的特征向量元素值比较小,使得网络训练变得比较困难,为了更好地训练网络,通常会对标准化后的元素通过一个比例因子 $\gamma_i $ 进行缩放,假设变化后的元素为 $y_i $ ,则

${y_i} = {\gamma _i}{\widehat x_i}$ (3)

最后得到变化后的特征图向量 $ {Y}=(y_1,y_2,\cdots,y_d)$ 。在网络训练过程中,假设l是需要优化的损失函数,则关于缩放因子 $\gamma_i $ 和输入特征图的更新规则如下:

$\frac{{\partial l}}{{\partial \widehat {{X}}}} = \frac{{\partial l}}{{\partial {{\gamma}}}} \cdot \gamma $ (4)
$\frac{{\partial l}}{{\partial {{X}}}} = \frac{{\partial l}}{{\partial \widehat {{X}}}}\left( {\frac{{{I}}}{{{{\left\| {{X}} \right\|}_2}}} - \frac{{{{X}}{{{X}}^{\rm{T}}}}}{{\left\| {{X}} \right\|_2^3}}} \right)$ (5)
$\frac{{\partial l}}{{\partial {\gamma _i}}} = \sum\limits_{{y_i}} {\frac{{\partial l}}{{\partial {y_i}}}{{\widehat x}_i}} $ (6)

使用如上标准化方式对VGG16同组的卷积层conv4_1、conv4_2、conv4_3进行标准化,然后将它们拼接起来,称之为组合特征,再输入到后续的网络中训练模型,然后进行分类和边框回归,这一改进能够检测到更多的小物体,小物体定位精确度也得到了一定的提升。

Download:
图 2 交通标志数据集样本图 Fig. 2 Sample images from traffic sign dataset
Download:
图 3 交通标志尺寸分布图 Fig. 3 Traffic sign’s size distribution
3 实验结果及分析 3.1 数据集

本文实验采用的交通标志检测数据集是由驭势科技提供的。数据集中的图片都是在真实行车环境中拍摄的,总共有10 000张分辨率为1 280×720的图片。将该数据集划分为3部分,4 000张用来作训练集,1 000张用来作验证集,5 000张用来作测试集,本文所有实验都是以VGG16在ImageNet上训练好的模型作为基础,在此基础上进行微调,每组实验迭代70 000次,每10 000次保存一个模型,挑选验证集上最好的模型在测试集上进行测试。图2是交通标志数据集中的一些样本图,图(b)是图(a)中矩形框区域的放大图,图(d)是图(c)中矩形框区域的放大图,可以看到图片中存在大量较小的交通标志。图3是训练集中交通标志尺寸分布图。横轴是训练集中交通标志短边的范围,纵轴是某个范围内的交通标志数量占训练集中所有交通标志的比例。从图3中可以看出有很大一部分交通标志短边范围在8~16个像素之间,如果在VGG16网络的卷积conv5_3上产生候选框,从原图到conv5_3边长缩小了16倍,这部分候选框将很难被检测到。因此,本文通过降低特征图缩小倍数,采用conv4_3层的特征来产生候选框,这样短边范围在8~16这一部分的交通标志将能够被更好地检测出来。

3.2 实验结果

本文实验采用mAP(mean average precision)[11]来衡量最终的测试结果,mAP值越大,表明检测出来的结果越准确。表1是以不同深度的卷积神经网络作为R-FCN的主体网络的测试结果。从mAP值中可以看出,主体网络的层数越深,小物体的检测效果越不好。这是因为神经网络层数越深,最后一层的特征图感受野越大,候选框在映射到最后一层特征图时对于小物体的定位不是很准确。这也是采用VGG16作为R-FCN的主体网络来解决小物体检测的原因。

表 1 基于不同神经网络R-FCN交通标志检测结果 Tab.1 Results based on different CNN’s R-FCN

表2是采用不同改进版的VGG16作为R-FCN的主体网络,分别将conv3_3、conv4_3、conv5_3输入到RPN网络来提取候选框,并将该层的特征输入到后续的R-FCN网络中,RPN网络提取的候选框映射到最后一个卷积层,然后再进行分类和边框回归。从表2中可以看出,在R-FCN物体检测框架上,当降低特征图缩放倍数,用VGG16的卷积conv4_3层特征提取候选框时,测试集上检测结果从0.537提升到0.637,提高了10个百分点;用VGG16的卷积conv3_3层特征提取候选框时,检测结果从0.537提升到0.596,提高了约6%,没有在卷积conv4_3层上提取候选框的检测效果好。这是因为卷积conv3_3层的特征在网络中处于较浅层特征,抽象程度不够,不利于候选框分类。

表 2 基于VGG16网络不同层的R-FCN交通标志检测结果 Tab.2 Results based on VGG16’s different-layer R-FCN

表3是采用VGG16作为R-FCN的主体网络,并对主体网络VGG16进行修改,对conv4_1、conv4_2、conv4_3分别进行不同的特征组合,并将组合特征输入到R-FCN的后续网络中。可以看到,基本上任意两层特征拼层输入到R-FCN的后续网络中效果都有提升,特别是将3层特征拼接到一起输入到R-FCN的后续网络中效果是最好的,达到了65%。

表 3 基于卷积conv4_1、conv4_2、conv4_3不同组合特征的检测结果 Tab.3 Results based on conv4_1, conv4_2, and conv4_3 with different aggregated features
3.3 结果展示

图4展示了本文提出的检测框架检测出来的交通标志与数据集提供的真实目标框作比较,图(a)(c)中的边框是数据集给出的真实目标框,图(b)(d)中的边框是使用本文的检测框架检测出来的结果。可以看出我们的检测框架检测出来的结果更好,可以检测到交通标志数据集中真实目标框漏标的交通标志,数据集中交通标志的漏标情况降低了本文实验的结果mAP[11]

Download:
图 4 检测结果与ground truth对比 Fig. 4 Comparison between the detection results and the ground truth

图5是从两张原始图中裁剪出来的部分区域,图(a)(b)(c)分别是使用不同模型的检测结果,图(a)是使用卷积conv5_3得到的检测结果,图(b)是使用卷积conv4_3得到的检测结果,图(c)是将卷积conv4_1、conv4_2、conv4_3组合层特征输入到后续网络得到的检测结果,可以看出两个关键改进点结合起来对于小物体的检测效果是最好的。

Download:
图 5 使用不同层及组合层检测结果 Fig. 5 Using different layers and aggregated-layer-detection results
4 结束语

本文提出了针对小物体检测的物体检测框架。用VGG16作为R-FCN的主体网络,并对VGG16网络进行改进。改进后的检测框架对小物体的检测有了很大的提升,在驭势科技提供的存在大量小交通标志的数据集上取得了很好的效果。交通标志的精确检测对自动驾驶起着非常重要的作用,未来自动驾驶的真正到来时代离不开交通标志的精确检测和分类。本文只是将图片中的所有交通标志检测出来,并没有对这些交通标志进行分类,未来将会继续研究如何更精确地检测到较小的交通标志,并对检测出来的交通标志进行分类。

参考文献
[1] Krizhevsky A, Sutskever I, Hinton G E. Imagenet classification with deep convolutional neural networks[C]//Proceedings of Advances in Neural Information Processing Systems. Stateline, NV, USA, 2012: 1097-1105. (0)
[2] SZEGEDY C, LIU Wei, JIA Yangqing, et al. Going deeper with convolutions[C]//Proceedings of 2015 IEEE Conference on Computer Vision and Pattern Recognition. Boston, MA, USA, 2015: 1–9. (0)
[3] CHEN L C, PAPANDREOU G, KOKKINOS I, et al. Semantic image segmentation with deep convolutional nets and fully connected CRFs[J]. arXiv:1412.7062, 2015. (0)
[4] YU Gang, YUAN Junsong. Fast action proposals for human action detection and search[C]//Proceedings of 2015 IEEE Conference on Computer Vision and Pattern Recognition. Boston, MA, USA, 2015: 1302–1311. (0)
[5] HONG S, YOU T, KWAK S, et al. Online tracking by learning discriminative saliency map with convolutional neural network[C]//Proceedings of the 32nd International Conference on Machine Learning. Lille, France, 2015: 597–606. (0)
[6] WANG Naiyan, YEUNG D Y. Learning a deep compact image representation for visual tracking[C]//Proceedings of the 26th International Conference on Neural Information Processing Systems. Lake Tahoe, USA, 2013: 809–817. (0)
[7] SZEGEDY C, VANHOUCKE V, IOFFE S, et al. Rethinking the inception architecture for computer vision[C]//Proceedings of 2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas, NV, USA, 2016: 2818–2826. (0)
[8] SAHA S, SINGH G, SAPIENZA M, et al. Deep learning for detecting multiple space-time action tubes in videos[J]. arXiv: 1608.01529, 2016. (0)
[9] GIRSHICK R, DONAHUE J, DARRELL T, et al. Rich feature hierarchies for accurate object detection and semantic segmentation[C]//Proceedings of 2014 IEEE Conference on Computer Vision and Pattern Recognition. Columbus, OH, USA, 2014: 580–587. (0)
[10] UIJLINGS J R R, VAN DE SANDE K E A, GEVERS T, et al. Selective search for object recognition[J]. International journal of computer vision, 2013, 104(2): 154-171. DOI:10.1007/s11263-013-0620-5 (0)
[11] EVERINGHAM M, VAN GOOL L, WILLIAMS C K I, et al. The Pascal visual object classes (VOC) challenge[J]. International journal of computer vision, 2010, 88(2): 303-338. DOI:10.1007/s11263-009-0275-4 (0)
[12] HE Kaiming, ZHANG Xiangyu, REN Shaoqing, et al. Spatial pyramid pooling in deep convolutional networks for visual recognition[C]//Proceedings of the 13th European Conference on Computer Vision. Zurich, Switzerland, 2014: 346–361. (0)
[13] GIRSHICK R. Fast R-CNN[C]//Proceedings of 2015 IEEE International Conference on Computer Vision. Santiago, Chile, 2015: 1440–1448. (0)
[14] Ren S, He K, Girshick R, et al. Faster r-cnn: Towards real-time object detection with region proposal networks[C]//Proceedings of 2015 Advances in Neural Information Processing Systems. Montréal,Canada, 2015: 91-99. (0)
[15] Li Y, He K, Sun J. R-fcn: Object detection via region-based fully convolutional networks[C]//Advances in Neural Information Processing Systems. Barcelona, Spain, 2016: 379-387. (0)
[16] REDMON J, DIVVALA S, GIRSHICK R, et al. You only look once: unified, real-time object detection[C]//Proceedings of 2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas, NV, USA, 2016: 779–788. (0)
[17] LIU Wei, ANGUELOV D, ERHAN D, et al. SSD: single shot multibox detector[C]//Proceedings of 14th European Conference on Computer Vision. Amsterdam, The Netherlands, 2016: 21–37. (0)
[18] HE Kaiming, ZHANG Xiangyu, REN Shaoqing, et al. Deep residual learning for image recognition[C]//Proceedings of 2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas, NV, USA, 2016: 770–778. (0)
[19] SIMONYAN K, ZISSERMAN A. Very deep convolutional networks for large-scale image recognition[J]. arXiv: 1409.1556, 2014. (0)
[20] LIU Wei, RABINOVICH A, BERG A C. ParseNet: looking wider to see better[J]. arXiv: 1506.04579, 2015. (0)