公路交通科技  2017, Vol. 34 Issue (11): 38−42

扩展功能

文章信息

琚晓辉, 徐凌
JU Xiao-hui, XU Ling
基于SVM-Adaboost裂缝图像分类方法研究
Study on Classification Method of Crack Images Based on SVM-Adaboost
公路交通科技, 2017, 34(11): 38-42
Journal of Highway and Transportation Research and Denelopment, 2017, 34(11): 38-42
10.3969/j.issn.1002-0268.2017.11.006

文章历史

收稿日期: 2017-06-20
基于SVM-Adaboost裂缝图像分类方法研究
琚晓辉1, 徐凌2     
1. 交通运输部科学研究院, 北京 100029;
2. 交通运输部公路科学研究院, 北京 100088
摘要: 不同的裂缝类型关系到不同养护策略。SVM在解决小样本、非线性、高维度问题时具有较大优势,通过采用不同的SVM分类方法和核函数对常用的数据集中的样本进行分类结果对比,选取了RBF核函数和One-against-All的分类方法。但分类结果仍然满足不了路面养护要求。由于Adaboost选择不同的样本进行训练,改变了训练样本的数据分布。每次迭代都会计算得到一个分类效果最佳的弱分类器及其所在总体分类器中的权重。随着迭代次数的增加,最终由弱分类器迭代生成的强分类器的分类误差最小。提出了SVM-Adaboost分类器动态的对SVM参数进行优化。试验结果表明,应用基于SVM-Adaboost的裂缝分类算法对指定样本进行测试,横向裂缝准确率87.48%,纵向裂缝准确率95.37%,网状裂缝准确率94.9%,块状裂缝准确率89.7%。该方法可以提高组合分类器整体的分类精度。
关键词: 道路工程     养护管理     裂缝分类     图像处理     SVM     Adaboost    
Study on Classification Method of Crack Images Based on SVM-Adaboost
JU Xiao-hui1, XU Ling2    
1. China Academy of Transportation Sciences, Beijing 100029, China;
2. Research Institute of Highway, Ministry of Transport, Beijing 100088, China
Abstract: Different classes of cracks are closely related to different maintenance strategies. As SVM has great advantages in solving small samples, nonlinear and high-dimensional problems, different core functions of RBF and the classification methods of One-against-All in SVM are selected and adopted to compare the classification results of the commonly used samples in data set, but the classification results still cannot meet the requirements of pavement maintenance. As the Adaboost algorithm selects different samples for training, the data distribution of training samples is changed. The weak classifier which has the best classification and its weight in the whole classifier are calculated in each iteration. With the increase of the number of iterations, the final classification error of the strong classifier generated by the weak classifier iteration is minimum. A method of SVM-Adaboost classifier is proposed to dynamic optimize the SVM parameters. The result of test on the designated samples using the classification algorithm of cracks based on SVM-Adaboost shows that the accuracy of the transverse crack is 87.48%, the accuracy of longitudinal crack is 95.37%, the accuracy of net crack is 94.9%, and the accuracy of block crack is 89.7%. The proposed method can improve the whole classification accuracy of the combined classifier.
Key words: road engineering     maintenance management     classification of cracks     image processing     SVM     Adaboost    
0 引言

道路裂缝是评价公路质量的一个非常重要的指标,不同的裂缝类型关系到不同的危急程度及不同的修补策略的制订。近年来,国内外学者提出了多种路面裂缝的识别及分类方法[1-2]。彭博[3]在裂缝目标矢量化分离的基础上提出了倾角、块度、空洞等新的裂缝特征和计算方法;然后,根据裂缝空洞特征、长宽比和倾角明显程度设计了裂缝分类的无监督方法。T.Saar等[4]提出了一种二级分段的线性神经网络道路裂缝分类器,该方法的分类效果要优于贝叶斯分类器以及最近邻(KNN)分类器。李刚等[5]设计径向基函数神经网络分类器来实现对裂缝的分类。Gaviln M等[6]提出了基于支持向量机的路面破损分类方法,该类方法的实施效果除了依赖于算法的分类器外,还直接受样本的数量、正负样本的比例以及样本的广泛性和代表性的影响。高璐等[7]通过复合误差函数的设计以及自适应动态学习率的动态调整,加快了BP神经网络的收敛速度。Lihao Hong等[8]通过分析裂缝的几何形态特征来协助裂缝分类。Henrique Oliveir[9]考虑裂缝的连接特性以及方向的一致性,利用多尺度的小波变换以及Hough变换来达到对裂缝进行分类的目的。孙波成[10]改进小波变换梯度和模最大值图像分割算法,提出新的小波技术图像分割算法。在图像裂缝识别中赵轲[11]、胡世昆[12]使用阈值判断法来辨别网状裂缝和线形裂缝,然后根据投影法将横向裂缝与纵向裂缝分类。田飞[13]对OSTU阈值分割算法进行改进,提出最大类内、类间距离阈值准则。刘晟,王卫星[14]提出利用灰度的垂直和水平投影曲线判断裂缝的类型为横向裂缝、纵向裂缝或网状裂缝,继而根据裂缝的走向进行图像的非对称缩小, 减少了背景的无用信息。韩亚[15]提出利用基于分数阶积分的算法对路面裂缝图像进行增强, 利用最大熵阈值并结合裂缝的方向和距离进行裂缝间隙连接,并将连接后的裂缝进行长度和宽度的测量分析。洪晓江[16]研究了一种新的基于分数阶偏微分的路面裂缝图像增强新模型。韩雪[17]提出提取路面裂缝的直观特征、密度特征和连通性特征作为特征向量。张采芳[18]提出了一种基于方向及密度特征的路面裂缝分类方法。虽然上述方法均能在一定程度上达到道路裂缝分类的目的,但由于裂缝的复杂性,每种方法的识别准确性均满足不了养护要求。

基于支持向量机在小样本中的使用优点,以及Adaboost算法能自适应地调整训练样本分布,提高分类器的性能,提出SVM-Adaboost动态组合分类器对SVM参数进行优化。试验结果表明,该方法可以提高组合分类器整体的分类精度。

1 基于SVM的裂缝分类方法

支持向量机(SVM)的核心思想是使用尽可能少的样本来获得最好的结果。该算法可以解决样本数量少,线性不可分和高复杂度等问题。SVM算法最初是为二值分类问题设计的,当处理多类问题时,就需要构造合适的多类分类器。目前,构造SVM多类分类器的方法主要有两类:

(1) 直接法,直接在目标函数上进行修改,将多个分类面的参数求解合并到一个最优化问题中,通过求解该最优化问题一次性实现多类分类。这种方法看似简单,但其计算复杂度比较高,实现起来比较困难,只适合用于小型问题中。

(2) 间接法,主要是通过组合多个二分类器来实现多分类器的构造,常见的方法有one-against-one和one-against-all两种。

1.1 一对多分类方法(One-against-All)

训练时依次把某个类别的样本归为一类, 其他剩余的样本归为另一类,这样n个类别的样本就构造出了n个SVM。分类时将未知样本分类为具有最大分类函数值的那类。

构造一个n类样本的训练集(n≥2),其中每个样本都是一个二分类,依次标号为SVM1, SVM2, …, SVMn。一对多分类器结构如图 1所示。

图 1 一对多分类器结构图 Fig. 1 Structure of One-against-All classifier

1.2 一对一分类方法(One-against-One)

其做法是在任意两类样本之间设计一个SVM,因此k个类别的样本就需要设计k(k-1)/2个SVM。当对一个未知样本进行分类时,最后得票最多的类别即为该未知样本的类别。若某几类获得相同的票数,则再次输入与这几类相关的SVM分类器,直至某种类别票数最多,确定样本类别为止,其结构如图 2所示。

图 2 一对一分类器结构 Fig. 2 Structure of One-against-One classifier

1.3 核函数

在理想情况下,样本是线性可分的,并且SVM通过最优分类面分离样本,但实际问题的复杂性导致大多数样本是非线性的。为了解决这一问题,SVM通过引入内核函数将低维度非线性问题转化为高维度线性问题,不同的内核函数使得算法呈现不同的特性。

2 基于SVM的裂缝分类试验分析

(1) 使用UCI机器学习库中常用的数据集,进行试验,结果见表 1。对比试验结果选出将要使用的核函数和分类方法。

表 1 基于RBF核函数的两种分类方法分类结果 Tab. 1 Classification results of 2 classification methods based on RBF core function
数据集 One-against-All(C, r) 准确率 One-against-One(C, r) 准确率
Iris (29, 2-3) 96.667 (212, 2-9) 97.333
Wine (27, 2-6) 98.876 (27, 2-10) 99.438
Glass (211, 2-2) 71.963 (211, 2-2) 71.495
Vowel (24, 21) 98.485 (24, 2) 99.053
Vehicle (211, 2-4) 87.470 (29, 2-3) 86.643
Segment (27, 2) 97.532 (26, 2) 97.403

从试验结果可以看出在经典数据集的条件下,One-against-All分类方法原理简单易于实现,计算速度快,能够应用于数据量很大的情况。One-against-One分类方法适用于较少样本类别的情况,当类的数量很大时,分类器的数量会变得更大,从而影响效率。综上所述,本研究选择使用One-against-All分类方法。

(2) 选取批量裂缝图像为样本,见表 2。以裂缝的投影特征和密度特征结合,一起作为基于SVM的裂缝分类识别的输入量。

表 2 测试样本 Tab. 2 Test samples
裂缝图像 横向裂缝 纵向裂缝 网状裂缝 块状裂缝
图像张数 60 60 40 40
训练样本 40 40 20 20
测试样本 20 20 20 20

(3) 将路面裂缝图片分为4类:横向裂缝图像、纵向裂缝图像、网状裂缝图像和块状裂缝图像。类别数为4,用SVM的一对多算法,构造4个两类分类器。输入第一步中的训练和测试样本集。分别用3种核函数:RBF核函数、Sigmiod核函数和多项式核函数进行试验对比,选择出适合本研究数据的核函数。试验结果如表 3所示。

表 3 不同核函数的分类效果对比 Tab. 3 Comparison of classification results obtained by different core functions
裂缝图像 RBF核函数 Sigmiod核函数 多项式核函数
横向裂缝 80.1 74.4 75.2
纵向裂缝 82.8 73.9 79.4
块状裂缝 74.4 63.3 68.1
网状裂缝 72.1 60.5 62.5

综上所述,使用RBF核函数和One-against-All的分类方法可以得到较好的分类效果。

从试验结果看出,使用RBF核函数和One-against-All的分类方法,横向裂缝分辨率为80.1%,纵向裂缝分辨率为82.8%,块状裂缝分辨率为74.4%,网状裂缝分辨率为72.1%,试验结果不够理想。

3 基于SVM-Adaboost的裂缝分类算法

分析表 3表 4的试验结果发现单纯使用基于SVM的裂缝分类方法得到的结果并不理想。Adaboost算法又称适应性Boosting,算法避免了需要知道假设的错误率下限和弱学习器性能的先验知识的弊端,因而能够自适应地调整分类器的准确率。Adaboost选择不同的样本进行训练,改变了训练样本的数据分布。每次迭代都会计算得到一个分类效果最佳的弱分类器和它所在总体分类器中权重。随着迭代次数的增加,最终由弱分类器迭代生成的强分类器的分类误差最小。

表 4 基于SVM-Adaboost的裂缝分类算法测试结果 Tab. 4 Test result of classification algorithm of cracks based on SVM-Adaboost
裂缝图像 横向裂缝 纵向裂缝 网状裂缝 块状裂缝
测试样本数 20 20 20 20
分辨率/% 87.48 95.37 94.9 89.7

SVM在解决小样本、非线性、高维度问题时具有较大优势,因此结合SVM和Adaboost两种算法的优势,以径向基核函数的SVM作为Adaboost的分量分类器,为其决定参数的选择方案,计算最优的参数值。改进后的算法过程如下:

(1) 令X为训练的样本集,其中包含n个样本,有k种类型,迭代T次。带有标记的训练样本集为D={(x1, y1), …, (xn, yn)},xiXyi∈{1, 2, …, k},t∈{1, 2, …, T}。

(2) 初始化样本对应的权值,在循环中,根据样本权值在训练集中进行采样,得到分量SVM分类器的训练集。

(3) 计算训练集的标准差作为分类器的参数。

(4) 计算分类器的训练误差εt,即被错分样本的权值之和。

(5) 计算第t次迭代最佳分类器的权重αt,为:

(1)

(6) 更新权值ωi

(2)

式中,Zt为归一化因子;ht(xi)为本次迭代最佳分类器。

(7) 到T次迭代结束,得到最终分类器的判决函数值H(x):

(3)
4 基于SVM-Adaboost的裂缝分类结果分析

同样使用样本集数据如表 1所示,通过基于SVM-Adaboost的分类方法进行试验,结果如表 4所示。

从表中的数据可以看出,SVM-Adaboost分类器比较SVM算法的单独使用具有更高的整体识别率,此外还能更好地分类和识别路面裂缝,特别是对纵向裂缝、块状裂缝和网状裂缝的分类效果较为理想。

5 结论

基于支持向量机在小样本中的使用优点,以及Adaboost算法在提高分类器的性能上的优良性,使用SVM-Adaboost动态分类器对SVM参数进行优化,试验结果表明,应用基于SVM-Adaboost的裂缝分类算法对指定样本进行测试,横向裂缝准确率87.48%,纵向裂缝准确率95.37%,网状裂缝准确率94.9%,块状裂缝准确率89.7%。该方法可以提高组合分类器整体的分类精度。

参考文献
[1]
宰柯楠. 道路裂缝图像识别的算法研究[D]. 郑州: 郑州大学, 2017.
ZAI Ke-nan. Research of Pavement Crack Image Recognition Algorithm[D].Zhengzhou:Zhengzhou University, 2017. http://kns.cnki.net/KCMS/detail/detail.aspx?filename=szjt201501085&dbname=CJFD&dbcode=CJFQ
[2]
彭博, 蒋阳升, 韩世凡, 等. 路面裂缝图像自动识别算法综述[J]. 公路交通科技, 2014, 31(7): 19-25.
PENG Bo, JIANG Yang-sheng, HAN Shi-fan, et al. A Review of Automatic Pavement Crack Image Recognition Algorithms[J]. Journal of Highway and Transportation Research and Development, 2014, 31(7): 19-25.
[3]
彭博, 蒋阳升, 蒲云. 基于数字图像处理的路面裂缝自动分类算法[J]. 中国公路学报, 2014, 27(9): 10-18, 24.
PENG Bo, JIANG Yang-sheng, PU Yun. Automated Classification Algorithm of Pavement Crack Based on Digital Image Processing[J]. China Journal of Highway and Transport, 2014, 27(9): 10-18, 24.
[4]
SAAR T, TALVIK O. Automatic Asphalt Pavement Crack Detection and Classification Using Neural Networks[C]//12th Biennial Baltic Electronics Conference (BEC). Tallinn, Estonia:IEEE, 2010:345-348.
[5]
李刚, 贺昱曜. 不均匀光照的路面裂缝检测和分类新方法[J]. 光子学报, 2010, 39(8): 1405-1408.
LI Gang, HE Yu-yao. A Novel Image Detection and Classification for Pavement Crack under Non-uniform Illumination[J]. Acta Photonica Sinica, 2010, 39(8): 1405-1408.
[6]
GAVILN M, BALCONES D, MARCOS O, et al. Adaptive Road Crack Detection System by Pavement Classification[J]. Sensors, 2011, 11(10): 9628-9657.
[7]
高璐, 黎蔚. 改进的BP算法在路面裂缝分类中的应用[J]. 计算机工程与应用, 2012, 48(28): 201-205.
GAO Lu, LI Wei. Improved BP Algorithm in Application of Road Surface Crack Classification[J]. Computer Engineering and Applications, 2012, 48(28): 201-205.
[8]
HONG Li-hao. Pavement Information System:Detection, Classification and Evaluation[D]. Toledo, USA:The University of Toledo, 2009. http://ieeexplore.ieee.org/document/5612083/
[9]
OLIVEIRA H, CORREIA P L. Automatic Road Crack Detection and Characterization[J]. IEEE Transactions on Intelligent Transportation Systems, 2013, 14(1): 155-168.
[10]
孙波成. 基于数字图像处理的沥青路面裂缝识别技术研究[D]. 成都: 西南交通大学, 2015.
SUN Bo-cheng. Study on dentification Technology for Asphalt Pavement Crack Based on Digital Image Processing[D].Chengdu:Southwest Jiaotong University, 2015. http://cdmd.cnki.com.cn/Article/CDMD-10613-1017022373.htm
[11]
赵轲. 路面裂缝图像自动识别系统研究[D]. 西安: 长安大学, 2009.
ZHAO Ke. Research of Pavement Crack Automatic Identification System[D]. Xi'an:Chang'an University, 2009. http://d.wanfangdata.com.cn/Thesis/Y1527393
[12]
胡世昆. 基于数字图像处理技术的路面裂缝检测算法研究[D]. 南京: 南京邮电大学, 2012.
HU Shi-kun. Research on Pavement Crack Detection Algorithm Based on Digital Image Processing[D]. Nanjing:Nanjing University of Posts and Telecom-munications, 2012. http://cdmd.cnki.com.cn/Article/CDMD-10293-1012315004.htm
[13]
田飞. 基于小波变换的裂缝识别[J]. 工程地球物理学报, 2016, 13(1): 14-19.
TIAN Fei. Fracture Identification Based on Wavelet Transform[J]. Chinese Journal of Engineering Geophysics, 2016, 13(1): 14-19.
[14]
刘晟, 王卫星, 曹霆, 等. 基于差分计盒维数及最大熵阈值的裂缝提取[J]. 长安大学学报:自然科学版, 2015, 35(5): 13-21.
LIU Sheng, WANG Wei-xing, CAO Ting, et al. Road Crack Extraction Based on Differential Box Dimension and Maximum Entropy Threshold[J]. Journal of Chang'an University:Natural Science Edition, 2015, 35(5): 13-21.
[15]
韩亚. 基于改进Niblack及Radon相关技术的复杂路面裂缝图像检测与算法评价[D]. 西安: 长安大学, 2016.
HAN Ya. Research on Complex Pavement Crack Detection and Algorithm Evaluation Based on Improved Niblack and Radon Related Technologies[D]. Xi'an:Chang'an University, 2016. http://d.g.wanfangdata.com.cn/Thesis_D01114540.aspx
[16]
洪晓江. 基于分数阶偏微分的路面裂缝图像增强新模型[J]. 公路交通科技, 2016, 33(12): 83-87.
HONG Xiao-jiang. Based on Fractional Differential Enhancement New Model of Pavement Crack[J]. Journal of Highway and Transportation Research and Development, 2016, 33(12): 83-87.
[17]
韩雪. 基于图像的路面裂缝分类算法研究[D]. 天津: 河北工业大学, 2011.
HAN Xue. Research of Pavement Cracks Classification Algorithm Based on Image[D].Tianjin:Hebei University of Technology, 2011. http://d.g.wanfangdata.com.cn/Thesis_D280065.aspx
[18]
张采芳, 田岩, 李江. 基于几何特征分析的路面裂缝分类算法研究[J]. 红外与激光工程, 2015, 44(4): 1359-1364.
ZHANG Cai-fang, TIAN Yan, LI Jiang. Pavement Cracks Classification Algorithm Based on Geometry Feature Analysis[J]. Infrared and Laser Engineering, 2015, 44(4): 1359-1364.