2. 中国气象科学研究院灾害天气国家重点实验室/雷电物理和防护工程实验室,北京 100081;
3. 成都信息工程大学,成都 610225
2. Laboratory of Lightning Physics and Protection Engineering, State Key Laboratory of Severe Weather, Chinese Academy of Meteorological Sciences, Beijing 100081;
3. Chengdu University of Information Technology, Chengdu 610225
闪电是云与云之间、云与地之间或云体内各部位之间的放电现象 (一般发生在积雨云中),伴随有较强的发光现象,因此, 光学观测是闪电的主要观测手段之一[1]。随着光电技术的发展,越来越多先进的光学观测设备 (如高速摄像机、闪电发展特征观测系统、闪电连接过程光学观测系统、全视野闪电通道成像仪等) 在闪电观测中得到了应用,为研究雷电物理过程、分析闪电通道发展特征等提供了基础数据[2-10]。
长期以来,为获取闪电图像中通道的坐标信息,研究人员大多采用人工处理方式。给定一幅闪电通道图像,研究人员手动选取感兴趣区域,手动选取阈值或采用最大类间方差等方法[11]进行分割,资料处理效率比较低,且易受主观因素的影响。为提升闪电图像的处理效率,研究者开展了闪电通道自动识别算法的研究。
如周恩伟[12]实现了单一通道闪电图像的自动处理,获取了闪电通道亮度信息的数据,但未实现常见的多分叉闪电通道的自动提取,且处理效果受图像的亮度、模糊程度的影响较大。杨欣怡等[13]为降低图像中复杂背景对闪电通道识别的影响,首先使用背景差法去除背景光照不均的影响,然后根据所处理的闪电通道图像的具体特点,选择全局自适应阈值法 (GThres)、局部自适应阈值法 (LThres) 或基于Otsu自适应计算阈值的Canny算子 (CThres) 对增强后的图像进行边缘检测,进而对闪电通道进行识别,获得较为清晰的通道结果。但该研究需要针对不同类型的闪电图像采取不同的算法,且需要背景图像作为参考对象。另外,该研究只给出了定性的对比结果,未对识别结果进行定量的对比评价。
闪电通道图像复杂多样,有通道亮且清晰的图像,也不乏通道对比度低、云体遮挡、地物和雨滴影响等情况,一个好的闪电通道识别算法不仅要对亮且清晰、背景简单的闪电通道具有良好的识别能力,对一些对比度不高或背景复杂的闪电通道图像也应具备较好的识别效果。
本文针对数字图像中闪电通道自动识别处理的需求以及现有方法存在的不足,提出了一种快速、自动且鲁棒性较强的闪电通道识别算法LLSR。算法首先对原图像进行匹配滤波,利用直线检测方法[14-15]自动识别出包含闪电通道的区域 (这些区域由若干具有一定宽度的线段区域构成,称为线支持区域),再用最小外接矩形代替每个线支持区域,并对矩形进行双向扩展,最后在每个区域内使用自适应Otsu阈值方法进行分割。该算法不仅能处理高对比度、背景简单的闪电图像,还能提取出低对比度和复杂背景闪电图像的通道,且算法具有良好的局部特性和自适应性。
1 闪电数字图像通道识别大部分闪电数字图像有闪电通道 (前景) 较亮、背景较暗的特点,前景和背景交界处两边的像素在灰度值上有较大的差异,边缘像素点梯度值较大。但也有一些亮度较暗的闪电通道与背景之间的对比度较小,识别过程中容易造成遗漏。针对以上闪电通道图像的实际特点,提出了一种自动快速的闪电通道识别算法,使不同特点的闪电通道均得到较好识别。
1.1 识别算法概述本文提出的基于线支持区域的闪电通道识别算法主要包括以下3个步骤:①预处理。对闪电数字图像进行对比度拉伸,将图像大部分暗背景去除,并根据闪电通道横截面的灰度特征,使用匹配滤波方法以加强闪电通道的对比度。②前景区域判定。计算图像中的每个像素点的梯度幅值和梯度方向,并按照梯度方向进行区域生长,形成线支持区域,然后用最小外接矩形代替每个线支持区域,并对矩形进行双向扩展,形成前景区域。③局部阈值分割。对每个矩形区域使用自适应Otsu计算阈值,并进行分割。
1.2 预处理闪电图像通常背景较暗,灰度级覆盖范围不均匀,且图像中闪电通道所占的比例较小,闪电通道与背景的分布 (数量) 差异较大。
很多情况下,闪电图像的通道提取会受到地物或建筑物等背景的影响,而地物和建筑物等比较暗,可以通过对比度拉伸的方法去除背景。使用的公式如下:
|
(1) |
本研究中将Tmax设置为255,Tmin设置为5 (试验表明采用该设置能去除大部分地物)。
图 1a为闪电通道原图像,对比度拉伸能消除地物干扰,但在很多情况下目标和背景之间对比度还会比较弱,如图 1b所示。闪电通道图像中,通道中心像素点亮度较大,两边的像素点亮度较小,闪电通道的横截面灰度轮廓可用高斯型曲线近似,图 2展示了4个随机选取的闪电通道横截面的灰度曲线。因此,本研究采用高斯匹配滤波方法来进一步提升图像对比度[16]。假定闪电通道为分段等宽的线段,其长度为L,宽度为2σ,采用高斯函数来模拟闪电通道横切线灰度曲线,从而得到如下匹配滤波器:
|
(2) |
|
|
| 图 1. 图像预处理示例 (a) 闪电通道原图,(b) 对比度拉伸图像,(c) 高斯匹配滤波图像 Fig 1. Example of image preprocessing results (a) the original lightning channel image, (b) the image after contrast stretching, (c) the image after Gauss matched filtering | |
|
|
| 图 2. 闪电通道横截面的灰度分布 Fig 2. Gray distribution of cross section of lightning channels | |
式 (2) 中,κ (x, y) 被称为核函数,σ是高斯函数沿x轴坐标中心的偏离度,L是沿y轴被截断的闪电通道长度。
因为闪电通道的方向任意,所以该高斯曲线应该旋转以匹配不同方向的闪电通道,本研究取12个方向,从0°到180°,以15°递增。对闪电通道的增强处理是将图像中每个像素分别与这12个高斯核旋转矩阵做卷积,取其中卷积最大值对应的像素作为图像增强后的像素。图 1c为匹配滤波后的闪电通道增强图像,这里σ取1.6,L取9。
1.3 前景区域判定前景区域是指包括闪电通道对象的局部区域,它是后续分割算法的处理对象。本文提出的基于线支持区域的闪电通道识别包含以下两个主要步骤:线支持区域生成和矩形扩展。
1.3.1 线支持区域生成计算每个像素点的梯度幅值和梯度方向,对像素点按照其梯度幅值大小将其进行排序。较强的边缘点或区域一般都具有比较高的梯度幅值,通常在闪电通道边缘的像素具有最高的梯度幅值,因此,首先选取具有最高梯度幅值的像素点作为种子点。在计算过程中,梯度幅值小于q (本文选用0.1) 的像素点将被拒绝参与线支持区域的构建过程。
本文利用区域生长算法[14]生成若干个线支持区域,每个线支持区域也即一个与种子点具有相似梯度方向的像素集合。每个像素点包括两种状态:已使用和未使用,初始状态将其全部置为未使用。算法首先从排序列表中选择一个未使用的像素作为种子点,该像素的邻域中未使用的且其梯度方向跟区域角度θregion之间的误差在τ之间的像素将被加入到该区域中。区域的初始角度θregion就是种子点的梯度方向,每次添加一个新的像素到该区域,区域角度即被更新。如此依次进行,直到没有任何像素可以添加到矩形当中。
前面得到的线支持区域,用一个最小外接矩形来与之对应。从而可以获取矩形的一些基本信息,包括矩形中心点的坐标以及矩形的长度和宽度以及主方向。
1.3.2 矩形扩展区域生长算法得到的线支持区域能很好地覆盖大部分闪电通道区域,但存在两方面不足:①闪电通道两侧的梯度值比较大,因而区域增长的种子点一般为闪电通道两个边缘的像素点,导致在闪电通道同一横截面处会出现两个矩形;②下一个区域增长的种子点不一定从已生成的矩形区域中选择,因而新生成区域与上一个区域不一定有重叠区域,即沿着闪电通道方向矩形可能不连续,从而不能全部包含前景区域。
因此,本研究提出了矩形扩展算法,即在原来的矩形基础上进行双向扩展,扩展幅度选取为矩形宽度的一半。其中纵向扩展 (沿着闪电通道发展的方向) 可以解决矩形区域不连续的问题,横向扩展 (与闪电通道发展方向垂直) 可以达到合并两个矩形的效果,如图 3所示。
|
|
| 图 3. 闪电通道线支持区域矩形扩展示例 (a) 扩展前,(b) 扩展后 Fig 3. Examples of the rectangular expansion of lightning channel line support region (a) before expansion, (b) after expansion | |
1.4 阈值分割
应用上述算法后,一幅闪电通道图像可以分割出若干线支持区域,每一个线支持区域应用自动阈值分割算法进行识别。
图 4展示了3个线支持区域以及对应区域的灰度直方图。可以发现,在线支持区域中,闪电通道和背景面积相差不大,区域直方图均呈现明显的双峰结构。
|
|
| 图 4. 闪电通道图像中三个矩形区域及其对应的灰度直方图 (a) 闪电通道图像中3个区域示例, (b) 区域1的灰度直方图, (c) 区域2的灰度直方图, (d) 区域3的灰度直方图 Fig 4. Three rectangular regions and their corresponding gray histogram (a) example of three rectangular regions in lightning channel image, (b) gray histogram of region 1, (c) gray histogram of region 2, (d) gray histogram of region 3 | |
Otsu方法是一种经典的自动阈值方法,它对具有双模态分布的图像具有较好的分割效果[11]。Otsu方法的原理是利用阈值将原图像分成前景和背景两个图像,记t为前景和背景的分割阈值,此时前景像素数占图像比例为w0t, 平均灰度为u0t,背景像素数占图像比例为w1t,平均灰度为u1t。则此时的图像总平均灰度为
|
(3) |
前景和背景图像的方差为
|
(4) |
其中,u0t和u1t由t决定,t的取值范围为0~255。当方差gt最大,可认为此时前景和背景差异最大,对应的灰度t是最佳阈值。
2 试验与结果分析 2.1 数据集本文试验数据来自中国气象科学研究院雷电研究团队获取的高速摄像闪电通道数字图像,挑选了其中比较典型的20幅闪电通道数字图像,制作了其对应的人工标注图像,并将闪电数字图像进行分类,图 5给出了部分闪电通道数字图像及其对应的人工标注结果。第1类图像背景单一、通道结构较为简单,识别起来比较容易。第2类图像闪电通道对比度较弱,在识别过程中容易遗漏一些通道细节。第3类图像闪电通道有亮云、雨滴以及地物影响,在识别的过程中可能会将亮云、雨滴或地物误作为闪电通道。第4类图像闪电通道分叉数目多且复杂 (数据集下载地址为icn.bjtu.edu.cn/visint/resources/lightning)。
|
|
| 图 5. 闪电图像及其对应的人工标注图像示例 Fig 5. Examples of lightning images and their corresponding manually marked images | |
2.2 评价指标
本文应用召回率Rrecall、精确率Ppre和Fmeasure3个指标评价识别结果[17], 其中,Rrecall为算法正确分割的闪电通道像素个数与手工标注的标准闪电通道像素个数之比, Ppre计算的是算法正确分割的闪电通道像素个数与算法分割出的闪电通道像素个数之比, Fmeasure表示算法精确率与召回率之间的关系。
|
(5) |
|
(6) |
|
(7) |
其中,Tp为正确分割的闪电通道像素个数,FN为本属于闪电通道但被误分割为背景的像素个数,Fp为本属于背景但被误分割为闪电通道的像素个数。
2.3 参数分析本文的算法主要包含以下两个参数:匹配滤波尺度σ和角度阈值τ。其中,匹配滤波尺度σ是由闪电通道宽度决定的。而角度阈值决定线支持区域的大小,τ越大,生成的线支持区域越大,反之,会越小。本文采用由粗到细的策略搜索最优参数,即在较大的取值范围搜索,并在较小的取值区间进行确定。其中,每幅图的参数取值均固定且相等,最终性能的定量结果为取同一个数据集中所有图像的平均值。
2.3.1 匹配滤波尺度σ对于式 (2) 中匹配滤波尺度σ,选取了3组不同的值进行了试验,分别为0.7, 1.6和2.3。显然σ越小,细的闪电通道识别效果越好,相反,σ越大,稍宽的闪电通道识别越好。
为了更加细致地比较不同σ取值的性能差异,给出了数据集所有20幅图像对应的平均Rrecall, Ppre以及Fmeasure的值 (表 1)。可以看到, σ=1.6时, Fmeasure平均值最高。当σ=0.7时,分割出的闪电通道比较细,因而其Rrecall值很低。而σ=2.3时,对应的Rrecall值最高,此时分割出的通道会比较宽,但精确率Ppre值较低。因此,相对而言,σ=1.6比较适合。
|
|
表 1 不同σ取值对应的LLSR性能 Table 1 Performance of LLSR with different σ |
2.3.2 角度阈值τ
角度阈值τ决定线支持区域的大小,取τ=14°, τ=15°, τ=18°及τ=20°分别进行4组试验,显然,τ越大,区域越大。表 2给出了τ不同取值下的试验性能比较。τ越大,生成的矩形区域越大,因而将背景识别为前景的数目就会越多,导致误分割的像素点增多,从而导致Ppre值降低; τ越小,生成的线支持区域就会越小,因而闪电通道占矩形区域比例较大,在1.4节阈值分割步骤中就有可能未通过设定的阈值δ而将矩形过滤掉,造成Rrecall降低。易知τ=14°时, Ppre最高,而Rrecall值较低; τ=20°时, Rrecall最高,但Ppre和Fmeasure均一般; τ=18°时, Fmeasure平均值最大,Ppre和Rrecall均较理想。综合考虑,本研究取τ=18°。
|
|
表 2 不同τ取值对应的性能表 Table 2 Performance of LLSR with different τ |
2.4 试验对比
图 6给出了全局自适应阈值法 (GThres)、局部自适应阈值法 (LThres)、基于自适应阈值的Canny算子识别算法 (CThres) 以及本文算法LLSR基于匹配滤波图像的识别结果。结果表明,GThres法对于第1类和第3类闪电通道数字图像的识别结果较好,但对于第2类和第4类图像的识别结果较差,丢失了较多的细节。LThres法和CThres法对第1、第2、第3类的图像识别的效果均较好,但由于使用了形态学膨胀操作,使识别出的通道比较粗,膨胀操作会破坏通道的一些细微分叉结构,导致分割效果不明显。而本文算法LLSR对这4类图像均有较好的识别,尤其是第2类和第4类图像,该算法兼顾了通道细节同时保持了分叉较多的通道原有的结构。
|
|
| 图 6. 闪电通道识别结果 Fig 6. The result of lightning channel recognition | |
表 3给出这4种算法的试验性能对比,从结果可以看出,LLSR法的平均分割精确率最高,而GThres法对大部分图像分割的精确率很高,但对低对比度闪电通道图像的识别效果不理想,会丢失很多细节,因而Rrecall平均值较低。LThres法和CThres法使用了形态学膨胀操作,会使识别出的闪电通道偏粗,从而Rrecall较高,但Ppre却很低。而本文的算法有较好的自适应性和局部性,在不容易丢失细节的同时误判也比较少,从而Rrecall和Ppre均较好,Fmeasure明显优于其他3种算法。
|
|
表 3 不同的算法性能表 Table 3 Performance for different algorithms |
3 小结
数字图像中闪电通道的精确自动分割算法对于批量处理和分析闪电图像数据、快速获取闪电通道发展特征和形态特征、大幅提升工作效率具有重要意义。本文针对现有闪电通道分割算法的不足,特别是对比度低、背景复杂时识别效果较差的问题,提出了一种基于线支持区域的全自动闪电通道分割算法LLSR,试验结果表明:
1) LLSR法根据闪电数字图像通道横截面分布特征,采用高斯匹配滤波方法,能有效提升闪电通道的对比度,保证对低对比度闪电通道图像也能较好识别。
2) LLSR法通过前景区域判定方法自动检测包含闪电通道的线支持区域,实现了闪电通道的全自动识别,具有较高的通用性。
3) LLSR法根据局部区域灰度直方图的分布特征,采用Otsu阈值法,可以比较精确地对闪电通道进行分割。
在实现LLSR的过程中,本研究分析了包含多种类型的闪电通道图像,采用人工识别方式建立了闪电通道人工标注数据集,以做为算法研究定量评估的标准。定量的对比评估结果显示,LLSR法分割的精确率为0.7390,Fmeasure为0.7118,均优于传统算法,在召回率和误判率之间达到了比较好的平衡。总之,本文提出的LLSR法具有良好的局部特性和自适应性,不仅能自动提取低对比度图像中的闪电通道,在处理背景复杂的闪电图像时效果也较理想。
| [1] | 王道洪. 雷电与人工引雷. 上海: 上海交通大学出版社, 2000: 1–12. |
| [2] | 刘欣生, 肖庆复. 人工引发雷电的静态摄影及特性分析. 高原气象, 1998, 17, (1): 106–110. |
| [3] | 张义军, 孟青, 马明, 等. 闪电探测技术发展和资料应用. 应用气象学报, 2006, 17, (5): 611–620. DOI:10.11898/1001-7313.20060504 |
| [4] | 李俊, 张义军, 吕伟涛, 等. 一次多回击自然闪电的高速摄像观测. 应用气象学报, 2008, 19, (4): 401–411. DOI:10.11898/1001-7313.20080403 |
| [5] | Lu W, Chen L, Ma Y, et al. Lightning attachment process involving connection of the downward negative leader to the lateral surface of the upward connecting leader. Geophys Res Lett, 2013, 40, (20): 5531–5535. DOI:10.1002/2013GL058060 |
| [6] | 吕伟涛, 张义军, 周秀骥, 等. 火箭触发闪电通道的亮度特征分析. 气象学报, 2008, 65, (6): 983–993. |
| [7] | Zhou E, Lu W, Zhang Y, et al. Correlation analysis between the channel current and luminosity of initial continuous and continuing current processes in an artificially triggered lightning flash. Atmos Res, 2013, 129: 79–89. |
| [8] | 张义军, 周秀骥. 雷电研究的回顾和进展. 应用气象学报, 2006, 17, (6): 829–834. DOI:10.11898/1001-7313.20060619 |
| [9] | 谢盟, 张阳, 张义军, 等. 两种类型M分量物理特征和机制对比. 应用气象学报, 2015, 26, (4): 451–459. DOI:10.11898/1001-7313.20150407 |
| [10] | 张阳, 张义军, 孟青, 等. 北京地区正地闪时间分布及波形特征. 应用气象学报, 2010, 21, (4): 442–449. DOI:10.11898/1001-7313.20100407 |
| [11] | Otsu N. A threshold selection method from gray-level histograms. IEEE Transactions on Systems Man & Cybernetics, 1979, 9, (1): 62–66. |
| [12] | 周恩伟. 触发闪电放电过程的光电同步观测与分析. 合肥: 中国科学技术大学, 2010. |
| [13] | 杨欣怡, 吕伟涛, 杨俊, 等. 3种阈值方法在闪电通道图像识别中的应用. 应用气象学报, 2014, 4, (4): 427–435. DOI:10.11898/1001-7313.20140405 |
| [14] | von Gioi R G, Jakubowicz J. LSD:A fast line segment detector with a false detection control. IEEE Trans Pattern Anal Mach Intell. IEEE Transactions on Software Engineering, 2010, 32, (4): 722–732. |
| [15] | von Gioi R G, Jakubowicz J, Morel J M, et al. LSD:A line segment detector. Image Processing on Line, 2012, 2: 35–55. DOI:10.5201/ipol |
| [16] | Chaudhuri S, Chatterjee S, Katz N, et al. Detection of blod vessels in retinal images using two-dimensional matched filters. IEEE Trans Medical Imaging, 1989, 8, (3): 263–269. DOI:10.1109/42.34715 |
| [17] | 王晓红, 赵于前, 廖苗, 等. 基于多尺度2D Gabor小波的视网膜血管自动分割. 自动化学报, 2015, 41, (5): 970–980. |
2016, 27 (6): 725-733



