融合区域纹理梯度的船舶阴影视频去除算法
周东, 李昀峰, 高妍, 阮雅端, 陈启美     
南京大学 电子科学与工程学院, 南京 210023
摘要

借助于监控视频实时提取内河船舶运行流量等参数的船舶检测系统得以广泛应用,而传统的视频检测方法往往难以有效区分船体边界,造成颜色、纹理相似的前景和阴影区域检测相混淆.为此,解析了HSV颜色特征和LBP纹理不变性检测阴影原理,改进SE-CT阴影去除算法,提出基于颜色和纹理梯度特征GA-HT梯度填充的船舶阴影去除算法.测试表明,GA-HT算法能很好地去除船舶阴影,提高船舶的目标识别的精度和实时性,阴影检测综合指标F达到92%.

关键词: 视频监控     图像处理     阴影去除     HSV颜色空间     LBP局部二值模型     梯度填充    
中图分类号:TN911.22 文献标志码:A 文章编号:1007-5321(2017) 增-0081-04 DOI:10.13190/j.jbupt.2017.s.018
Ship Shadow Elimination Algorithm Based on HSV and Texture of Gradient Amendment
ZHOU Dong, LI Yun-feng, GAO Yan, RUAN Ya-duan, CHEN Qi-mei     
School of Electronic Science and Engineering, Nanjing University, Nanjing 210023, China
Abstract

At present, the monitoring system by means of real-time video has been widely used, which can extract inland parameters such as ship traffic, etc. while the main methods of shadow detection are often difficult to effectively segment the foreground and shadow because of similar color and texture information in the border region. Through analyzing the LBP texture invariance and HSV color feature extraction principle of shadow, a novel ship shadow elimination is proposed.Chromacity information is first used to create a mask of candiate shadow pixels, follwed by employing improved Local Binary Pattern(LBP) in extracting texture information to remove foregroud pixels that were incorrectly included in the mask, and then applying gradient amendent to obtain a ultimate shadow.Experiments indicate that the proposed algorithm can effectively remove the shadow of the ship, improve the ship's Matching Pursuit accuracy and real-time capability, and final shadow detection comprehensive index F is up to 92%.

Key words: video surveillance     image processing     shadow elimination     HSV color space     local binary pattern     gradient amendent    

传统颜色纹理阴影去除算法(SE-CT,Shadow Elimination based on Color and Texture)主要结合颜色和纹理的不变性特征分割目标和阴影.而实验表明,在实际的监控视频流中,阴影覆盖前后区域的纹理特征不变性这一假设并不总是成立的[1].因此,SE-CT算法难以有效分割边界处前景和阴影.

基于SE-CT算法,文中提出GA-HT (GA-HT,Ship Shadow Elimination Based On HSV and Texture of Gradient Amendment)阴影去除算法,分析HSV颜色和纹理特征,利用梯度信息填充优化最终的阴影区域,并结合形态学处理知识[2]完善前景目标的整体性.

1 传统前景检测和阴影去除方法解析 1.1 混合高斯前景检测

混合高斯模型常用于前景提取,其提取原理利用持续更新的高斯混合模型记录每个像素点的颜色变化历史信息,取其中一个子集模型表征背景.对于新获取的1帧图像,比较当前像素点颜色特征与相应的背景模型是否匹配,来判断该像素点为背景或前景[3].

图 1为GMM前景提取.由于阴影的影响,检测出来的前景目标也包含了船舶阴影.

图 1 GMM背景建模
1.2 SE-CT算法

由阴影光谱属性可知,阴影区域中的像素点的光强度比背景区域的要小.在阴影区域中RG分量的反射比B分量的强,同时阴影覆盖的背景区,其B分量增加、RG分量减小[4].利用这些特性,筛选出候选阴影区域Si,如式(1).

${{S}_{i}}=\left\{ \begin{align} 1, & R({{x}_{b}},{{y}_{b}})-R\left( x,y \right), \\ & G({{x}_{b}},{{y}_{b}})-G\left( x,y \right) \\ & |B({{x}_{b}},{{y}_{b}})-B\left( x,y \right)|~<k \\ 0, &’ 其他\end{align} \right.$ (1)

其中:xb, yb为背景像素值,k为阈值,RGB分别为色彩分量,Si为候选阴影区域.

在光照条件不断变化的环境中,纹理不变性常被用来做阴影检测.局部二进制模式(LBP,local binary pattern)是纹理特征提取的一种有效算子,利用图像选定区域的中心像素与其周围局部像素进行阈值对比,如果中心像素的亮度不小于相邻像素值,标记为1,否则标记为0,并将最终的结果求和[5],其定义如下:

$\text{LB}{{\text{P}}_{P,R}}\left( x,y \right)=\sum\limits_{n=0}^{n=3}{{}}s({{g}_{p}}-{{g}_{q}}){{2}^{p}}$ (2)
$s\left( {{g}_{p}}-{{g}_{q}} \right)=\left\{ \begin{array}{*{35}{l}} 1, & \left| {{g}_{p}}-{{g}_{q}} \right|>T \\ 0, & 其他 \\ \end{array} \right.$ (3)

其中:s (.)为一阶单元函数;T为阈值,取值10;gc为像素点(x, y)的灰度值,gp为对应的相邻像素点;R为半径值,取值1;P则代表相邻像素点个数,取值8.实验取3×3窗口模版.

图 2为SE-CT算法阴影去除过程. 图 2(b)为基准图(黑色为背景;白色为船体;灰色为阴影). 图 2(c)为利用颜色特征提取的疑似阴影区域,其包含大量被误检为阴影像素的前景像素. 图 2(d)基于图 2(c),利用纹理不变性筛选掉前景像素获取候选阴影区域.但由于船体与阴影分界处具有相似的颜色分量和纹理信息,致部分阴影区像素误检为前景像素. 图 2(d)为最终船舶的目标识别,结果有较好的提升.

图 2 SE-CT算法阴影去除
2 基于GA-HT算法的船舶阴影检测 2.1 改进的SE-CT算法

GA-HT算法阴影去除流程步骤,如图 3所示.

图 3 基于GA-HT算法实现船舶阴影去除

1) 在RGB空间中,颜色对光照强度和角度比较敏感,所以难以有效地去除阴影.而在HSV空间中,颜色分量的亮度和色度是分开的,适用于阴影检测.基于此,文中选HSV颜色空间检测阴影,参见式(4).

$S{{P}^{t}}\left( p \right)=\left\{ \begin{array}{*{35}{l}} 1, & \alpha \le \frac{{{F}_{p}}^{v}}{{{B}_{p}}^{v}}\le \beta ,({{F}_{p}}^{s}-{{B}_{p}}^{s})\le {{\tau }_{s}}, \\ {} & ({{F}_{p}}^{h}-{{B}_{p}}^{h})\le {{\tau }_{h}};\alpha \in \left[ 0,1 \right],\beta \in \left[ 0,1 \right] \\ 0, & 其他 \\ \end{array} \right.$ (4)

其中:FpvBpv分别为当前帧(F)和背景帧(B)在像素点p处的亮度值, FPSBPS分别为对应的饱和度; FPHBPH分别为对应的色度值, αβτsτH分别表示最佳阈值.

2) 传统LBP纹理检测算法抗噪声性能差,而在实际应用中,噪声无法避免.为此,改进LBP, 如式(5)、式(6).

$\begin{align} & \text{LBP}\left( x,y \right)=\sum\limits_{n=0}^{n=3}{{}}S({{g}_{p}},{{g}_{c}},{{g}_{q}}){{2}^{p}},\text{where} \\ & \quad \quad \quad \quad \quad {{g}_{c}}=\sum\limits_{n=1}^{n=8}{{}}{{g}_{n}} \\ \end{align}$ (5)
$S({{g}_{p}},{{g}_{c}},{{g}_{q}})=\left\{ \begin{array}{*{35}{l}} 1, & ({{g}_{p}}\ge {{g}_{c}}\ \text{and}\ {{g}_{c}}\ge {{g}_{q}})\ \text{or} \\ {} & ({{g}_{p}}<{{g}_{c}}\ \text{and}\ {{g}_{c}}q) \\ 0, & 其他 \\ \end{array} \right.$ (6)

其中:gc为中心像素点的灰度值,gpgq为以gc为圆心、半径为R的圆边上的对称像素点.

图 4 3×3窗口邻接像素点模版

改进LBP纹理检测方法,从1) 的疑似阴影掩膜中利用纹理特征进一步优化,得到候选阴影区域.

3) 对于每一块连通域,像素点p (x, y)的梯度幅值|Δp|和梯度方向θP

$\left| {{\Delta }_{p}} \right|=\sqrt{{{\Delta }_{x}}^{2}+{{\Delta }_{y}}^{2}}$ (7)
${{\theta }_{p}}=\arctan 2{{\Delta }_{y}}/{{\Delta }_{x}}$ (8)
$S=\left\{ \begin{matrix} 1, & {{\theta }_{p}}<{{\tau }_{m}} \\ 0, & 其他 \\ \end{matrix} \right.$ (9)

其中Δx、Δy分别表示水平和垂直梯度方向.函数arctan2(.)返回一个在[-π, π]之间的梯度方向值,θp表示像素的梯度方向.

4) 对于具有显著权重的像素p=(x, y), 前景帧F和背景帧B的梯度差为

$\Delta {{\theta }_{p}}=\arccos \left[ \frac{{{\Delta }_{x}}^{F}{{\Delta }_{x}}^{B}+{{\Delta }_{y}}^{F}{{\Delta }_{y}}^{B}}{\sqrt{\left( {{\Delta }_{x}}{{^{F}}^{2}}+{{\Delta }_{y}}{{^{F}}^{2}} \right)\left( {{\Delta }_{x}}{{^{B}}^{2}}+{{\Delta }_{y}}{{^{B}}^{2}} \right)}} \right]$ (10)

5) 利用当前帧和背景帧在梯度方向的相关性判断阴影区域, 如式(11).

$S=\frac{\sum _{p=1}^{n}\varphi }{n},\varphi =\left\{ \begin{array}{*{35}{l}} 1, & \Delta {{\theta }_{p}}<{{\tau }_{a}} \\ 0, & 其他 \\ \end{array} \right.$ (11)

其中:n为候选阴影区域像素的个数,τa为梯度阈值.若S大于τc(梯度差阈值),则像素点属于阴影区域,否则属于前景.

图 5为基于GA-HT算法实现船舶阴影去除过程. 图 5(c)为利用颜色特征对船舶的阴影检测. 图 5(d)为改进LBP纹理特征的阴影检测. 图 5(e)为利用Canny算子的边缘差分法,提取边缘信息. 图 5(f)为利用梯度填充来优化最终的阴影区域. 图 5(g)为GA-HT阴影检测的最终结果. 图 5(h)阴影去除二值化结果. 图 5(i)为阴影去除后船舶的精准识别.

图 5 基于GA-HT算法实现船舶阴影去除
2.2 影响GA-HT算法性能的参数

基于颜色特征的阴影检测算法,关键在于阈值(τs, τH)灵敏度的选择.如果阈值太高,会导致阴影检测率偏低,即大量的阴影像素被误检为前景像素.阈值太低,会导致阴影分辨降低,即检测的阴影像素中包含着大量的前景像素.

在梯度填充的算法中,不同边缘检测算子(τa, τc)阈值对最终阴影区域的填充修复效果不同.阈值过低会导致目标边缘存在着大量的假边缘像素点;阈值过高会平滑掉边缘信息.

因此,选取合适的阈值对于GA-HT阴影检测的性能的提高起到至关重要的作用.

3 检测与性能评价

文中测试的视频源取自苏州、扬州、宿迁等八个市级地方海事局的内河监控视频,视频帧为320×240,每秒25帧,共24 500帧.程序运行的硬件环境:Intel i5处理器,CPU频率3.20GHz,内存为4.00 G的64位操作系统,软件环境为Microsoft Windows 7操作系统,Visual Studio 2013开发环境.

文中采用文献[6]定义的两个指标,阴影检测率η和阴影分辨率ξ,并引入一个新的综合指标F,作为阴影性能检测的标准[7], 且F越大,表示阴影检测的效果越好(见式(13)).检测算法性能如式(12).

$\eta =\frac{{{T}_{\text{PS}}}}{{{T}_{\text{PS}}}+{{F}_{\text{NS}}}},\varepsilon =\frac{{{T}_{\text{PF}}}}{{{T}_{\text{PF}}}+{{F}_{\text{NF}}}}$ (12)
$F=\frac{2\eta \varepsilon }{\eta +\varepsilon }$ (13)

其中:TPS为检测正确的阴影像素点数,FNS为误断的非阴影像素点数,TPF为检测正确的前景像素点数,FNF为误判的非前景像素个数.

3.1 阴影检测性能

为了获得最佳的阈值组合,选择了性能参数比较优的8组实验,如表 1所示.其中,τSτH为颜色阈值τατc为梯度阈值.对比实验,当(τS=0.4,τH=0.2,τα=0.1,τc=0.5) 时,综合性能最优,达到92.93%,梯度阈值对阴影分辨率的影响大.颜色阈值增加,会导致所有性能指数降低,梯度阈值增加能提升性能指数.

表 1 不同阈值参数组合性能测试比较

表 2中,传统阴影检测算法存在阴影检测率和阴影分辨率不协调现象,如高阴影检测率而低阴影分辨率.相反,GA-HT算法能同时获得较高的阴影检测率η和阴影分辨率ε.在单帧图片处理的时间上,相比于传统SE-CT算法也仅多了2.85 ms.综合指标F可作为新的指标来衡量阴影检测算法性能的优劣.

表 2 不同阴影检测算法性能比较
4 结束语

基于传统的颜色纹理阴影去除算法的基础上,提出了融合颜色纹理梯度修复的GA-HT阴影去除算法.对比测试表明,该算法能够很好地克服基于单一特征的阴影检测算法的局限性和有效地分割边界处前景和阴影.同时,算法的性能参数指标都优于对比算法并具有很好的鲁棒性,提高了运动船舶跟踪的精度,并得以运用.

参考文献
[1] 董蓉, 李勃, 陈启美. 路况视频中HSV彩色不变量阴影检测法研究与改进[J]. 中国图象图形学报, 2009, 14(12): 2483–2488.
Dong Rong, Li Bo, Chen Qimei. Research and improvement on shadow detection in expressway videos using HSV color model[J]. Journal of Image and Graphics, 2009, 14(12): 2483–2488. doi: 10.11834/jig.20091209
[2] 高俊祥, 杜海清, 刘勇. 采用光照不变特征的椭球法运动阴影检测[J]. 北京邮电大学学报, 2009, 32(5): 109–113.
Gao Junxiang, Du Haiqing, Liu Yong. Moving shadow detection by ellipsoidal method using illumination invariants[J]. Journal of Beijing University of Posts and Telecommunications, 2009, 32(5): 109–113.
[3] 解文华, 易本顺, 肖进胜, 等. 基于颜色和区域梯度方向特征的阴影检测算法[J]. 中南大学学报(自然科学版), 2013(12): 4874–4880.
Xie Wenhua, Yi Benshun, Xiao Jinsheng, etc. Shadow detection algorithm based on color and regional gradient direction features[J]. Journal of Central South University(Science and Technology), 2013(12): 4874–4880.
[4] 邱一川, 张亚英, 刘春梅. 多特征融合的车辆阴影消除[J]. 中国图象图形学报, 2015, 20(3): 0311–0319.
Qiu Yichun, Zhang Yaying, Liu Chunmei. Vehicle shadow removal with multi-feature fusion[J]. Journal of Image and Graphics, 2015, 20(3): 0311–0319.
[5] Satpathy A, Jiang X, Eng H L. LBP-based edge-texture features for object recognition[J]. IEEE Transactions on Image Processing a Publication of the IEEE Signal Processing Society, 2014, 23(5): 1953–1964. doi: 10.1109/TIP.2014.2310123
[6] Al-Najdawi N, Bez H E, Singhai J, et al. A survey of cast shadow detection algorithms[J]. Pattern Recognition Letters, 2012, 33(6): 752–764. doi: 10.1016/j.patrec.2011.12.013
[7] 姜柯, 李艾华, 苏延召. 结合边缘纹理和抽样推断的自适应阴影检测算法[J]. 西安交通大学学报, 2013, 47(2): 39–46.
Jiang Ke, Li Aihua, Su Yanzhao. An adaptive shadow detection algorithm using edge texture and sampling deduction[J]. Journal of Xi'an Jiaotong University, 2013, 47(2): 39–46.