文章信息
- 高启, 李毅念, 金典, 龚成杰, 范亮亮, 李刘阳洋
- GAO Qi, LI Yinian, JIN Dian, GONG Chengjie, FAN Liangliang, LI Liuyangyang
- 基于单幅图像的玉米果穗数量性状测量方法
- Measurement method for quantitative characteristics of maize based on single image
- 南京农业大学学报, 2018, 41(3): 562-569
- Journal of Nanjing Agricultural University, 2018, 41(3): 562-569.
- http://dx.doi.org/10.7685/jnau.201706028
-
文章历史
- 收稿日期: 2017-06-19
玉米果穗的表型性状是反映玉米果穗形态与结构所有特征的总和, 是玉米考种的常规测量项目。玉米果穗的表型性状可分为几何性状、数量形状与颜色性状, 其中数量性状主要包括穗行数、行粒数和总籽粒数等。长期以来, 果穗的数量性状主要通过人工统计来完成, 存在效率低、工作量大、主观误差大、精确性难以保证等问题。如何快速、准确测量果穗数量性状成为玉米自动化考种和产量预测的热门研究课题。
近年, 国内涉及玉米果穗数量性状的自动化考种技术主要有3个研究方向。第一, 采集截断果穗的截面图像, 计算各数量性状, 但对果穗产生损伤:韩仲志等[1]通过采集果穗横断面图像, 依据边缘标记和离散曲率, 得到穗行数。第二, 采集旋转果穗的图像序列, 通过图像拼接技术[2]获得整穗图像, 并直接测量整穗数量性状:王传宇等[3]利用全景技术采集旋转果穗图像序列, 无缝拼接后计算行数与行粒数; 柳冠伊等[4]基于线阵扫描技术获取旋转果穗表面图像, 采用OTSU算法分割籽粒, 通过像素累计识别穗行; 刘长青等[5]分析旋转果穗局部区域的像素累计, 提取出穗行并得到行数与行粒数; 杜建军等[6]利用步进电机旋转果穗, 通过畸变校正、图像拼接后得到完整穗粒分布图, 并提取果穗表型形状参数。第三, 采集单幅果穗图像, 通过建立数学模型估算整穗数量性状:梁秀英[7]通过建立理想几何模型计算行数, 利用改进的阈值分割算法与分水岭算法获得行粒数; 周金辉等[8]通过玉米颜色特征与生物特性, 建立估算模型得到行数与行粒数。在国外, 机器视觉在玉米果穗或种子上的应用主要集中在种子损伤与活性检测、黄曲霉污染检测以及种子品种分类与品质分级等方面[9-11], 与果穗数量性状相关的文献较少。
本文应用机器视觉技术识别果穗, 提出了基于单幅图像的自动化玉米果穗数量性状测量方法, 该方法能较快速、精确地测量果穗行数、行粒数和总粒数, 为玉米自动化考种提供了基础。
1 设备与算法流程图像采集设备如下:CMOS工业相机(维视数字图像技术有限公司提供, 型号MV-EM1400C, 1 400万像素, 图像分辨率3 288×4 608, 红、绿、蓝的比例为1.75:1:1.4), LED条形光源(型号AFT-WL21244-22W, 白光, 最大功率22 W), 光源控制器, PC机(x64双核处理器2.4 GHz, 4 GB内存, Windows 10操作系统), 图像采集设备如图 1-a所示。图像处理平台为MATLAB 2014a, 在处理开始前用邻近插值法缩小图像尺寸为1 096×1 536, 算法流程如图 1-b所示。
2 步骤与方法 2.1 果穗轮廓提取YCrCb(亦称YUV)色彩空间将色彩同亮度分离, 适合处理光照条件复杂的图像, 且YCrCb与RGB之间的转换为线性, 算法简单[12], 转换公式[13]如下:
(1) |
式中:R, G, B∈[0, 255]。本文将Cr改进后用于果穗轮廓提取, 公式如下:
(2) |
对改进后的Cr′通道采用双峰法进行二值化[14-15], 提取二值图像上最大连通域(代表果穗)的轮廓, 将原图像RGB各通道与轮廓作Hadamard乘积, 获得仅含果穗的彩色图像。
该轮廓提取算法对背景颜色、光照条件、背景阴影与反光等具有较强的适应性, 效果如图 2所示。
2.2 像素累计现阶段识别穗粒的常规方法是通过籽粒的颜色特征进行图像分割, 但图像分割通常需要结合先验知识, 并没有一种普适最优的分割方法[16], 而籽粒颜色受果穗品种、籽粒含水量、图像采集环境等影响, 因此难以保证一种方法准确分割大多数果穗。不同条件下的分割效果如图 3所示。
根据果穗籽粒纵横排列的特点, 可通过累计像素的方法定位穗行与行间隙[4-5], 该方法避免了对穗粒进行图像分割, 所以具有较高的精确性与可靠性。
2.2.1 校正果穗倾斜角为保证像素累计的准确性, 需要校正果穗倾斜角并使其竖直于图像中。本文采用Radon变换法求得果穗倾斜角[17]。因为轮廓边缘有不规则突起, 在Radon变换前将轮廓进行过度的腐蚀处理, 使轮廓近似呈椭圆形。得到倾斜角后, 以质心为基准将图像旋转以完成校正。
2.2.2 分区域累计像素建立如图 4-a所示坐标系, 记P(x, y), x∈[xss, xee], y∈[yss, yee]表示果穗最小外接矩形图像上坐标为(x, y)的像素值, 将图像沿y轴等分为20个区域S1, S2, …, S20, 对每个区域沿y方向累计像素, 计算公式[5]如下:
(3) |
累计像素得到的像素值分布函数记为fy1(x), fy2(x), …, fy20(x)。以S10为例, 其累计效果如图 4-b所示。
2.3 计数行粒数 2.3.1 定位穗行线由图 4-b可知, 像素值分布函数的极大值点代表该区域的穗行, 将20个区域的极大值点(即穗行定位点)按一定顺序连接即可获得穗行线。本文仅定位果穗中间较清晰的若干穗行。
对fy1(x), fy2(x), …, fy20(x)进行一维高斯滤波处理, 并提取极大值点, 得到集合D1, D2, …, D20, 每个集合的元素代表该区域穗行的定位点。在相邻区域, 同一穗行的定位点在x方向上位置变化不大, 所以按距离最近原则对D1, D2, …, D20内的元素分组, 使同一穗行的定位点在同一组内。对各组定位点进行线性插值, 即可获得所有的穗行线。定位效果如图 5所示。
2.3.2 计数方法沿着穗行线在灰度图像上抽取像素值, 得到像素值分布函数m(x)。对m(x)进行一维高斯滤波处理, 并提取极大值点, 统计极大值点的数量即得行粒数。将中间4行的行粒数取平均值。从左往右, 图 5-a中第一条穗行的像素值分布函数如图 6所示。不考虑曲线上的毛刺, 图 6中有41个主要的波峰(极大值), 代表该穗行上有41颗籽粒。
2.4 估算穗行数 2.4.1 定位行间隙由图 4-b可知, 像素值分布函数的极小值点代表该区域穗行间隙。本文对fy8(x)、fy10(x)、fy12(x)进行分析。以fy8(x)为例, 对其进行一维高斯滤波处理, 并提取极小值点, 得到集合E8, 即区域S8行间隙的位置。通过扫描轮廓左右边缘, 得到S8横截面的半径R8和圆心O8, 取距离O8不超过0.75R8的穗行间隙。同理, 定位区域S10和S12的行间隙。定位效果如图 7所示。
2.4.2 估算模型本文通过横截面几何模型估算整穗行数。如图 8所示, 假设果穗横截面为圆, 忽略投影线倾斜造成的半径误差(即拍摄高度远大于穗粗), O为截面圆心, R为截面半径, A和C是中间若干行的左右边缘(穗行间隙), a和c分别是它们的投影, P和Q分别是果穗左右边缘, OB⊥PQ, ∠AOB=α, ∠BOC=β。
计算中间若干行的圆心角∠AOC为:
(4) |
若∠AOC包含n条穗行, 由比例式
(5) |
可得整穗行数
(6) |
进一步研究发现行间隙的凹陷使横截面并非圆形, 并产生误差, 如图 9-a所示。图 9-b中, 粗实线表示果穗真实轮廓, 细虚线表示轮廓外接圆(代表纸带), 带箭头实线表示射入镜头的光线, C表示间隙的实际位置, C′表示被定位的位置(光线与轮廓的切点), L表示直线OC′在水平方向上的投影长度, Δθ表示实际位置与定位位置之间的偏差角, W表示间隙宽度。可知该误差会使∠AOC偏小, 导致行数偏大。
分析后发现, 在间隙宽度W和截面半径R一定的前提下, 偏差角Δθ是水平距离L的函数, 记为Δθ=f(L)。可知Δθ=f(L)是单调递增函数, 且在果穗中心B点(L=0)取得最小值0, 在果穗的图上边缘Q′点(L≈R)取得最大值W/2R(此时C与C′之间夹1/2个间隙宽度)。于是函数可化为:
(7) |
通过Auto CAD计算得到:
(8) |
由图 4-b可知, 波形图中波谷的宽度反映了间隙宽度W, 但波谷上代表W的实际宽度MN较难确定(如图 9-c所示), 因此本文以波谷的中径为衡量标准间接度量间隙宽度W。波谷中径dm的概念如图 9-c所示。对多根果穗的图 4-b曲线进行测量后得到W≈1.2dm。再结合式(7)、(8)得到偏差角的计算公式:
(9) |
根据式(9)在式(6)的分母中补偿误差, 得到整穗行数的最终计算式为:
(10) |
式中:n为∠AOC包含的穗行数; dm为距果穗中心最近波谷的中径。
3 试验验证与分析本文选用‘登海605’和‘先玉335’2个品种共计165个果穗进行试验验证, 以证明本文所述方法的可行性和精确性。利用图 1-a所示设备采集果穗图像, 然后利用本文方法测量行数与平均行粒数, 行数的小数结果就近取偶(果穗实际行数必定为偶数), 行数与平均行粒数相乘得到总粒数。人工统计每个样本的行数与每行籽粒数, 将各行粒数取平均得到平均行粒数, 各行粒数求和得到总籽粒数, 以人工统计值作为真实值。使用式(11)计算各性状平均测量精度(P)[6], 使用式(12)计算行粒数的平均绝对偏差(D)。
(11) |
(12) |
式中:m为果穗样本个数; xi和xi分别为果穗各性状的测量值与真实值。对于穗行数统计零误差率。
使用Matlab探查器统计测量速度, 得到平均测量速度为每穗1.936 s。在图像上对定位点进行标记, 人工检查后发现有9根果穗定位错误, 得到穗行定位准确率为94.55%。统计试验结果, 得到总体的穗行数、行粒数、总粒数的平均测量精度分别为98.84%、96.33%、95.67%, 行粒数的平均绝对偏差为每行1.24粒, 穗行数零误差率为90.91%。绘制统计直方图, 如图 10所示。
从直方图形状上看, 3种测量指标的分布大致呈偏态分布, 且分布趋势较偏向100%精度, 说明该测量方法具有得到正确结果的趋势, 方法具有可行性; 从样本分布区间上来看, 除少数结果精度为80%~90%, 大部分结果精度在90%以上, 说明该测量方法能较精确地得到测量结果, 方法具有精确性; 从整体统计数据上来看, 3种测量指标的整体统计结果均在95%以上, 而样本数量足够多(参考文献[1, 3-8]的试验样本均未超过100), 整体统计结果较为可信, 亦能说明本测量方法的精确性。
为了验证本文对行数计算误差的校正效果, 进行对照试验。操作方法为:试验组和对照组均按本文方法测量果穗行数, 除最终行数计算公式不同以外其余均相同。试验组采用式(10)计算穗行数(校正误差), 对照组采用式(6)计算穗行数(未校正误差), 测量的小数结果均不取偶, 计算测量结果与真实值的平均绝对偏差, 统计测量结果(表 1)并绘制偏差的分布直方图(图 11)。
组别 Group |
测量结果比真实值偏大的比例/% Proportion of measurement results whichare larger than actual values |
测量结果比真实值大1行的比例/% Proportion of measurement results whichare one larger than actual values |
平均绝对偏差(行) Average absolutedeviation(row) |
对照组(未校正误差) Control group(Trials withoutcorrection for error) |
86.67%(143根143 samples) | 34.55%(57根57 samples) | 0.803 |
试验组(校正误差) Experimental group(Trials withcorrection for error) |
53.94%(89根89 samples) | 5.45%(9根9 samples) | 0.073 |
注:若行数测量结果比真实值大于1行,则通过取偶无法得到正确结果。 Note:If a measurement result of rows per ear is one larger than its actual value,the correct result cannot be obtained through even. |
从图 11可以看出, 统计结果的分布均大致呈正态分布, 但对照组的均值明显大于0, 而试验组的均值较为接近0, 说明该误差对行数测量结果有较明显的增大效果, 而本文的校正方法能有效抑制误差对结果的增大效果。从表 1可以看出, 对照组的大多数测量结果比真实值偏大, 而试验组偏大的样本数量约占总体的50%, 平均绝对偏差也比对照组显著减小, 亦说明本文校正方法能有效校正该误差。
在对测量误差较大的样本进行分析, 发现本测量方法的误差主要来自行粒数的测量。对于穗行严重倾斜或人眼无法判断穗行的果穗, 本文的方法识别效果较差, 当识别错误时行粒数的测量精度将无法保证。另外, 对于穗粒中部发生严重下凹的情形, 由于凹陷处形成阴影, 行粒数测量结果可能偏大。
4 讨论综合以上试验结果, 与玉米自动化考种的现阶段研究相比较, 本方法在多个测量参数上具有优势。当前玉米自动化考种的两个主流研究方向分别为旋转果穗测量法和单幅图像测量法。目前旋转果穗测量法的主要测量参数可达到:行数精确度98.231%, 行粒数精确度94.351%, 总粒数精确度96.921%, 测量速度每穗12 s[6]。与旋转果穗测量法的现阶段研究水平相比, 本方法的行数测量精度(98.84%)、行粒数测量精度(96.33%)较高, 测量速度(每穗1.936 s)较快, 且无需步进电机等设备。目前单幅图像测量法的主要测量参数可达到:行数零误差率在93%以上, 行粒数绝对误差在2粒左右, 测量速度达到每分钟30穗以上[8]。与单幅图像测量法的现阶段研究水平相比, 本方法的行粒数平均绝对偏差(每行1.24粒)较小, 并且本文给出了总粒数的测量结果(平均精度95.67%)。另外, 本文提出一种出现在单幅图像中的使穗行目测位置偏向中部的成像误差, 并给出解决方案。
[1] |
韩仲志, 杨锦忠. 计数玉米穗行数的机器视觉研究[J].
玉米科学, 2010, 18(2): 146-148, 152.
Han Z Z, Yang J Z. Vision research on the machine of counting ear rows in maize[J]. Journal of Maize Sciences, 2010, 18(2): 146-148, 152. (in Chinese with English abstract) |
[2] | Xiong Y, Pulli K. Fast panorama stitching for high-quality panoramic images on mobile phones[J]. IEEE Transactions on Consumer Electronics, 2010, 56(2): 298-306. DOI: 10.1109/TCE.2010.5505931 |
[3] |
王传宇, 郭新宇, 吴升, 等. 采用全景技术的机器视觉测量玉米果穗考种指标[J].
农业工程学报, 2013, 29(24): 155-162.
Wang C Y, Guo X Y, Wu S, et al. Investigate maize ear traits using machine vision with panoramic photography[J]. Transactions of the Chinese Society of Agricultural Engineering, 2013, 29(24): 155-162. DOI: 10.3969/j.issn.1002-6819.2013.24.021 (in Chinese with English abstract) |
[4] |
柳冠伊, 杨小红, 白明, 等. 基于线阵扫描图像的玉米果穗性状检测技术[J].
农业机械学报, 2013, 44(11): 276-280.
Liu G Y, Yang X H, Bai M, et al. Detecting techniques of maize ear characters based on line scan image[J]. Transactions of the Chinese Society for Agricultural Machinery, 2013, 44(11): 276-280. DOI: 10.6041/j.issn.1000-1298.2013.11.047 (in Chinese with English abstract) |
[5] |
刘长青, 陈兵旗. 基于机器视觉的玉米果穗参数的图像测量方法[J].
农业工程学报, 2014, 30(6): 131-138.
Liu C Q, Chen B Q. Method of image detection for ear of corn based on computer vision[J]. Transactions of the Chinese Society of Agricultural Engineering, 2014, 30(6): 131-138. (in Chinese with English abstract) |
[6] |
杜建军, 郭新宇, 王传宇, 等. 基于穗粒分布图的玉米果穗表型性状参数计算方法[J].
农业工程学报, 2016, 32(13): 168-176.
Du J J, Guo X Y, Wang C Y, et al. Computation method of phenotypic parameters based on distribution map of kernels for corn ears[J]. Transactions of the Chinese Society of Agricultural Engineering, 2016, 32(13): 168-176. DOI: 10.11975/j.issn.1002-6819.2016.13.024 (in Chinese with English abstract) |
[7] |
梁秀英. 基于机器视觉的玉米性状参数与近红外光谱的玉米组分含量检测方法研究[D]. 武汉: 华中农业大学, 2013: 47-49.
Liang X Y. Research on automatic extraction of maize yield-related traits based on machine vision and measurement of maize components content based on NIR[D]. Wuhan: Huazhong Agricultural University, 2013: 47-49(in Chinese with English abstract). http://cdmd.cnki.com.cn/Article/CDMD-10504-1014213542.htm |
[8] |
周金辉, 马钦, 朱德海, 等. 基于机器视觉的玉米果穗产量组分性状测量方法[J].
农业工程学报, 2015, 31(3): 221-227.
Zhou J H, Ma Q, Zhu D H, et al. Measurement method for yield component traits of maize based on machine vision[J]. Transactions of the Chinese Society of Agricultural Engineering, 2015, 31(3): 221-227. (in Chinese with English abstract) |
[9] | Ambrose A, Kandpa L M, Kim M S, et al. High speed measurement of corn seed viability using hyperspectral imaging[J]. Infrared Physics and Technology, 2016, 75: 173-179. DOI: 10.1016/j.infrared.2015.12.008 |
[10] | Hruska Z, Yao H, Kincaid R, et al. Fluorescence imaging spectroscopy(FIS)for comparing spectra from corn ears naturally and artificially infected with aflatoxin producing fungus[J]. Journal of Food Science, 2013, 78(8): T1313-T1320. DOI: 10.1111/1750-3841.12202 |
[11] | Pearson T. Hardware-based image processing for high-speed inspection of grains[J]. Computers and Electronics in Agriculture, 2009, 69: 12-18. DOI: 10.1016/j.compag.2009.06.007 |
[12] |
孟庆宽, 何洁, 仇瑞承, 等. 基于机器视觉的自然环境下作物行识别与导航线提取[J].
光学学报, 2014, 34(7): 180-186.
Meng Q K, He J, Qiu R C, et al. Crop recognition and navigation line detection in natural environment based on machine vision[J]. Acta Optica Sinica, 2014, 34(7): 180-186. (in Chinese with English abstract) |
[13] |
徐庆, 石跃祥, 谢文兰, 等. 基于改进YUV空间的人脸检测方法[J].
计算机工程与应用, 2008, 44(34): 158-162.
Xu Q, Shi Y X, Xie W L, et al. Method of face detection based on improved YUV color space[J]. Computer Engineering and Applications, 2008, 44(34): 158-162. DOI: 10.3778/j.issn.1002-8331.2008.34.049 (in Chinese with English abstract) |
[14] |
熊俊涛, 邹湘军, 陈丽娟, 等. 基于机器视觉的自然环境中成熟荔枝识别[J].
农业机械学报, 2011, 42(9): 162-166.
Xiong J T, Zou X J, Chen L J, et al. Recognition of mature litchi in natural environment based on machine vision[J]. Transactions of the Chinese Society for Agricultural Machinery, 2011, 42(9): 162-166. (in Chinese with English abstract) |
[15] |
魏康丽, 王振杰, 孙柯, 等. 基于计算机视觉对苹果脆片外观品质分级[J].
南京农业大学学报, 2017, 40(3): 547-555.
Wei K L, Wang Z J, Sun K, et al. External quality classification of apple chips based on computer vision[J]. Journal of Nanjing Agricultural University, 2017, 40(3): 547-555. DOI: 10.7685/jnau.201609031 (in Chinese with English abstract) |
[16] | Zhang H, Fritts J E, Goldman S A. Image segmentation evaluation:a survey of unsupervised methods[J]. Computer Vision and Image Understanding, 2008, 110: 260-280. DOI: 10.1016/j.cviu.2007.08.003 |
[17] |
吴丽丽, 余春艳. 基于Sobel算子和Radon变换的车牌倾斜校正方法[J].
计算机应用, 2013, 33(S1): 220-222.
Wu L L, Yu C Y. Tilt correction method of license plate based on Sobel operator and Radon transform[J]. Journal of Computer Applications, 2013, 33(S1): 220-222. (in Chinese with English abstract) |