全天相机[1]拍摄的云图是判断地球大气条件的重要依据,对天文选址工作至关重要,而云量是全天相机云图的重要信息之一。云量是指特定类型的云(部分云量)或全部类型的云(总云量)覆盖天空的估计比例。目前对于云量计算的研究大部分基于云检测实现,一类是根据云点与总像元点之间的比值计算云量,比如国际卫星测云气候学计划(International Satellite Cloud Climatology Project, ISCCP)根据像元辐射值与晴空辐射之间的关系,判断像元是云点还是非云点[2]。阈值法根据天空与云的红蓝波段比值的不同,利用固定阈值[3]、全局自适应阈值[4]、局部阈值[5]对云点进行判断。超高分辨率辐射仪第一阶段云量算法(Clouds from Advanced Very High Resolution Radiometer phase 1 algorithm, CLAVR-1)[6]将像元分为无云、混合和有云3类。中等分辨率成像光谱仪云量算法(Moderate Resolution Imaging Spectroradiometer, MODIS)[2]将像元分为确定云、可能云、可能晴空、晴空4类。此外还有超高分辨率辐射仪拓展云量算法(Clouds from Advanced Very High Resolution Radiometer Extended algorithm, CLAVR-X)[6]、高分辨率红外测深仪云量算法(High-resolution Infrared Radiation Sounder, HIRS)[7]等。但是它们都是将像元分为有限的几个类别做定性分析,这无疑是很粗糙的。此外还有基于特征的云检测分类算法如随机森林、支持向量机、贝叶斯分类器[8]、K-means++[9]、神经网络[10]等,主要基于颜色[11-14]或纹理特征[12]进行云区域分割。近年来深度学习在云检测领域得到了广泛应用,比如基于深度残差全卷积网络[14]的云检测方法实现了对遥感影像云层目标像素级别的分割,像素精度达到93.33%;还有基于带权重的多尺度融合分割网络的遥感云图云检测方法[15],像素精度可达95.39%;改进的全卷积神经网络实现了日间地基云图和夜间地基云图的云区域分割[16],像素精度达到94.59%。另一类根据像元辐射量与反射率的比值计算等效云量,仅是对云覆盖面积的反映。因此无论是云量还是等效云量,现阶段云量的研究只关注云层的覆盖面积而忽略了云的分布密集程度。
目前30 m口径望远镜(Thirty Meters Telescope, TMT)观测云量时使用人工判读云图法:分别在天顶距44.7°和65°处画圆(在图 1中用蓝色和绿色标注),将全天云量分为外圈以内无云(Clear),外圈以内厚云覆盖超过50%(Covered),内圈有云(Inner)和内圈无云、外圈到内圈之间有云(Outer)4类。本质上说,人工判读法主要基于全天相机(All-Sky Imager, ASI)图像中云区域的比例测量云量,对云分布的密集程度考虑不充分,并且没有直观可靠的定量指标。
针对上述问题,本文提出了一种新的云量测量指标——云分布密度,用于描述围绕云图中心点的全天云量的分布情况。本文的主要创新点有:(1)将云点与云图中心点之间的距离变量引入云量计算,定义了云分布密度的计算模型;(2)重新定义云面积的计算模型,引入云层厚度变量;(3)提出了一种基于云分布密度和云面积的云图自动分类系统,使用4种传统分类算法(支持向量机、K最邻近法、决策树和随机森林)并选取1 511幅云图数据进行实验分析,结果表明,随机森林的分类结果最好,并且对各种类型的云图具有很高的识别精度。
本文使用的云图数据来源于中国科学院国家天文台光学天文学重点实验室,大小为1 411 × 1 411像素。数据集中有1 511幅全天相机云图,其中295幅外圈以内无云,696幅外圈以内厚云覆盖超过50%,277幅内圈有云,243幅内圈无云、外圈到内圈之间有云。
1 云分布密度的定义 1.1 云分布密度计算模型云分布密度的提出主要是为了说明云区域距云图中心的远近对天文观测结果的影响,距离中心越近,影响越大,反之越小,云分布密度是对这种影响进行量化表示。云分布密度有3个决定要素:面积、厚度和距云图中心的距离。在归一化处理后的云区域灰度图的基础上,我们将云区域划分为N个单位云区域xi(i=1, 2, ..., N),xi的面积为si,平均云层厚度为wi,云区域中心点距云图中心点的距离为di,一幅全天相机图像的云分布密度可以表示为
$ {D_{{\rm{cloud}}}} = \sum\limits_{i = 1}^N {{s_i}} {w_i}f({d_i}), $ | (1) |
其中,f是以di为自变量的云区域分布密度函数。由于设备和裁剪的问题,距离参数不固定,因此取相对距离di*=di/R,其中,R为全天相机有效区域半径。
云分布密度主要寻找合适的函数表达云区域距云图中心点距离对观测的影响。根据云分布密度的定义,相同面积的云区域距离中心点越近,对观测影响越大。(1)式中的距离分布函数f是随di递减的函数,在云图中心点分布密度最大。由于本文对全天相机云图的分类是基于30 m口径望远镜的判断标准,在参数设定上考虑内圈和外圈的影响。经过多次试验和与人工观测的结果对比研究,设定云图中心点分布密度为1,内圈为0.7,外圈为0,经MATLAB线性拟合距离分布函数和相对距离的关系如图 2,用公式表示为
$ f(d_i^*) = - 24.33{\rm{sin}}(d_i^* - {\rm{\pi }} ) + 1.228{(d_i^* - 10)^2} - 121.8\;, $ | (2) |
其中,正弦项是为了修正拟合的二次函数,使其满足递减条件。
在实际运算中以每个像素点为计算单位,可使云分布密度测量精确到像素级别,由此单位云区域xi为云图像素点,面积si为1。由于云图中天空呈蓝色而云呈白色,且云层越厚云越白,即云层厚度与云点的灰度值呈正比,因此云层厚度wi由灰度值Vi表示为
$ {w_i} = {V_i}/255\;{\rm{, }} $ | (3) |
其中,Vi的取值范围为0~255。综合(1),(2)和(3)式可得到基于像素的云分布密度计算模型
$ {D_{{\rm{cloud}}}} = \sum\limits_{i = 1}^{{N_{{\rm{cloud}}}}} {\frac{{{V_i}f({d_i}/R)}}{{255}}} \;{\rm{, }} $ | (4) |
其中,Vi为云图像素值;di为该像素点距云图中心点的距离;Ncloud为云点总数。计算结果进行归一化,使云分布密度值映射到0~100之间。图 3表示4类云图的云分布密度情况,可以看出各类云图有较明显的分界,说明云分布密度可以作为基于云量的云图分类标准。
1.2 云面积计算模型目前国际上主要针对卫星云图根据云检测得到云像元,将云像元分为不同的种类,统计计算每种像元的概率,从而得到总云量,以此反映云层的覆盖面积。本文在超高分辨率辐射仪拓展云量算法的基础上,以云图的每个像素点定义云面积的计算模型,所有像素点的加权面积和与整个云图有效区域的面积比作为代表云面积(Scloud)的指标,以云层厚度作为云点面积权重,即根据灰度值定义权重参数,灰度值Vi的取值范围为0~255,将其线性划分为255个等级。云面积计算公式为
$ {S_{{\rm{cloud}}}} = \frac{{\sum\limits_{i = 1}^{{N_{{\rm{cloud}}}}} {{V_i}} }}{{255{S_{{\rm{global}}}}}}\;, $ | (5) |
其中,Sglobal为云图有效区域面积,以像素为单位,本文中Sglobal=7062π≈1 565 882 pixel。
2 基于云量计算的云图分类系统国内已有关于云图自动分类的相关研究:文[17]结合卫星云图的纹理特征和光谱特征,采用支持向量机算法实现卫星云图的自动分类;文[18]提出一种针对全天相机云图的云量自动计算方法,并根据30 m口径望远镜判读全天相机云图的方法对云图进行自动分类。但这两种方法没有对全天相机云图的云量特征进行深入描述。本文以云分布密度和云面积描述云图的云量特征,并结合机器学习算法构建基于云量计算的云图分类系统。图 4是自动分类系统的流程图,云图经去噪、分割云区域图像后进行云量的数值计算,最后以云分布密度和云面积为特征的分类器对云图进行自动分类。
2.1 云图去噪云图的固定噪声[19]会影响云检测的准确度,进而影响云量计算和云图分类的结果。本文主要针对严重影响云检测准确度的两种噪声——星光噪声和日月光噪声进行云图去噪,见图 5(a),(b)。
2.2 云图分割本文采用最大类间方差算法进行云区域检测,云区域标记为1,天空背景标记为0,得到二值图像如图 5(c)。在此基础上将二值图像与原图相乘可以分割出云区域,然后将分割图进行灰度归一,消除云图之间的明暗差异,最终云图分割结果如图 5(d)。
2.3 云量计算在云区域分割的基础上计算每幅云图的云分布密度和云面积,作为下一步云图分类的特征。表 1显示了数据集中部分云图的云分布密度和云面积,图 6展示了数据集中云图的两个指标之间的关系,图中离差(Deviation)计算公式为
Dcloud | Scloud | Dcloud | Scloud | |||
0 | 0.099 3 | 57.090 9 | 0.647 1 | |||
2.881 3 | 0.294 9 | 59.954 8 | 0.475 4 | |||
11.259 2 | 0.079 4 | 64.631 1 | 0.579 7 | |||
22.314 2 | 0.289 6 | 76.164 2 | 0.781 6 | |||
30.384 7 | 0.211 9 | 79.552 8 | 0.613 8 |
$ \sigma = \left| {{S_{{\rm{cloud}}}} - {D_{{\rm{cloud}}}}/100} \right|\;. $ | (6) |
由图 6可以看出,云分布密度和云面积整体上呈正相关。经统计,76.44%的云图的离差在0.1以内,93.78%的云图的离差在0.2以内。但在云较少(Scloud < 0.3)的情况下,两者并非严格正相关,离差较大,出现云面积较高但云分布密度较低的情况,这在表 1列举的样例中也有体现。这是由于云分布密度的计算模型中加入了云点和中心点的距离影响:云面积大但距中心点远,云多分布在云图边缘,云分布密度低;反之,云面积小但距中心点近,云多位于云图中央,云分布密度高,不利于天文观测。云分布密度和云面积非正相关的情况多出现在Clear类和Outer类,可能导致这两类的误判。
2.4 分类算法本文采用支持向量机、K最邻近法、决策树和随机森林进行分类测试。数据集中训练集包含1 056幅全天相机图像,其中有206幅外圈以内无云,489幅外圈以内厚云覆盖超过50%,199幅内圈有云,162幅内圈无云、外圈到内圈之间有云。另外455幅全天相机图像用作测试集,包括89幅外圈以内无云,207幅外圈以内厚云覆盖超过50%,78幅内圈有云,81幅内圈无云、外圈到内圈之间有云。本文基于Python中的Scikit-learn(Sklearn)对全天相机图像进行分类,每幅云图的云分布密度和云面积作为分类特征,训练集用于训练4个分类器,结合分层洗牌分割交叉验证训练超参数,使用准确率(Accuracy)作为模型评分。另采用文[17]中的结合纹理特征与支持向量机的方法作对比,基于灰度共生矩阵(Gray-level Co-occurrence Matrix, GLCM)提取图像的灰度和纹理特征,结合支持向量机进行云图分类。
3 实验结果分析为了全面评价本文提出的基于云分布密度和云面积的云图自动分类系统的分类效果,本文以分类准确率(Accuracy)、精准率(Precision)、召回率(Recall)和F1-score作为评判指标,对测试集455幅全天相机图像进行自动分类,并与国家天文台提供的人工分类标签作对比,以人工分类结果为准,评估不同分类算法在各类云图上的分类性能。4个指标定义为
$ A = {T_{\rm{P}}} + {T_{\rm{N}}}/{T_{\rm{P}}} + {F_{\rm{P}}} + {T_{\rm{N}}} + {F_{\rm{N}}}, $ | (7) |
$ P = {T_{\rm{P}}}/{T_{\rm{P}}} + {F_{\rm{P}}}, $ | (8) |
$ R = {T_{\rm{P}}}/{T_{\rm{P}}} + {F_{\rm{N}}}, $ | (9) |
$ {F_1} = \frac{{2 \times PR}}{{P + R}}\;. $ | (10) |
其中,TP表示实为正并划分为正的样本数;TN表示实为负并划分为负的样本数;FP表示实为负却划分为正的样本数;FN表示实为正却划分为负的样本数。测试集的预测结果如表 2,从表 2可以看出,本文使用的4种算法在各类云图的识别准确率上均达到90%以上,表明本文提出的云分布密度和云面积可以作为可信的云量指标,在云图自动分类工作中展现了优良的性能。总体准确率最高的是随机森林算法,Covered和Inner达到了100%准确识别。但Outer类准确率最高的是文[17]中的方法,本文提出的方法很容易将Outer类误判为Clear类。基于灰度共生矩阵特征提取的方法对Outer类的识别较准确,但对Clear类和Inner类的识别准确度较差,因此总体准确率不如本文方法。
Categories of cloud images | Clear | Covered | Inner | Outer | Total | |
Ours | SVM | 0.997 5 | 0.980 7 | 0.974 4 | 0.901 2 | 0.964 8 |
KNN | 0.977 5 | 1 | 0.987 2 | 0.913 6 | 0.978 0 | |
Decision tree | 0.997 5 | 1 | 1 | 0.907 2 | 0.978 0 | |
Random forest | 0.997 5 | 1 | 1 | 0.950 6 | 0.986 8 | |
GLCM + SVM | 0.931 8 | 0.990 3 | 0.974 4 | 0.975 3 | 0.973 6 |
对于误判的云图,进行如图 7所示的分析。图 7(a)是人工判定标签为Clear,系统自动识别为Clear的云图;图 7(b)是人工判定标签为Outer,系统自动识别为Clear的云图(误判云图),由图 7可以看出,图 7(a),(b)在外圈以内均有云存在,图 7(a)中云较薄,分布较分散,图 7(b)中云较厚,分布较为集中,(a)图的云分布密度和云面积均大于(b)图,因此导致系统误判。
实验采用精准率、召回率和F1-score对分类结果进行评判,表 3显示了3种分类器的分类结果评分,总体评分取样本的宏平均。从表 3可以看出,随机森林分类器的各项总评分最高,总精准率达到98.41%,总召回率达到98.2%,总F1-score达到98.3%,在本文自动分类系统中的分类性能最好。
Categories of cloud images | Clear | Covered | Inner | Outer | Total | |
Precision | SVM | 0.915 8 | 0.990 2 | 0.950 0 | 0.973 3 | 0.957 3 |
KNN | 0.935 5 | 0.990 4 | 1 | 0.973 7 | 0.974 9 | |
Decision tree | 0.945 7 | 0.985 7 | 1 | 0.973 3 | 0.976 2 | |
Random forest | 0.966 7 | 0.995 2 | 1 | 0.974 7 | 0.984 1 | |
GLCM + SVM | 0.954 0 | 0.995 1 | 0.950 0 | 0.963 4 | 0.965 6 | |
Recall | SVM | 0.977 5 | 0.980 7 | 0.974 4 | 0.901 2 | 0.958 4 |
KNN | 0.977 5 | 1 | 0.987 2 | 0.913 6 | 0.969 6 | |
Decision tree | 0.977 5 | 1 | 1 | 0.901 2 | 0.969 7 | |
Random forest | 0.977 5 | 1 | 1 | 0.950 6 | 0.982 0 | |
GLCM + SVM | 0.932 6 | 0.990 3 | 0.974 4 | 0.975 3 | 0.968 1 | |
F1-score | SVM | 0.945 7 | 0.985 4 | 0.962 0 | 0.935 9 | 0.957 3 |
KNN | 0.956 0 | 0.995 2 | 0.993 5 | 0.942 7 | 0.971 9 | |
Decision tree | 0.961 3 | 0.992 8 | 1 | 0.935 9 | 0.972 5 | |
Random forest | 0.972 1 | 0.997 6 | 1 | 0.962 5 | 0.983 0 | |
GLCM + SVM | 0.943 2 | 0.992 7 | 0.962 0 | 0.969 3 | 0.966 8 |
本文提出了一个计算全天相机云图云量的直观可信的数值指标——云分布密度,并基于云量的数值特征建立云图自动分类系统,该系统实现了较高的识别准确率。本文测试了支持向量机、K最近邻、决策树和随机森林4种传统算法,其中随机森林的准确率最高,各类云图的识别准确率达95%以上,但是还存在云图误判的情况,需要进一步完善计算模型。此外,云图的光照条件容易影响云层厚度的判断,本文未能完全消除光照的影响,因此在接下来的研究中需要考虑光照的影响,通过去噪消除或是建立基于光照模型的云量计算模型。除此之外,还可以结合最新的机器学习算法完善系统,提高系统的识别准确率。
[1] | DEV S, WEN B H, LEE Y H, et al. Ground-based image analysis: atutorial on machine-learning techniques and applications[J]. IEEE Geoscience & Remote Sensing Magazine, 2016, 4(2): 79–93. |
[2] | KOTARBA A Z. Evaluation of ISCCP cloud amount with MODIS observations[J]. Atmospheric Research, 2015, 153: 310–317. DOI: 10.1016/j.atmosres.2014.09.006 |
[3] | LONG C N, SABBURG J M, CALBÓ J, et al. Retrieving cloud characteristics from ground-based daytime color all-sky images[J]. Journal of Atmospheric and Oceanic Technology, 2006, 23(5): 633–652. DOI: 10.1175/JTECH1875.1 |
[4] |
杨俊, 吕伟涛, 马颖, 等. 基于自适应阈值的地基云自动检测方法[J]. 应用气象学报, 2009, 20(6): 713–721 YANG J, LYU W T, MA Y, et al. An automatic ground-based cloud detection method based on adaptive threshold[J]. Journal of Applied Meteorology, 2009, 20(6): 713–721. DOI: 10.3969/j.issn.1001-7313.2009.06.009 |
[5] | LIU S, ZHANGL B, ZHANG Z, et al. Automatic cloud detection for all-sky images using superpixel segmentation[J]. IEEE Geoscience and Remote Sensing Letters, 2015, 12(2): 354–358. DOI: 10.1109/LGRS.2014.2341291 |
[6] | JELENAK A, HEIDINGER A K. Validation of CLAVR-x cloud detection over ocean using AVHRR GAC sea surface temperature[C]//Proceedings of SPIE. 2005, 5658: 292-298. |
[7] | MA G, FANG Z Y, ZHANG F Y. An error analysis on the simulated data of TOVS HIRS by RTTOV5 model[J]. Journal of Meteorological Research, 2002, 16(2): 226–241. |
[8] | CHENG H Y, LIN C L. Cloud detection in all-sky images via multi-scale neighborhood features and multiple supervised learning techniques[J]. Atmospheric Measurement Techniques, 2017, 10(1): 199–208. DOI: 10.5194/amt-10-199-2017 |
[9] | BLAZEK M, PATA P. Colour transformations and K-means segmentation for automatic cloud detection[J]. Meteorologische Ztschrift, 2015, 24(5): 503–509. DOI: 10.1127/metz/2015/0656 |
[10] | TARAVAT A, DEL FRATE F, CORNARO C, et al. Neural networks and support vector machine algorithms for automatic cloud classification of whole-sky ground-based images[J]. IEEE Geoscience and Remote Sensing Letters, 2014, 12(3): 666–670. |
[11] | DEV S, NAUTIYAL A, LEE Y H, et al. CloudSegNet: a deep network for nychthemeron cloud image segmentation[J]. IEEE Geoscience & Remote Sensing Letters, 2019, 16(12): 1814–1818. |
[12] | YE L, CAO Z G, XIAO Y, et al. Supervised fine-grained cloud detection and recognition in whole-sky images[J]. IEEE Transactions on Geoscience and Remote Sensing, 2019, 57(10): 7972–7985. DOI: 10.1109/TGRS.2019.2917612 |
[13] | DEV S, SAVOY F M, LEE Y H, et al. High-Dynamic-Range imaging for cloud segmentation[J]. Atmospheric Measurement Techniques, 2018, 11(4): 2041–2049. DOI: 10.5194/amt-11-2041-2018 |
[14] |
张家强, 李潇雁, 李丽圆, 等. 基于深度残差全卷积网络的Landsat 8遥感影像云检测方法[J]. 激光与光电子学进展, 2020, 57(10): 364–371 ZHANG J Q, LI X Y, LI L Y, et al. Landsat 8 remote sensing image based on deep residual fully convolutional network[J]. Laster & Optoelectronics Progress, 2020, 57(10): 364–371. |
[15] |
郭玥, 于希明, 王少军, 等. 遥感图像云检测的多尺度融合分割网络方法[J]. 仪器仪表学报, 2019, 40(6): 31–38 GUO Y, YU X M, WANG S J, et al. Cloud detection in remote sensing images with multilevel scale fused network[J]. Chinese Journal of Scientific Instrument, 2019, 40(6): 31–38. |
[16] | SHI C J, ZHOU Y T, QIU B, et al. Diurnal and nocturnal cloud segmentation of all-sky imager (ASI) images using enhancement fully convolutional networks[J]. Atmospheric Measurement Techniques, 2019, 12(9): 4713–4724. DOI: 10.5194/amt-12-4713-2019 |
[17] |
贾杰, 邵丽群. 遥感领域中气象卫星云图自动分类研究[J]. 无线互联科技, 2016(1): 120–123 JIA J, SHAO L Q. The research of automatic classification of meteorological satellite imagery in remote sensing field[J]. Wireless Internet Technology, 2016(1): 120–123. DOI: 10.3969/j.issn.1672-6944.2016.01.055 |
[18] |
魏诗雅, 邱波, 曹子皇, 等. 一种全天相机云图的自动处理方法[J]. 天文研究与技术, 2019, 16(1): 85–92 WEI S Y, QIU B, CAO Z H, et al. An automatic processing method for all-sky images[J]. Astronomical Research & Technology, 2019, 16(1): 85–92. DOI: 10.3969/j.issn.1672-7673.2019.01.011 |
[19] |
高振斌, 李梦慈, 邱波, 等. 全天相机云图去噪算法的研究[J]. 天文研究与技术, 2020, 17(1): 76–84 GAO Z B, LI M C, QIU B, et al. Research on denoising algorithm for camera image of all-day camera[J]. Astronomical Research & Technology, 2020, 17(1): 76–84. DOI: 10.3969/j.issn.1672-7673.2020.01.010 |