1 引　言

中国东部地区受东亚季风活动影响，是洪涝灾害较为严重的地区之一（黄荣辉等，2003；Ding，et al，2021）。因此，针对东部地区夏季降水预测的研究一直是气候研究的重要课题之一（丁一汇等，1997；Fan，et al，2008；魏凤英等，2010）。准确的降水预测是洪涝防治和防灾、减灾的关键（冯强等，2001）。

影响中国东部夏季旱涝的物理过程和影响因子众多，诸如东亚季风、西北太平洋副热带高压、中高纬度大气模态、ENSO循环、西太平洋热力状况等（高辉等，2003；张庆云等，2007；梁萍等，2008；朱蒙等，2014；李秀真等，2018；刘芸芸等，2009，2020）。此外，由于预测因子之间存在复杂的相互联系，使得夏季降水预测面临巨大的挑战（彭京备等，2006；杨杰等，2012；杜良敏等，2016）。近年来中国夏季降水预测准确率为60%—70%，而长江流域只有50%左右（李维京等，2013）。江苏省地处中国东部地区，位于长江、淮河下游，河湖纵横，水网密布，洪涝灾害不容忽视，例如1991年夏季江淮流域暴雨、1998年长江全流域特大洪水、2003和2007年淮河流域洪涝灾害、2016年长江中下游地区区域性暴雨等事件，都造成了人员伤亡和巨大经济损失。因此，提高对江苏夏季旱涝的预测能力意义重大。

进入21世纪以来，机器学习方法在诸多领域得到了越来越多的应用，涌现出了大量研究成果（Gers，et al，2000；Ranzato，et al，2007；LeCun，et al，2015）。其中，由多层感知机基础上发展而来的人工神经网络（ANN）成为机器学习领域发展最快的一个分支，在此基础上发展出了递归神经网络（RNN）、卷积神经网络（CNN）和深度神经网络（DNN）等适应于不同应用场景的神经网络方法。与传统的统计方法相比，神经网络模型由于结构复杂，训练数据量大，往往能够通过机器学习获取更加复杂的时间、空间甚至是物理特征，因此被广泛应用于政府决策、工业生产、金融预测、科学研究等领域，且取得了不错的效果（Tompson，et al，2014；Yan，et al，2018）。

数据和算法是气象预报、预测的核心。随着观测手段及预报、预测业务的发展，气象数据的覆盖范围广、时间频次高，为利用机器学习算法提升气象预报、预测水平提供了有力的数据基础和技术支撑。另外，天气、气候系统是典型的非线性复杂系统，预报、预测涉及的要素多，关系复杂。传统的预测方法存在一定的局限性，其中天气学方法主要依赖于预报员的主观经验，而统计学方法则没有充分利用已知的物理规律，二者都很难实现真正意义上的非线性预报（任宏利等，2007）。20世纪90年代，已有相关研究工作（孙照渤等，1998）尝试将人工神经网络应用于夏季降水预报中。近十几年来，机器学习技术在气象预报领域得到了越来越多地应用，已有一些学者（孙军波等，2010；孙照渤等，2013；孔令彬等，2014；李文娟等，2018；Kamani，et al，2018；Haberlie，et al，2019；孙全德等，2019；任萍等，2020；周康辉等，2021）将机器学习应用于短时临近预报和天气模式的预报订正中，研究表明利用机器学习方法和观测、预测数据可以实现有效信息的提取，实现更准确的天气预报。也有一些研究（李智才等，2006；Kisi，et al，2012；Ho，et al，2014；苗春生等，2017；Reichstein，et al，2019；沈皓俊等，2020）在极端气候事件、环流异常、全球温度变化等方面进行了探讨。基于机器学习方法，利用多因子建模开展对中国汛期区域降水的预测，近年来也已取得了一些突破性进展。例如，Wei等（2020）用决策树方法尝试构建了中国汛期降水预测模型；Tong等（2019）发展了一套递归随机森林方法，从中国气象局国家气候中心发布的88个环流因子中选取出影响华北降水异常的决定性因子；Gao等（2019）运用多元Logistic回归的方法建立了中国东部降水的客观预测模型。这些研究成果无疑为进一步提升季节预测准确率提供了一个新的研究方向。

深度神经网络模型可以尝试从样本量较小的气候数据中发现和学习复杂非线性特征（Tompson，et al，2014；Yan，et al，2018）。本研究利用江苏省67个国家级气象观测站降水资料和气候指数数据集，基于深度神经网络模型对江苏省夏季降水开展季节预测试验，构建夏季降水预测模型，并与传统统计方法和多种机器学习算法的预测效果进行对比。在此基础上，通过对深度神经网络模型的网络层数、神经元数量以及学习率等超参数进一步对比优化（Wistuba，et al，2015），从而获得最优超参数方案。最后，对比分析不同预测因子组合的预测结果，讨论影响深度神经网络模型预测结果的因素。本研究尝试将深度学习方法与气候预测业务融合，为气候预测提供一种新思路，推动气候预测业务智能化发展。

2 资料和方法 2.1 资　料

降水观测资料是由江苏省气象信息中心提供的全省70个国家级气象观测站（图1）1961—2019年夏季（6—8月）降水数据，经过质量控制剔除存在缺测的站点，实际使用站点为67个。本研究中气候态为1981—2010年30 a的平均值，这里关注夏季降水异常分布，预测对象和建模时使用的是各站的降水距平百分率。

此外，选取了由中国国家气候中心以及美国国家海洋和大气管理局（NOAA）发布的共130项气候指数数据集作为预测因子（王启光等，2011），起始时间为1961年1月至2019年3月。将其分为88项大气环流指数、26项海温指数和16项积雪、海冰等陆面因子气候指数（杨杰等，2012；沈皓俊等，2020）。数据取自http://cmdp.ncc-cma.net/Monitoring/cn_index_130.php。所有因子均分别经过归一化处理后再输入模型进行建模和预测。归一化公式如下，其中X表示任一预测因子矩阵，X'为归一化处理后得到的新矩阵。

$ {\boldsymbol X}'=\frac{{\boldsymbol X}-\min({\boldsymbol X})}{\max({\boldsymbol X})-\min({\boldsymbol X})} $

所有方案中的因子都应用于模型训练，模型在训练过程中迭代更新网络权重的过程，包含了传统预测方法中根据权重、相关性筛选预测因子的过程，通过模型的迭代训练和更新，根据因子对预测误差的贡献，动态更新各个因子的权重，其中重要的因子权重较大，而不重要的因子会得到非常低的权重。

2.2 研究方法 2.2.1 深度神经网络

深度神经网络是在感知机基础上发展出来的一种具有多个隐含层的人工神经网络（Schmidhuber，2015）。深度神经网络内部的神经网络层可以分为3类：输入层、隐藏层和输出层，第一层是输入层，最后一层是输出层，中间的都是隐藏层。数据经输入层进入网络，其维度由实际输入数据的维度决定，经过各层向后流动，最后到达输出层输出。

网络中间有n个隐藏层，每层含有若干个神经元，层与层之间是全连接的，如第i层的任意一个神经元一定与第i+1层的任意一个神经元相连，对于每个神经元之间的局部模型来说，计算包含线性变换和激活函数两部分，激活函数是用来加入非线性因素，解决线性模型所不能解决的问题。不同网络层之间是由激活函数来模拟神经元对激励的响应，通过选择不同的激活函数以及动态阻断前后层神经元之间的连接，可以使模型更好地学习到数据的非线性特征，避免出现过拟合的情况。常用的激活函数有双曲正切函数、线性整流函数、泄露线性整流函数等，文中使用的是线性整流函数，其优势在于可以解决梯度消失问题，还能加快收敛速度提高学习速度（Krizhevsky，et al，2012）。

深度神经网络的训练过程包含前向传播算法和后向传播算法2个步骤：第1步是前向传播算法，进行一系列线性运算和激活运算，从输入层开始，一层层向后计算，一直到输出层，得到输出结果。第2步后向传播算法，选择一个损失函数，也就是误差评定标准，度量训练样本计算出的输出和真实的训练样本输出之间的损失，对这个损失函数进行优化求最小化的极值过程中，后向不断对一系列线性系数w和偏倚向量b进行更新，直到达到预期效果。

2.2.2 其他预测方法

此外，还使用轻量级梯度提升机（Light GBM）、随机森林（RF）、支持向量机（SVM）等机器学习方法和线性回归（LR）方法，比较不同的客观预测方法对江苏省夏季降水的预测能力。

轻量级梯度提升机是2017年8月微软公司开源的一个实现梯度提升决策树算法的框架（Ke，et al，2017），能够解决样本量大、数据维度高时占用内存大、耗费时间长等问题，通过训练回归决策树对样本数据进行学习并做出合理的预测。

随机森林是由Breiman（2001）和Adele Cutler提出的机器学习算法，通过随机生成多棵决策树对样本进行分类回归，在降低过度拟合情况的前提下实现预测。其优势体现在可以将高维度数据转化为多个变量输入并且确定最重要的变量，达到降低数据维度的目的。

支持向量机开始提出是为了解决分类问题（Cortes，et al，1995），经过推广可以将之应用到求解回归问题中（Drucker，et al，1997）。利用统计理论中的结构风险最小化原则在非线性问题上具有一定的优势，但训练出来的模型往往存在泛化能力差的缺陷，所以需要集成其他算法对模型进行进一步优化。

线性回归是传统气候预测中应用最为广泛的统计方法（魏凤英，2007），其具体做法是将变量逐个引入，以保证最后得到的解释变量集是最优的。

2.2.3 评价指标

均方根误差（RMSE）和平均绝对误差（MAE）是机器学习常见的回归评价指标（门晓磊等，2019），其误差值越小代表模型预测技巧越高。这里主要参考这两个指标来判断不同的机器学习方法对预报对象的适用性。气候趋势预测评分（PS）、距平符号一致率（SC）和距平相关系数（ACC）是中国气候预测业务中常用的预测准确率评价指标（陈桂英等，1998），主要用于对江苏省夏季降水预测结果的评估。

此外，采用交叉检验和独立样本检验（吴洪宝等，2005）两种方式来评估模型的预测技巧。为了避免模型过拟合，提高模型泛化能力，增强模型的实际业务应用能力，本研究将1961—2014年作为训练时段，2015—2019年作为预测时段，检验模型的实际预测能力。

3 江苏省夏季降水异常特征分析

从江苏省夏季降水的标准化距平序列（图2）可以看到，1961—2019年江苏省夏季降水总体呈现上升趋势，且表现出明显的阶段性变化。20世纪60年代至80年代前期为少雨期；80年代后期至90年代前期夏季降水增多，进入相对多雨期；90年代中后期夏季降水减少；从90年代末至21世纪以来，夏季降水再次显著增加，进入多雨期。此外，2015—2019年江苏省夏季降水阶段性特征显著，2015—2016年为显著多雨年，2017—2019年则是相对少雨年。近年来，江苏省夏季降水极端性也较强，2015年苏南地区降水量较常年偏多7成，仅次于1991和1999年，夏季前期6—7月江苏省梅雨量偏多，盛夏期间7—8月先后受到“灿鸿”“苏迪罗”和“天鹅”3个台风影响，风大雨强；2016年夏季“暴力梅”致全省江河湖堤全线超警，梅雨期降水量为430.8 mm，较常年偏多1倍；2017年夏季降水量显著偏少，区域性暴雨日数为1961年以来最少。因此，将2015—2019年作为本研究的预测时段，具有较好的代表性。

4 预测试验与结果检验 4.1 预测因子

预测因子的选取是建立预测模型非常重要的部分，因子选择是否合适对预测模型的结果有很大影响。这里考虑将130项指数在当年1、2月和前一年3—12月的所有因子作为预测前兆信号使用，共130×12=1560个因子。对因子进行初步筛选，把缺测较多的因子去掉，参加建模的共1153个因子。因子中既包含了因子的年际变化尺度，也包含冬春季因子变化对后期的跨季节影响。考虑到因子的物理意义，将其分为3组，即大气环流因子组、海温因子组和积雪等其他因子组。对比试验中，在因子组合上考虑了5种方案，方案1—3是单独考虑大气环流因子、海温因子和积雪等其他因子，方案4是包括所有预测因子，方案5将前3种方案融合后的动态权重集合（表1），5种方案的计算流程如图3所示。方案5是将方案1—3的模型作为基础模型，将3个方案产生的预测结果作为方案5的预测因子，进行训练，构建预测模型，最终得到动态的加权模型，加权模型能够在一定程度上降低预测误差。

4.2 预测模型

使用深度神经网络、轻量级梯度提升机、随机森林、支持向量机和线性回归等多种预测方法预测江苏省夏季降水，对比不同模型的学习和泛化能力，选出最优模型。利用上述5种方法和方案4预测江苏省夏季降水距平百分率，将1961—2014年作为训练时段，2015—2019年作为预测时段。表2为预测的误差分析结果，综合考虑平均绝对误差和均方根误差两个指标，深度神经网络模型较其他方法有一定的优势，故选择深度神经网络模型做进一步的预测试验。

4.3 深度神经网络模型调优

由于不同站点的实际地形、气候特征存在差异，针对江苏省67个国家级气象观测站分别搭建深度神经网络模型，并对每个模型的参数进行调优，需要调优的参数如表3所示。深度神经网络模型是基于PyTorch框架进行建模，其中隐含层节点数对应了每层提取的数据特征，节点数过少无法提取到足够多的数据特征，节点数过多会出现数据过拟合的现象，此处隐含层节点参数设为10、20、50和100共4种。神经网络层数为5—10层，通过对比不同层数模型的训练效果，确定最优隐含层数。训练批次是模型的训练迭代次数，学习率决定了模型梯度更新的快慢，本研究学习率的初始值在训练中设为0.01，随着模型训练迭代学习率逐渐减少至0.0001，这样可以保证训练前期模型较快收敛到最优值附近，训练后期又能够更精确地找到全局最优解。此外，激活函数能够使模型更好地学习到数据的非线性特征，经过对比参数方案中的3种激活函数发现，线性整流函数（Rectified Linear Unit，简称ReLU）在实际预测中能够起到更好的效果。为了避免数据出现过拟合，在模型训练中采用十折交叉验证，每个训练批次中都将1961—2014年的逐年数据随机分成10份，每一份数量不需要完全相同。轮流将其中9份作为训练数据、1份作为验证数据，循环进行10次后，针对每年数据都有10个验证结果，计算10个验证结果的误差平均作为该训练批次的交叉验证误差，在训练达200个批次时取验证误差最小的作为最优模型。

4.4 预测结果分析

利用参数调优后的深度神经网络模型预测1961—2019年的江苏省67个国家级气象观测站夏季降水距平百分率，并与观测结果进行对比。图4给出了1961—2014年训练时段江苏区域平均夏季降水距平百分率的观测与预测结果的对比。方案1—5模拟的夏季降水与观测值的年际变化几乎一致，两者相关系数都在0.99以上，达到0.001的显著性水平。而2015—2019年预测时段，方案1—5模拟的夏季降水与观测值存在一些差异。下面将定量化评估预测时段的预测效果。

首先对5种方案的训练时段和预测时段分别进行评分。5种方案在训练时段的交叉预报检验结果都具有很好的评分（表4），PS评分为97.0—99.2，距平符号一致率为0.93—0.98，距平相关系数评分为0.95—0.99。但预测时段的独立样本预报检验结果存在较大差异（表4和图5）。在方案1中，只使用大气环流因子，其5 a回报的PS评分为77.7、符号一致率为0.64，距平相关系数达0.34，总体效果不错。方案2只使用海温因子，方案3使用积雪等其他因子，尽管这两个方案建模在训练期的交叉检验结果仅比方案1稍差，但独立样本检验结果不太理想，方案2的5 a平均距平相关系数为负值。方案4是考虑了大气、海温、积雪等所有因子，训练期的交叉预报检验结果评分较方案1有所提升，但独立样本检验的结果不如方案1。方案5是方案1—3的动态权重集合，包含了所有预测因子和不同因子方案的信息，具有集合的思想，建模的交叉预报检验结果有明显提升，且独立样本检验结果也较为稳定，PS评分为76.4，距平符号一致率为0.62，距平相关系数的5 a均值达到了0.35，逐年的交叉预报检验结果仅有1 年为负值，表明其预测结果相对稳定，预测结论有较好的参考价值。

进一步对方案5的逐年空间预报结果与观测进行对比分析。在2015—2019年预测时段，2015年（图6a）和2019年（图6c）的江苏夏季降水空间分布类型有显著差异：2015年降水以偏多为主，主雨带位于苏南地区，而2019年降水则以整体偏少为主。对比这两年的预测结果（图6b、d）可以看到，预测的空间型与实况基本相符。此外，2015年预报偏多2成以上的区域与实况较为一致，2019年偏少2成以上的区域也有所体现，可见预测结果对偏多或者偏少的异常量级把握也较好，在一定程度上能够预测出降水的极端性。说明深度神经网络结合动态权重集合方案的预报模型对江苏省夏季降水具备较好的预测能力。

江苏夏季降水根据时空演变特征可以从南至北划分为苏南、江淮和淮北3个区域（吕军等，2006）。图7给出了苏南地区（30.5°—32.0°N，118.5°—122.0°E）、江淮地区（32.0°—33.5°N，118.0°—121.0°E）和淮北地区（33.5°—35.0°N，116.5°—120.5°E）3个区域的降水预测与观测实况的对比。降水预测结果成功地再现了2015—2019年苏南夏季降水逐年减少的变化特征，降水距平同号率为1，5 a预测值和观测值的趋势都呈现出一致偏多或偏少，其中2019年预测值与观测值最为接近（图7a）。预测（图7b）也很好地呈现出2015—2019年江淮地区夏季降水的下降趋势，降水距平百分率的同号率为0.8，其中2016和2017年预测和实况最接近，尤其在2016年，二者几乎相等。淮北地区降水预测结果（图7c）和实况在前2年存在一些差异，后3年较为一致，降水距平同号率为0.6，其中2018年预测与实况趋于一致。由前面的分析可知2018年江苏全省预测效果不理想，从分区域预测和实况对比来看，主要是由于江淮地区预测与观测趋势相反，而苏南和淮北地区均把握住了偏少的趋势。可见，深度神经网络结合动态权重集合因子的预报方案能够较好地预测江苏夏季降水，预测技巧存在一定区域差异，对江苏中部和南部的预测技巧更高，独立样本检验期5 a评分江淮地区的PS为78.4，距平相关系数为0.39；苏南地区的PS为74.9，距平符号一致率为0.34。表明模型对江苏中南部地区夏季降水具有更高的预测能力和业务应用价值。

4.5 预测因子的讨论

深度学习在气象中的应用目前还处于初级阶段，这种数据驱动的方式有可能发现过去未知的规律和内在联系，从而推动气象领域的新认识（Reichstein，et al，2019）。可解释性一直是人工神经网络发展的重大方向，受制于模型的复杂性以及人们对模型可解释性的认知，深度神经网络目前还很难像传统的统计方法或气候模式一样找到相对直观的物理机理解释。这里，试图通过对比试验来初步讨论不同因子方案对预测结果的影响。

图8是预测时段使用不同因子方案的深度神经网络预测结果与江苏区域平均夏季降水实况的对比。与观测实况相比，深度神经网络方法整体预测性能在2015、2016、2019年较好，大部分方案把握住了降水偏多或偏少的异常趋势，2015年方案1、2、4、5和2016年方案1、4、5都预测出偏多2成以上，偏多异常预测正确，2019年方案1、4、5都预测出偏少2成以内，其中方案5与实况完全一致，而2017、2018年预测效果不太理想。比较不同方案发现，大气环流因子、所有因子和动态权重集合的方案都能较好地模拟出江苏夏季降水的趋势变化特征，动态权重集合方案与实况更为接近、更加稳定，而海温因子和积雪等其他因子的方案模拟能力年际差异较大，在特定年份表现出技巧，方案2在2015、2016年与观测值接近，可能与这两年处于超强厄尔尼诺背景有关；方案3在2018、2019年与观测值接近，可能与这两年高原积雪异常信号较为明显有关（2017/2018年冬季高原积雪偏少，2018/2019年冬季积雪则异常偏多）。说明海温和积雪等其他因子在异常信号显著时对江苏夏季降水预测也有正贡献。

表5给出了2015—2019年深度神经网络结合不同方案的预测结果与观测的误差指标对比。总体来看，方案2和方案3预测结果的误差较大，方案1、4、5误差较小，从误差分析结果来看方案5最佳。误差指标对比的结果同样是大气环流因子、所有因子和动态权重集合的方案效果较好，动态权重集合方案的误差最小。综上所述，大气环流因子对江苏夏季降水预测有主要贡献，海温因子和积雪等其他因子的贡献在不同年份存在差异，动态权重集合方案预测效果最好。

5 结论与讨论

利用1961—2019年江苏省67个国家级气象观测站降水量和气候指数数据集等资料，选取大气环流、海温和积雪等先兆信号的不同组合作为预测因子方案，使用深度神经网络、轻量级梯度提升机、随机森林、支持向量机和线性回归等方法建立预测模型，开展江苏省夏季降水的预测试验，对预测效果进行对比分析，并探讨了不同预测因子方案对江苏省夏季降水预测结果的潜在影响。具体结论如下：

（1）1961—2019年江苏省夏季降水总体呈现上升趋势，且表现出明显的阶段性变化，近5年中2015—2016年为显著多雨年，2017—2019年为相对少雨年。对比分析深度神经网络、轻量级梯度提升机、随机森林、支持向量机和线性回归等预测模型对江苏省夏季降水的预测结果误差特征，发现利用深度神经网络模型对江苏省夏季降水预测具有一定优势。

（2）不同因子方案的深度神经网络预测结果在训练时段（1961—2014年）的交叉预报检验结果都有很好的表现，但从预测时段（2015—2019年）的独立样本预报检验结果来看，动态权重集合的方案预测效果最好，深度神经网络结合动态权重集合因子方案能够较好地预测江苏夏季降水，独立样本检验PS评分为76.4，距平符号一致率为0.62，距平相关系数的5 a均值达到了0.35，其预测结果较为稳定。预测技巧还存在区域差异，对江苏中南部的预测技巧更高，具有业务应用价值。

（3）不同预测因子组合方案的预测结果对比分析表明，就单类型因子方案而言，大气环流因子方案优于海温因子和积雪等其他因子方案，对江苏夏季降水预测有主要贡献，海温因子和积雪等其他因子的贡献在不同年份存在差异；所有因子方案优于大气环流因子方案，说明海温因子和积雪等其他因子在特定年份有正贡献；将所有因子和方案信息进行动态权重集合的方案预测效果最好，说明深度神经网络模型结合动态权重集合方案有助于提升季节预测准确性。

本研究针对汛期降水预测这一重点与难点，使用深度神经网络方法建立预测模型，有效提升了预测的准确性，为汛期降水预测提供了一种可能的参考。在对比不同预测因子方案时发现，单独使用海温因子的方案预测效果不佳，且大气环流因子总体优于海温和积雪陆面因子，这可能一方面是海温因子仅考虑了某几个区域平均指数，而海温对大气和降水的影响需要综合考虑海温的不同发展阶段和空间分布型；另一方面这里的分析主要针对江苏夏季降水，预报对象区域范围较小，关键大气环流因子对局地降水的关系和表征性更为直接，而热带海温异常信号对较小区域范围的降水异常的关系不一定显著。但也需要指出，本研究的结果是初步的，而深度学习的可解释性范畴仍是计算机领域的热点问题，如何更有效地解释深度神经网络方法预测降水的物理机制仍有待于进一步探索。

本研究使用近几十年的观测数据建模，但实际上与机器学习方法建模所需要的大量数据样本相比还存在较大差距，会增加模型获得稳定有效特征的难度，同时数据样本不够还会导致出现过拟合问题。为了避免模型出现过拟合，在模型训练中采用了随机失活和十折交叉验证两种优化方法，随机失活即在训练过程中随机将部分隐含层节点的权重归零，十折交叉验证通过重复运用随机产生的子样本进行训练和验证，能够很大程度上避免数据过拟合的问题。但由于气候数据样本有限，如何在提高拟合精度的同时避免过拟合确实是个难题，这也是机器学习在气候领域应用遇到的瓶颈之一。Tong等（2019）曾提出通过对多种（88个）可能因子基于传统气候学分析先分类，再通过递归式随机森林的方法进行建模，通过特征工程从原始数据中挖掘、构造更加有效的特征数据，有助于减小过拟合问题，提升模型的预测精度。这也为下一步工作提供了思路，在深度神经网络的训练和应用中可以通过数据的特征提取、构造更多有效特征来减少样本量不足的问题，提升模型预测效果。