地球物理学报  2021, Vol. 64 Issue (4): 1435-1452   PDF    
基于深度学习的重力异常与重力梯度异常联合反演
张志厚1,2, 廖晓龙1, 曹云勇3, 侯振隆4,5, 范祥泰1, 徐正宣1,3, 路润琪1, 冯涛3, 姚禹1, 石泽玉1     
1. 西南交通大学地球科学与环境工程学院, 成都 611756;
2. 西南交通大学高速铁路线路工程教育部重点实验室, 成都 610031;
3. 中铁二院成都地勘岩土工程有限责任公司, 成都 610000;
4. 东北大学深部金属矿山安全开采教育部重点实验室, 沈阳 110819;
5. 东北大学资源与土木工程学院, 沈阳 110819
摘要:高效高精度的反演算法在重力大数据时代背景下显得尤为重要,受深度学习卓越的非线性映射能力的启发,本文提出了一种基于深度学习的重力异常及重力梯度异常的联合反演方法.文中首先提出了一种基于网格点几何格架的重力异常及重力梯度异常的空间域快速正演算法,这为本文深度学习反演算法的实现奠定了基础;其次对大量的不同密度模型进行正演计算获得样本数据集;然后设计了一种端到端的深度学习网络结构(GraInvNet),再利用样本数据对该网络结构进行训练;最后进行反演预测.组合模型试验表明,多维度数据联合反演相比单一分量反演其结果更"聚焦",且与模型边界高度吻合,并且对于复杂模型的姿态与物性预测具有极为显著的优势,以及对于含噪声数据的反演,其质量也不会降低;Vinton岩丘实测重力数据也验证了文中方法的有效性;从而证明了深度学习在重力数据的高效高精度反演方面具有的巨大潜力.
关键词: 重力异常与重力梯度异常      全卷积神经网络      快速正演      联合反演     
Joint gravity and gravity gradient inversion based on deep learning
ZHANG ZhiHou1,2, LIAO XiaoLong1, CAO YunYong3, HOU ZhenLong4,5, FAN XiangTai1, XU ZhengXuan1,3, LU RunQi1, FENG Tao3, YAO Yu1, SHI ZeYu1     
1. Faculty of Geosciences and Environmental Engineering, Southwest Jiaotong University, Chengdu 611756, China;
2. Ministry of Education Key Laboratory of High-speed Railway Engineering, Southwest Jiaotong University, Chengdu 610031, China;
3. Chengdu Geological Survey Geotechnical Engineering Co, Ltd, Chengdu 610000, China;
4. Key Laboratory of Ministry of Education on Safe Mining of Deep Metal Mines, Northeastern University, Shenyang 110819, China;
5. School of Resources and Civil Engineering, Northeastern University, Shenyang 110819, China
Abstract: In the era of big data, high-efficient and high-precise inversion algorithms of gravity data become particularly important. Inspired by the excellent nonlinear mapping capability of deep learning, we propose a joint inversion method of gravity anomaly and gravity gradient anomaly based on deep learning. The main contents of the paper are as follow: Firstly, a fast forward algorithm in spatial domain of gravity anomaly and gravity gradient anomaly based on grid point geometric grid is put forward, which establishes a foundation to realize a new deep-learning inversion algorithm; Secondly, sample data sets are constructed by forward calculation of a great quantity models of different densities; Thirdly, an end-to-end deep learning network GraInvNet is creatively designed, which is then trained using the sample data sets; Finally, the inversion forecast is carried out. As shown by the model tests above, the results of joint inversion of multi-dimensional data are more focused than that of its counterpart using single component, and also more consistent with the model boundary. Moreover, the former possesses a significant advantage in predicting the buried depth, shape and physical properties of complex models, particularly in the inversion of noisy data. The validity of the method is further verified by the results of field data inversion using the gravity data of Vinton Salt-Rock, which, thus, effectively proves to us the great potential of deep learning in high-efficient and high-precise inversion of gravity data.
Keywords: Gravity and gravity gradient anomaly    Full convolutional neural network    Fast forward    Integrated inversion    
0 引言

重力物性反演是典型的线性反问题,存在多解性,设计合理的反演算法是关键步骤之一.为获得稳定、准确的反演结果,一些正则化方法被引入到重力数据的线性反演中,并取得了较好的计算结果.如:基于地质异常体最小体积约束方法及其改进方法(Last and Kubik, 1983; Guillen and Menichetti, 1984; Barbosa and Silva, 1994; Li and Oldengburg, 1998; Silva and Barbosa, 2006; Dias et al., 2009, 2011)和基于最小梯度约束的"聚焦反演"(Portniaguine and Zhdanov, 1999; Zhdanov et al., 2004; Zhdanov, 2009)等. 此外,为了抑制反演的"趋肤效应"(Fedi et al., 2005),将深度加权函数引入到目标函数中进行反演(Li and Oldengburg, 1998; Chasseriau and Chouteau, 2003; Commer, 2011)的方法在一定程度上提高了深度分辨率,以及加入其他地质先验信息或密度模型的重力反演方法(Shamsipour et al., 2010)也取得了较好的效果.随着FTG(Full Tensor Gravity Gradiometry)系统的问世与成功应用,以上诸多方法也被应用在重力梯度数据的反演中(Martinez et al., 2013; Geng et al., 2014; Lu and Qian, 2015; 高秀鹤等,2017).由于重力梯度数据能够提供更丰富的地质信息,因此利用重力及重力梯度数据联合反演不仅能够更加准确的勾画出地下异常体的物性大小与空间分布特征,而且联合反演也是约束多解性的一种重要手段(Gallardo and Meju, 2003; Fregoso and Gallardo, 2009; Zhdanov et al., 2012). 于是重力及重力梯度数据的联合反演方法与技术研究备受诸多学者关注(Wu et al., 2013; Qin et al., 2016; 秦朋波和黄大年,2016).但线性类反演方法通常容易陷入局部极小,并且计算效率低、稳定性差(徐世浙等,2009).在实际应用中,只有选择良好的初始模型,线性类反演方法才可能获得较为可靠的结果,然而初始模型应包含有关地质体属性的先验信息,对于空间复杂的地质情况,通常很难对其进行可靠的估算.

大数据时代的到来,人工智能的兴起,聚类(Sun and Li, 2015Liu and Jin, 2020)、决策树(戴诗华等, 2010Barak et al. , 2020)、支持向量机(Li et al., 2020a)、贝叶斯(Guo et al., 2011; 殷长春等, 2014; Jiang et al., 2016)及人工神经网络(Artificial Neural Network, ANN)(Al-Garni, 2009, 2013, 2015Neyamadpour et al., 2010)等机器学习方法被引入到地球物理数据的处理中.利用机器学习的方法进行反演无需依赖初始模型,也不需要对灵敏度矩阵进行计算和存储,并且有着良好的全局寻优性能,此类方法已逐步成为地球物理数据处理的研究热点(张旗和周永章, 2017).尤其是机器学习的一个分支——深度学习(Deep Learning,DL)(Schmidhuber, 2015; Lecun et al., 2015)或称深度机器学习(Deep Machine Learning),在不适定反问题方面取得了引领性的进展(Girshick et al., 2014; Russakovsky et al., 2015; Krizhevsky et al., 2017). DL是一种深度的神经网络,能够用非监督式或半监督式的特征学习和分层特征提取高效算法来代替手工获取特征(王昊等,2020).DL相比传统的ANN具有更多的隐含层和更强的复杂函数逼近性能(Hornik et al., 1989; Lecun et al., 2015),DL与地球物理反演方法具有类似的优化算法(Kim and Nakata, 2018), 极有助于不适定反问题的求解(Jin et al., 2017; Liu et al., 2020),也将在地球物理的海量数据反演中取得巨大的优势(王昊等, 2020).

目前,深度学习在地球物理反演中的应用大都是在电磁数据及地震数据处理领域.最新的研究如:王鹤等(2018)利用遗传神经网络实现了大地电磁反演,并验证了该算法的可行性和有效性;Puzyrev(2019)利用全卷积神经网络(Fully Convolutional Neural Networks,FCN)对井中垂直磁偶极子源发射地面接收的电磁数据进行二维反演;Puzyrev和Swidinsky(2020)将DL应用于海洋频率域可控电磁数据的一维反演,其结果表明,在浅层存在异常体时,深度学习反演相比传统反演,其不会影响深层的目标探测,具有较高的分辨率;Noh等(2020)实现了频率域航空电磁数据卷积神经网络(Convolutional Neural Networks,CNN) 一维反演,结果表明CNN在合成数据量较少时其反演结果仍然具有较高的分辨率;Liu等(2020)提出了一种基于平滑约束和深度加权的直流电阻率FCN反演方法,有效的提高了解的分辨率;Li等(2020b)利用FCN直接从地震记录数据重建速度模型,其"端到端"的反演思路验证了DL在地球物理反演方法中的有效性;奚先和黄江清(2018)实现了散射波场的CNN反演成像方法,该方法具有良好、稳定的反演能力和泛化能力.此外,基于DL的地震全波形(Moseley et al., 2019; Zhang and Alkhalifah, 2019; Sun and Demanet, 2020) 反演研究也取得了良好的进展.这些研究为重磁反演带来了更为广泛的应用前景.

基于此,本文提出一种基于DL的重力及重力梯度数据联合反演的方法.反演流程包括三个阶段:样本数据集生成,网络模型训练和利用网络模型进行预测.前两个阶段计算耗时较长,因为必须在足够大的训练集上训练网络模型,才能使网络模型具有泛化新数据的能力,但前两个阶段仅执行一次.反演预测较为迅速,通常在几十毫秒内完成.针对反演第一阶段,本文首先提出了一种重力及重力梯度空间域快速正演方法,以此来快速构建样本数据集;对于DL学习的网络结构,本文基于U-net网络结构(Russakovsky et al., 2015)建立重力数据(输入)到剩余密度模型(输出)的非线性映射网络结构,即三维重力场反演的"端到端"网络结构,本文称为GraInvNet (Gravity Inverse Net)网络结构;然后利用样本数据集对网络进行监督学习(训练),最后利用GraInvNet网络对理论数据和实测重力及重力梯度数据进行反演,以此来检验文中方法的可行性和有效性.

1 重力及重力梯度空间域快速正演

利用地下半空间模型的重力及重力梯度正演计算生成样本数据集,以及扩大样本数据集是减少DL反演过拟合的有效方法.因此,本文提出一种快速的重力异常及重力梯度异常的正演计算方法,以此来高效构建样本数据集,从而提高方法的实用性.

1.1 正演计算表达式

通常重力及重力梯度的正演计算是将地下半空间剖分成若干个规则长方体模型单元(如图 1a所示),然后计算每一个长方体模型单元对观测点的异常(图 1b),再将所有长方体模型对观测点的异常求和,即为地下半空间整个模型体对观测点的异常.

图 1 地下半空间剖分模型单元示意图 (a) 剖分单元示意图;(b) 长方体模型单元. Fig. 1 Sketch map of partition model of underground half-space subdivision (a) Sketch map of subdivision element; (b) Prism model element.

单个长方体模型单元相对观测点P(x, y, z)的重力异常及重力梯度异常正演计算理论表达式如下(Li and Chouteau, 1998; 舒晴等, 2015):

(1)

(2)

(3)

(4)

(5)

(6)

(7)

其中,xi=x-ξiyj=y-ηjzk=z-ζkrijk=(xi2+yj2+zk2)1/2G0为万有引力常量,ρ为长方体模型单元密度,Δg为重力异常,Uαβ(α, β=x, y, z)为重力梯度异常.

1.2 等效存储网格点几何格架技术

姚长利等(2003)提出了几何格架技术进行了重力异常的空间域快速正演计算,取得较好的效果.本文在此基础上提出一种网格点几何格架技术,此技术能够对已有的正演算法进行加速.以重力异常的正演计算为例进行说明,公式(1)可以写成如下表达式:

(8)

其中,

(9)

与物性无关,本文称为网格点几何格架函数.网格点几何格架函数与文献(姚长利等, 2003)类似的几何格架函数:

(10)

存在如下关系:

(11)

分析得出:(1)几何格架S与网格点几何格架Q的区别在于,前者是观测点相对于长方体模型单元的概念,后者是观测点相对于地下半空间的模型剖分网格点的概念;(2)几何格架S与网格点几何格架Q都具有平移等效性,重力异常Δg及重力梯度张量Uzz的几何格架S具有互换对称性;(3)几何格架S值是长方体模型单元8个顶点的网格点几何格架Q的代数和;(4)直接计算不同几何格架S的值存在8次(图 2)计算同一网格点几何格架Q值的过程(边界除外).

图 2 长方体模型单元共用网格点几何格架示意图 Fig. 2 Sketch map of geometric grid of common grid points of prism model elements

基于以上分析,本文对部分观测点网格点几何格架Q的值进行计算、存储,其余观测点网格点几何格架的值通过平移等效性进行调用,而不需要计算与存储,从而通过公式(8)完成正演计算.

1.3 计算步骤

下面给出基于网格点几何格架的重力及重力梯度异常的空间域快速正演算法具体步骤.

步骤1:将地下半空间长方体模型单元的剖分与计算点相对应(图 3所示),即计算点与地下半空间模型单元的网格点一一对应.并将计算点位置换算成实际里程,对长方体模型单元的剩余密度进行赋值;

步骤2:分别计算地下半空间内所有网格点对长方形观测区4个顶点的重力异常或重力梯度异常的网格点几何格架值(分别记为Q1Q2Q3Q4.图 3所示),并存储待后续计算调用;

图 3 计算点与网格点一一对应关系 Fig. 3 The corresponding relation between calculation points and grid points

步骤3:根据计算点与任意单一长方体模型单元8个顶点之间的相对位置关系,利用平移等效性调取其相对应的网格点几何格架值,再依据公式(8)计算该长方体模型单元对计算点的重力异常或重力梯度异常;

步骤4:利用步骤3计算地下半空间每一个长方体模型单元对某一计算点的重力异常或重力梯度异常,最后求和得到该计算点总的重力异常或重力梯度异常;

步骤5:对步骤4遍历循环观测区,最终获得地下半空间剩余密度体在观测区的重力异常或重力梯度异常.

2 深度学习反演 2.1 方法

目前DL网格结构主要有CNN、深度置信网络(Deep Belief Network, DBN)、循环神经网络(Recurrent Neural Networks, RNN) 及生成对抗网络(Generate Adversarial Network, GAN)等,其余网络结构都是在此基础上改进而来.而应用最为广泛的是CNN,CNN在大型图像处理方面取得了一系列新的突破(Krizhevsky et al., 2017),其网络结构具备较强泛化能力和较好的迁移能力,以及健壮性也会更加优质(LeCun et al., 2015),尤其是FCN作为特殊的一种CNN其在医学图像语义分割方面(Russakovsky et al., 2015)显现出超越性的优势.

本文将观测平面上的多元重力数据视为二维图像的像素数据,作为FCN网络模型的输入端,将已知的地下模型作为训练标签,并在搭建的FCN网络模型上进行监督学习(训练),最终通过训练完成的FCN网络模型对重力数据进行反演.这一点本文反演方法与图像语义分割类似,但也存在差别.图像语义分割(图 4ab)的输入与输出的空间维度相同,本文反演方法的输入与输出的空间维度(图 4cd)不同,即输出端的剩余密度为三维数据(图 4d)(地下半空间异常体物性值),输入端重力场响应为二维数据(图 4c).因此,本文FCN网络结构的输出端采用多通道二维数据来连接分类模型,即将地下半空间每一深度层的物性值看作为自然图像的二维像素数据,多通道的通道数为反演深度的网格单元数.

图 4 FCN端对端示意图 (a)与(b)分别为图像分割的输入与输出示意图,(c)与(d)分别为本文方法的输入与输出示意图. Fig. 4 Sketch map of FCN end-to-end (a) and (b) are the input and output schematic of image segmentation, (c) and (d) are the input and output schematic of the method proposed in this paper respectively.

地下半空间存在的密度异常体会在观测面上引起重力场响应,不同异常体引起的重力场响应也表现出不同特征(图 4cd).即具有一定的空间相关性和局部存在性,此特征也可以从极为发展的位场边缘识别技术(王万银, 2010Wang et al., 2009, 2010)得到印证.总之,位场数据反演的输入和输出有两个特点:(1)空间的对应性,(2)局部的存在性.而FCN方法作为一种特殊的DL方法,其利用卷积算子代替矩阵相乘,重点学习输入图像与输出标签的局部性和空间性(Shi et al., 2019).因此,利用FCN方法对重力数据进行反演是切实可行的.

相同大小的异常体位于两个邻近垂直位置时,其引起的重力异常变化较小,FCN的网络结构需要具有足够的深度才有可能将其区分.然而,网格结构加深则会造成训练难度增加,诸如反向传播梯度消失、计算量增加等.因此,有必要将以高频信息为主的重力梯度异常作为以低频信息为主的重力异常的补充,共同作为FCN的输入端,可以增加同大小异常体位于两邻近垂直位置时的重力场响应差异,从而进一步提高FCN的预测精度.换言之,在不增加感受野的前提下,提高位置相似异常体的重力响应的辨识度来进行FCN网络训练,以此提高其预测的精度.本文反演的目标是通过FCN的方法得到重力异常和重力梯度异常到异常体剩余密度的映射函数:

(12)

2.2 网络结构

Long等(2015)提出了FCN方法,该方法是将CNN方法的全连接层修改为卷积层,实现了端到端的学习.FCN方法相比传统的CNN方法,其优点一是节点超参数大大减少从而提高计算效率,二是避免全连接层数据一维化而丢弃信息,三是"跳跃结构"(Russakovsky et al., 2015)融合了低中高阶特征信息,进一步优化了输出结果,以此可以高效进行密集型像素的预测.本文基于FCN方法的U-Net架构设计重力场数据反演的网络结构(GraInvNet),如图 5所示.GraInvNet是U-Net的一种简化与改进,简化了网络结构的深度及卷积通道数,改进了输出端的标签分类(图 4d),以及当输入与输出在不同空间维度时,利用第一次卷积进行裁剪或填充,以便跳跃链接时编码层与解码层的组合.GraInvNet有15层采用卷积运算(宽度为3,跨度为1),3层采用最大池化运算(宽度为2,跨度为2),其感受野为80(计算方法参照Luo等(2017)文献),这对于本文重力场输入数据空间维度的反演任务来说,非线性逼近程度已足够大.

图 5 GraInvNet网络结构 由3个下采样层和3个上采样层组成,下采样和左侧卷积层对应编码阶段,上采样和右侧卷积层对应解码阶段,图中黑色数字表示特征图的通道数,Conv为卷积,BN为批归一化,ReLU为激活函数,Max pooling为最大池化,Upsampling为上采样,Skip-Connection为跳跃链接. Fig. 5 GraInvNet architecture It is composed of three down-sampling layers and three up-sampling layers. The down-sampling layer and the left convolution layer correspond to the encoding stage, the up-sampling layer and the right convolution layer correspond to the decoding stage. In the figure, the black number indicates the number of channels in the feature map, Conv is convolution, BN is batch normalization, ReLU is activation function.
2.3 正则化

在DL中,泛化能力是指已完成训练的网络结构对未泄露数据的预测性能(Zhang et al., 2018; Chan et al., 2017).在实际情况中,我们通常将样本数据集按照一定比例分成两部分,大部分用来训练,小部分未泄露数据进行测试,最后通过测试误差来评价方法的泛化能力.决定DL反演成败的两个关键因素是(1)降低训练误差和(2)减少训练误差与测试误差之间的差距.训练误差较大对应为欠拟合,可以更改FCN网格结构或训练算法来完善,训练误差和测试误差之间的较大差距对应过拟合.在数据量充足的情况下正则化方案是解决过拟合的一种有效方法.

Dropout是深度学习模型训练中最简单、最常用的正则化技术(Hinton et al., 2012b).Dropout是指在每一轮训练中按一定比例随机丢弃部分网络神经单元之间的链接(Srivastava et al., 2014; Krizhevsky et al., 2017),避免训练数据在所有节点进行训练,该策略减少了网络单元之间复杂的共适应关系,同时也对网络单元起一定的平均作用,故而可减少过拟合.此外,本文对于GraInvNet网络结构,不仅在卷积层后使用Dropout,还在卷积层间使用批处理归一化的正则化方案.该方案的优势是在FCN网络训练期间性能更稳定(Ioffe and Szegedy, 2015; He et al., 2016; Puzyrev, 2019).

2.4 损失函数

损失函数是DL网络训练过程的指挥棒,其通过正向传播的输出结果与样本标签值之间的误差反向传播来修改网络单元节点权值及其他参量,本文指通过预测地下半空间长方体模型密度与已知模型密度的误差进行调参.常用损失误差为L1、L2范数,其表达式分别为

(13)

其中,ρi为已知某个长方体模型单元密度(DL的标签数据),是与ρi相对应DL反演预测值.其他大部分类型的损失函数定义都是在式(13)的基础进行改进.

GraInvNet网络模型训练的实质就是损失函数数学期望极小化的过程.传统地球物理反演的实质是目标函数极小化的过程.其实两者的二范数表达式类似,区别在于传统反演目标函数是预测数据的正演响应与实测数据的二范数或其正则化改进,且该目标函数极小化过程的计算成本极为昂贵,而DL损失函数极小化过程效率较高.本文采用归一化数据的L2范数作为损失函数.

2.5 学习算法的选择

强大的学习算法是提高深度学习反演性能必不可少的步骤,通过GraInvNet网络学习算法一步步的迭代使损失函数极小化,达到全局的最优值.

随机梯度下降法(Stochastic Gradient Descent,SGD)是一种高效的优化方法,是DL中最有效的核心算法之一(Hinton et al., 2012a; Deng et al., 2013; Hinton and Salakhutdinov, 2006; Krizhevsky et al., 2017). 然而SGD选取一个样本数据作为其梯度方向时,其方向具有随机性,极有可能不能较快收敛到最优解.此外,SGD算法的学习率是全局统一的,而待优变量对于损失函数的依赖却各不相同,因此其取值不当易造成部分变量收敛速度慢及部分变量的收敛过程产生震荡.针对SGD固定的学习率问题,AdaGrad (Adaptive Gradient)算法将每一个变量采用不同的学习率,自适应进行学习率的调整.但该算法存在一个平方梯度迅速积累而造成学习速度下降的问题,从而阻止训练模型达到局部极小值.RMSProp (Kingma and Ba, 2014)是AdaGrad的改进算法,其采用平方梯度累积指数衰减的动态平均算法,使得模型训练得以继续.考虑到动量法具有对梯度算法加速的优点,本文采用KingmaBa(2014)提出的ADAM算法(Adaptive Moment Estimation),它是动量法与RMSProp算法的结合,适合大数据量超参数的优化问题,并具备计算效率高收敛速度快的优势.

2.6 网络规格及调参

激活函数选用CNN以及其他DL类型最常用的线性整流函数(ReLU,见公式(14))及其改进函数(Xu et al., 2015),其主要优势是稀疏性,能够减少梯度消失的可能性,还具有非常好的收敛性能和较低的计算成本.输出选择S型函数(见公式(15)).此外,鉴于在图形特征提取中最大值池化相比平均值池化具有一定优势(Boureau et al., 2010),本文GraInvNet网络选用最大值池化方案.

(14)

(15)

在调参方面需要考虑到训练轮数、样本批量数以及Dorpout的比例等因素对模型性能的影响.以上因素需兼顾计算效率和精度,从而优化GraInvNet网络结构,最终的训练完成的GraInvNet具备计算的准确性,同时也需对新样本具备一定的泛化性.

3 理论模型试验 3.1 样本数据集的构建及训练

将地下半空间划分为40×40×20个长方体模型单元,如图 1a所示,其中长方体模型单元大小为100 m×100 m×50 m,模拟观测数据区大小为4 km×4 km,计算的单通道(重力异常或某种分量重力梯度异常)正演数据为41×41个.样本数据集的构建首先是将多个长方体模型单元组合为一定规模的长方体模型块体或台阶模型,如8个长方体模型单元组合为2×2×2长方体模型块体,64个长方体模型单元组合为4×4×4长方体模型块体等;随后将不同大小的长方体模型块体分别设置在地下半空间不同位置,再利用本文第1节提供的快速正演方法获取其重力异常及重力梯度异常数据,其中剩余密度大小为1.0 g·cm3;最后对归一化后正演数据作为样本数据集中的输入数据,不同位置处的密度归一化后作为标签.样本数据集总共包含了14696对不同组合模型块体正演数据,单个样本数据输入端包含7个通道,即ΔgUxxUxyUxzUyyUyzUzz异常,数据规格为41×41×7,输出端为40×40×20,即地下半空间长方体模型单元的个数.

由于重力异常及重力梯度异常的正演为线性关系(式(1)—(7)),故可利用已正演的样本数据进行不同密度大小的样本数据扩充,如本文剩余密度大小为-1.0 g·cm3的样本数据是直接扩充而获取的,加上正演数据集,共计29392个样本数据.将样本数据划分为训练数据、测试数据以及验证数据,其对应比为18 ∶ 1 ∶ 1,即训练数据集包含26452个样本数据,而验证和测试集各有1470个样本数据.

训练轮数为100,每次训练后进行一次验证,图 6所示为本文所提GraInvNet网络的训练误差与验证误差,可以看出,模型训练良好,未出现过欠拟合.

图 6 GraInvNet训练误差及验证误差 Fig. 6 Training error and validation error of GraInvNet
3.2 组合模型一

长方体组合模型一由4个不同大小长方体模型组成,如图 7所示,长方体剩余密度都为1.0 g·cm-3. 其余参数见表 1.利用文中已训练完成的GraInvNet网络对组合模型一分别进行重力异常反演、重力异常与部分重力梯度异常联合反演以及重力异常与全部重力梯度异常联合反演的三种反演方案进行对比,其结果如图 8abc所示.可以看出在无噪声情况下,重力异常反演结果(图 8a)能够"聚焦"于真实模型,表明本文GraInvNet网络不仅可以有效的对重力异常进行反演,而且还说明了对单一块体模型所构建的样本数据集进行训练,可对类似块体的组合模型进行预测,验证了FCN的卷积核具有局部性和权值共享的特点和优势,从而表明了本文GraInvNet网络所具备的泛化性能.但同时也可以看出单独重力异常反演结果的边界不够清晰,而重力异常与部分重力梯度异常组合的多维度信息作为GraInvNet网络的输入端进行反演,其结果(图 8b)拟补了重力异常反演结果边界模糊的劣势,重力异常与全部重力梯度异常的联合反演结果(图 8c)边界更为清晰,精度更高,与理论模型轮廓保持高度一致,说明了基于DL的多维度联合反演精度相比单一的重力异常反演结果精度高.

图 7 组合模型透视图 Fig. 7 Perspective view of combination model
表 1 长方体模型参数 Table 1 Cuboid model parameters
图 8 反演结果三维透视图 (a)、(b)及(c)分别为无噪声情况下Δg、Δg & Uxz & Uyz & Uzz与Δg & 全部分量反演结果,(d)、(e)及(f)分别为含噪声情况下Δg、Δg & Uxz & Uyz & Uzz与Δg & 全部分量反演结果. Fig. 8 3D perspective views of inversion result (a), (b) and (c) are the inversion results of Δg, Δg & Uxz & Uyz & Uzz and Δg & all components in the absence of noise, respectively; (d), (e) and (f) are the inversion results of Δg, Δg & Uxz & Uyz & Uzz and Δg & all components in the presence of noise, respectively.

为了更加贴合实际资料处理,对重力异常及重力梯度异常分别加入其最大值10%的随机噪声,并对其进行反演,结果如图 8def所示.可以看出,含噪声重力异常反演结果(图 8d)虽然可以反映出异常体的位置,但相比无噪声情况下重力异常反演结果(图 8a),其效果较差;含噪声的重力异常与部分重力梯度异常的联合反演结果(图 8e)对比无噪声情况下的反演结果(图 8b)同样受到一定的影响,但联合反演相比单独重力异常反演结果其在边界处的影响更小,联合反演的结果可以准确的反映出异常体的轮廓.含噪声重力异常与全部重力梯度异常的联合反演结果(图 8f)基本上与无噪声情况下的反演结果(图 8c)一致.以上说明了基于DL的多维度联合反演具有一定抗噪声性能,计算稳定性较高.

为了进一步对比三种反演方案的优劣,给出了坐标点(0 km,0 km)至坐标点(4 km,4 km)剖面的切块图(图 9),以及z=0.40~0.45 km反演结果水平切块图(图 10).可以看出无噪声情况下重力异常反演结果纵向分辨率较差(图 9a),横向分辨率相对较好,但也存在边界的模糊性(图 10a,编号为4的异常体).含噪声情况下重力异常反演结果横纵向分辨率都变差,横向的边界不够清晰(图 10d),异常体的纵向埋藏深度出现较大的偏差(图 9d,编号为1和2的异常体).这是由于重力异常为低频信息,同姿态同大小的异常体埋深极为相近时,其在观测面引起的重力异常变化较小,一方面,随机噪声的大小极有可能大于其垂向相邻异常体在观测面上重力异常的变化,从而造成GraInvNet网络预测结果存在深度上的偏差;另一方面如果采用DL去准确区分观测重力异常差异较小的垂向相邻异常体时,则需要更深的网络结构和更高的计算成本;此外,为了防止过拟合则需要更广泛和更充足的样本数据集,从而进一步增加训练难度和成本.因而,为了提高DL的反演的精度,极为有必要增加同姿态同大小异常体位于相近位置时重力场响应的差异.而多维度重力梯度异常和重力异常能够多角度增加异常体响应的辨识度,其全方位的重力场响应数据作为DL的训练样本数据,在一定程度上会减少"盲人摸象"的困境,进一步溯源求真.如图 9be图 10be所示的部分重力梯度异常联合反演结果相比重力异常的反演结果在纵向上的精度大大提高,重力异常与全部重力梯度异常的联合反演结果(图 9cf图 10cf)更为精确,横纵分辨率高.

图 9 反演结果切块图 (a)、(b)及(c)分别为无噪声情况下Δg、Δg & Uxz & Uyz & Uzz与Δg & 全部分量反演结果;(d)、(e)及(f)分别为含噪声情况下Δg、Δg & Uxz & Uyz & Uzz与Δg & 全部分量反演结果;切块线首尾坐标分别为(0 km,0 km)和(4 km,4 km),白色虚线框为模型体的边界位置. Fig. 9 Block diagram of inversion result (a), (b) and (c) are the inversion results of Δg, Δg & Uxz & Uyz & Uzz and Δg & all components in the absence of noise, respectively; (d), (e) and (f) are the inversion results of Δg, Δg & Uxz & Uyz & Uzz and Δg & all components in the presence of noise, respectively; The first and last coordinates of the cutting line are (0 km, 0 km) and (4 km, 4 km), the white dotted box indicates the boundary position of the model.
图 10 z=0.40~0.45 km反演结果切块图 (a)、(b)及(c)分别为无噪声情况下Δg、Δg & Uxz & Uyz & Uzz与Δg & 全部分量反演结果;(d)、(e)及(f)分别为含噪声情况下Δg、Δg & Uxz & Uyz & Uzz与Δg & 全部分量反演结果;白色虚线框为模型体的边界位置. Fig. 10 Block diagram of inversion result at z=0.40~0.45 km (a), (b) and (c) are the inversion results of Δg, Δg & Uxz & Uyz & Uzz and Δg & all components in the absence of noise, respectively; (d), (e) and (f) are the inversion results of Δg, Δg & Uxz & Uyz & Uzz and Δg & all components in the presence of noise, respectively; the white dotted box indicates the boundary position of the model.

为了进一步说明联合反演结果与理论异常的拟合程度,文中分别将无噪声与含噪声数据的反演结果进行正演,其正演重力异常结果与理论异常的残差值如图 11所示,重力异常与重力梯度异常残差的标准差与随机噪声标准差见表 2.无噪声情况下重力异常差值的最大最小值分别为0.912、0.015 mGal,含噪声情况下重力异常差值的最大最小值分别为1.613、0.008 mGal,经对比分析各分量的方差及标准差,表明文中所述反演方法的精度高.

图 11 重力理论异常与预测结果正演的残差 (a)无噪声情况; (b)含噪声情况. Fig. 11 The residuals of theoretical gravity anomaly and forward value of prediction result (a) Free noise situation; (b) Noise situation.
表 2 理论异常最大最小值、反演结果拟合残差的标准差及随机噪声标准差 Table 2 The maximum and minimum value of theoretical anomaly, the standard deviation of the fitting residuals of inversion result and random noise
3.3 组合模型二

组合模型二为四层台阶与长方体的组合模型,如图 12所示,其中四层台阶模型的每层台阶大小相同都为1.4 km×0.6 km×0.15 km,每层台阶的中心坐标分别为(2.0 km, 0.9 km, 0.275 km)、(2.0 km, 1.2 km, 0.425 km)、(2.0 km, 1.5 km, 0.575 km)及(2.0 km, 1.8 km, 0.725 km),长方体大小为0.8 km×0.5 km×0.3 km,长方体顶面埋深为0.2 km,中心点坐标为(2.0 km, 3.05 km, 0.35 km),四层台阶与长方体剩余密度都为1.0 g·cm-3.组合模型二相比组合模型一的变化是加入新类型模型——台阶,以及样本数据集中未包含的长方体模型.利用本文的GraInvNet网络对组合模型二的重力异常及全部重力梯度异常进行联合反演,其结果如图 13所示,可以看出台阶模型的反演结果与真实模型高度吻合,其幅值在深部处略有差别(图 13c), 长方体模型在深部的幅值也略有差别(图 13ef),其余部分也与理论模型高度吻合.表明GraInvNet网络可以对与样本模型相似组合模型的异常体进行精确定位,同时也可以准确地预测出模型值的大小,表明其反演能力很好.为了更加直观地了解反演结果中异常体的位置、形状和物性值,图 13abcd分别给出不同方向的反演切块图,可以看出反演结果与真实模型的边界及形状吻合,并且反演结果的幅值大小也与已知模型接近.

图 12 组合模型透视图 Fig. 12 Perspective view of combination model
图 13 无噪声反演结果 (a)、(b)、(c)及(d)分别为y=1.3~1.4 km、x=1.9~2.0 km、x=2.5~2.6 km及z=0.35~0.4 km的反演结果切块图,白色虚线框为模型体的边界位置,(e)、(f)为剩余密度大于0.1 g·cm-3的三维透视图. Fig. 13 Inversion result in the absence of noise (a), (b), (c) and (d) are block diagrams of inversion results at y=1.3~1.4 km, x=1.9~2.0 km, x=2.5~2.6 km and z=0.35~0.4 km respectively, the white dotted box indicates the boundary position of the model, (e) and (f) are the threedimensional perspectives, where residual density is greater than 0.1 g·cm-3.

同时为了更加贴合实际资料处理,对重力异常及重力梯度异常分别加入其最大值10%的随机噪声,再对其进行反演,结果如图 14所示.可以看出,除去异常体部分边界位置的幅值略有差异(图 14cef),其余部分也与理论模型高度吻合,表明GraInvNet网络反演的稳定性较高,具有一定的抗噪声能力.

图 14 含噪声反演结果图 (a)、(b)、(c)及(d)分别为y=1.3~1.4 km、x=1.9~2.0 km、x=2.5~2.6 km及z=0.35~0.4 km的反演结果切块图,白色虚线框为模型体的边界位置,(e)、(f)为剩余密度大于0.1 g·cm-3的三维透视图. Fig. 14 Inversion result in the presence of noise (a), (b), (c) and (d) are block diagrams of inversion results at y=1.3~1.4 km、x=1.9~2.0 km、x=2.5~2.6 km and z=0.35~ 0.4 km respectively, the white dotted box indicates the boundary position of the model, (e) and (f) are the three-dimensional perspectives, where residual density is greater than 0.1 g·cm-3.

为了进一步说明联合反演结果与理论异常的拟合程度,文中分别将无噪声与含噪声数据的反演结果进行正演,其正演重力异常结果与理论异常的残差值如图 15所示,重力异常与重力梯度异常残差的标准差与随机噪声标准差见表 3.无噪声情况下重力异常差值的最大最小值分别为0.985、0.012 mGal,含噪声情况下重力异常差值的最大最小值分别为2.975、-0.864 mGal,经对比分析各分量的标准差与理论异常的大小,表明文中所述反演方法的精度高.

图 15 重力理论异常与预测结果正演的残差 (a)无噪声情况; (b)含噪声情况. Fig. 15 The residuals of theoretical gravity anomaly and forward value of prediction result (a) Free noise situation; (b) Noise situation.
表 3 理论异常最大最小值、反演结果拟合残差的标准差及随机噪声标准差 Table 3 The maximum and minimum value of theoretical anomaly, the standard deviation of the fitting residuals of inversion result and random noise
4 实际数据反演

采用本文的方法对美国路易斯安那州西南部Vinton盐丘的地面重力异常和航空重力梯度异常数据进行反演.盐丘构造的研究对于寻找油气区带及封闭圈具有非常重要的作用(贾承造等, 2003).Vinton盐丘是一个位于新生代和中生带晚期页岩砂岩中的浅层刺穿盐丘,是由一定规模的盐核和其顶部的盐丘帽组成,盐丘帽是由石灰岩、石膏、硬石膏和黏土组成(Coker et al., 2007).有较多钻孔穿过该盐丘,盐丘的成分、物性大小、空间分布状态资料较为详细(Ennen, 2012),因此,该地区的重力数据也被诸多学者用于检验重力数据处理方法的效果(Yuan et al., 2013; 秦朋波和黄大年, 2016).

盐丘帽埋深大约位于地下200~650 m之间,密度为2.75 g·cm-3,周围围岩密度约为2.2 g·cm-3. 因此,选择2.2 g·cm-3的密度对85 m高空处的FTG数据进行地形改正,以及对高频噪声进行抑制,其结果如图 16abcdef所示,同时采用插值分割法(徐世浙等, 2009)对地面重力异常数据进行局部重力异常的提取,其结果如图 16g所示,以上预处理结果可以认为是由0.55 g·cm-3的剩余密度所产生.图中观测区大小为4.0 km×4.0 km,数据点距为100 m×100 m,共41×41个点,将地下半空间划分为40×40×20个长方体模型单元,其大小为100 m×100 m×50 m.

图 16 Vinton岩丘实测重力数据 (a)、(b)、(c)、(d)、(e)、(f)及(g)分别对应UxxUxyUxz、ΔUyyUyzUzz与Δg分量. Fig. 16 The measured gravity data of Vinton salt dome (a), (b), (c), (d), (e), (f) and (g) correspond to Uxx, Uxy, Uxz, ΔUyy, Uyz, Uzz and Δg components respectively.

根据已知情况,并利用本文所提的GraInvNet网络对图 16所示的数据进行预测,该过程对反演密度进行了约束,其范围为:-0.2~0.55 g·cm-3.最终反演结果如图 17所示,从图 17ab可以看出岩丘帽中心深度大约为500 m,深度范围在300~700 m之间,东西向长约为1.2 km,南北向长约为1.1 km,这一结果与已知的地质信息较为吻合(Thompson and Eichelberger, 1928).从三维透视图(图 17cd)可以看出高密度的物性分布更为"聚焦",近似为不规则椭球体,低密度至高密度过渡带范围较小,约为100 m间隔,表明密度较大值占反演结果的主要分布范围.

图 17 Vinton岩丘实测数据反演结果 (a)与(b)分别为南北向1.6~1.7 km与东西向1.9~2.0 km的反演结果切片图;(c)为反演密度分别为0.45、0.2 g·cm-3的包络曲面图;(d)为反演结果在深度方向上切片图,切片深度为250 m变化至650 m,间隔100 m. Fig. 17 Inversion results of the measured data of Vinton salt dome (a) and (b) are slice maps of inversion results in north-south direction of 1.6~1.7 km and east-west direction of 1.9~2.0 km respectively; (c) is the envelope surface with inversion density of 0.45 and 0.2 g·cm-3 respectively; (d) is slice map of inversion results in depth direction with slice depth from 250 m to 650 m and interval of 100 m.
5 结论与讨论

本文提出一种基于DL的重力异常及重力梯度异常联合反演的新方法,该方法对应的DL网络结构称为GraInvNet.本文首先提出了一种快速正演计算方法对GraInvNet网络所需要的样本数据集进行高效构建,从而提高DL反演的实用性;然后,将样本数据输入到GraInvNet网络,以此来学习从正演数据到模型的复杂映射关系.在训练阶段,根据损失函数值与验证值的变化来优化网络结构、正则化方案等;最后,通过已训练完成的GraInvNet网络进行反演预测,此阶段可以达到高效的计算速度,通常几十毫秒就可完成.

组合模型一为样本数据集相同模型的组合,重力异常的反演结果能够"聚焦"于真实模型,且采用单一块体模型所构建的样本数据集对GraInvNet网络进行训练,该网络可对类似块体的组合模型进行预测,表明基于DL的重力异常反演所具有的可行性,以及本文GraInvNet网络所具有的较强泛化性.随着多维度重力梯度异常信息的加入,GraInvNet网络的反演结果精度显著提升,含噪数据试验表明GraInvNet网络具有较强的抗噪声性能.组合模型二为样本数据集的类型模型,GraInvNet网络的反演结果与理论模型高度一致,表明本文反演方法具有较强的泛化性能和鲁棒性.将文中的方法应用于实测的航空重力梯度异常和地面重力异常的联合反演,其结果与已知的地质情况吻合,表明本文的反演方法可以应用于实际数据.

基于DL的重力反演实质上是利用FCN方法对地下半空间的剩余密度体的位置及物性大小进行分类预测,其"端到端"的网络结构也可以应用到其他地球物理反演中,如磁及磁梯度反演、电磁反演及面波波速反演等.另一方面,由于地球物理反演的复杂性,DL反演方法需具有的普适性在于如何构建一个足量的、多样性的、代表性的高质量样本数据集,然而,这势必会引起网络复杂度与计算量增加.因此,在下一步工作中,我们将进一步增加样本的多样性来提升复杂地质模型的反演效果,同时对网络结构与节点超参数进一步优化来提高训练效率和反演精度,从而使得基于DL学习的重力反演方法更加普适化与智能化.

致谢  感谢Bell Geospace公司提供Vinton岩丘实测重力数据.非常感谢匿名审稿专家对论文提出的宝贵修改建议.
References
Al-Garni M A. 2009. Interpretation of some magnetic bodies using neural networks inversion. Arabian Journal of Geosciences, 2(2): 175-184. DOI:10.1007/s12517-008-0026-9
Al-Garni M A. 2013. Inversion of residual gravity anomalies using neural network. Arabian Journal of Geosciences, 6(5): 1509-1516. DOI:10.1007/s12517-011-0452-y
Al-Garni M A. 2015. Interpretation of magnetic anomalies due to dipping dikes using neural network inversion. Arabian Journal of Geosciences, 8(10): 8721-8729. DOI:10.1007/s12517-014-1770-7
Barak S, Abedi M, Bahroudi A. 2020. A knowledge-guided fuzzy inference approach for integrating geophysics, geochemistry and geology data in a deposit-scale porphyry copper targeting, Saveh, Iran. Bollettino di Geofisica Teorica ed Applicata, 61(2): 159-176. DOI:10.4430/bgta0302
Barbosa V C F, Silva J B C. 1994. Generalized compact gravity inversion. Geophysics, 59(1): 57-68. DOI:10.1190/1.1443534
Boureau Y L, Ponce J, LeCun Y. 2010. A theoretical analysis of feature pooling in visual recognition. //Proceeding of the 27th International Conference on Machine Learning, Haifa, Israel, 111-118.
Chan B H, Deng W H, Du J P. 2017. Noisy softmax: improving the generalization ability of DCNN via postponing the early softmax saturation. //2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). Honolulu, HI, USA: IEEE.
Chasseriau P, Chouteau M. 2003. 3D gravity inversion using a model of parameter covariance. Journal of Applied Geophysics, 52(1): 59-74. DOI:10.1016/S0926-9851(02)00240-9
Coker M O, Bhattacharya J P, Marfurt K J. 2007. Fracture patterns within mudstones on the flanks of a salt dome: syneresis or slumping?. Gulf Coast Association of Geological Societies Transaction, 57: 125-137.
Commer M. 2011. Three-dimensional gravity modelling and focusing inversion using rectangular meshes. Geophysical Prospecting, 59(5): 966-979. DOI:10.1111/j.1365-2478.2011.00969.x
Dai S H, Li X Y, Yu H Y, et al. 2010. A new method of identifying the atypical gas reservoir based on the classification model of decision tree. Progress in Geophysics (in Chinese), 25(3): 885-890. DOI:10.3969/j.issn.1004-2903.2010.03.022
Deng L, Li J Y, Huang J T, et al. 2013. Recent advances in deep learning for speech research at microsoft. //2013 IEEE International Conference on Acoustics, Speech and Signal Processing. Vancouver, BC, Canada: IEEE, 8604-8608.
Dias F J S S, Barbosa V C F, Silva J B C. 2009. 3D gravity inversion through an adaptive-learning procedure. Geophysics, 74(3): I9-I21. DOI:10.1190/1.3092775
Dias F J S S, Barbosa V C F, Silva J B C. 2011. Adaptive learning 3D gravity inversion for salt-body imaging. Geophysics, 76(3): I49-I57. DOI:10.1190/1.3555078
Ennen C. 2012. Mapping gas-charged fault blocks around the Vinton Salt Dome, Louisiana using gravity gradiometry data[Master's thesis]. Houston: University of Houston.
Fedi M, Hansen P C, Paoletti V. 2005. Analysis of depth resolution in potential-field inversion. Geophysics, 70(6): A1-A11. DOI:10.1190/1.2122408
Fregoso E, Gallardo L A. 2009. Cross-gradients joint 3D inversion with applications to gravity and magnetic data. Geophysics, 74(4): L31-L42. DOI:10.1190/1.3119263
Gallardo L A, Meju M A. 2003. Characterization of heterogeneous near-surface materials by joint 2D inversion of DC resistivity and seismic data. Geophysical Research Letters, 30(13): 1658. DOI:10.1029/2003GL017370
Gao X H, Huang D N, Sun S Y, et al. 2017. Identify the dip angle of the dipping dike model based on cokriging inversion of gravity gradient data. Journal of Jilin University (Earth Science Edition) (in Chinese), 47(2): 589-596. DOI:10.13278/j.cnki.jjuese.201702302
Geng M X, Huang D N, Yang Q J, et al. 2014. 3D inversion of airborne gravity-gradiometry data using cokriging. Geophysics, 79(4): G37-G47. DOI:10.1190/geo2013-0393.1
Girshick R, Donahue J, Darrell T, et al. 2014. Rich feature hierarchies for accurate object detection and semantic segmentation. //Proceedings of the 2014 IEEE Conference on Computer Vision and Pattern Recognition. Columbus, OH, USA: IEEE, 580-587.
Guillen A, Menichetti V. 1984. Gravity and magnetic inversion with minimization of a specific functional. Geophysics, 49(8): 1354-1360. DOI:10.1190/1.1441761
Guo R W, Dosso S E, Liu J X, et al. 2011. Non-linearity in Bayesian 1-D magnetotelluric inversion. Geophysics Journal International, 185(2): 663-675. DOI:10.1111/j.1365-246X.2011.04996.x
He K M, Zhang X Y, Ren S Q, et al. 2016. Deep residual learning for image recognition. //Proceedings of the 2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas, NV, USA: IEEE, 770-778.
Hinton G, Salakhutdinov R. 2006. Reducing the dimensionality of data with neural networks. Science, 313(5786): 504-507. DOI:10.1126/science.1127647
Hinton G, Deng L, Yu D, et al. 2012a. Deep neural networks for acoustic modeling in speech recognition: the shared views of four research groups. IEEE Signal Processing Magazine, 29(6): 82-97. DOI:10.1109/MSP.2012.2205597
Hinton G E, Srivastava N, Krizhevsky A, et al. 2012b. Improving neural networks by preventing co-adaptation of feature detectors. https: //arxiv.org/pdf/1207.0580v1.pdf. 2012b-07-03.
Hornik K, Stinchcombe M, White H. 1989. Multilayer feedforward networks are universal approximators. Neural Networks, 2(5): 359-366. DOI:10.1016/0893-6080(89)90020-8
Ioffe S, Szegedy C. 2015. Batch normalization: Accelerating deep network training by reducing internal covariate shift. //Proceedings of the 32nd International Conference on Machine Learning. Lille, France: JMLR. org.
Jia C Z, Zhao W Z, Wei G Q, et al. 2003. Salt structures and exploration of oil and gas. Petroleum Exploration and Development (in Chinese), 30(2): 17-19. DOI:10.3321/j.issn:1000-0747.2003.02.003
Jiang F B, Dai Q W, Dong L. 2016. Nonlinear inversion of electrical resistivity imaging using pruning Bayesian neural networks. Applied Geophysics, 13(2): 267-278. DOI:10.1007/s11770-016-0561-1
Jin K H, McCann M T, Froustey E, et al. 2017. Deep convolutional neural network for inverse problems in imaging. IEEE Transactions on Image Processing, 26(9): 4509-4522. DOI:10.1109/TIP.2017.2713099
Jupp D L B, Vozoff K. 1977. Resolving anisotropy in layered media by joint inversion. Geophysical Prospecting, 25(3): 460-470. DOI:10.1111/j.1365-2478.1977.tb01181.x
Kim Y, Nakata N. 2018. Geophysical inversion versus machine learning in inverse problems. The Leading Edge, 37(12): 894-901. DOI:10.1190/tle37120894.1
Kingma D P, Ba J. 2014. Adam: a method for stochastic optimization. https: //arxiv.org/pdf/1412.6980v9.pdf. 2014-12-22.
Krizhevsky A, Sutskever I, Hinton G E. 2017. Imagenet classification with deep convolutional neural networks. Communications of the ACM, 60(6): 84-90. DOI:10.1145/3065386
Last B J, Kubik K. 1983. Compact gravity inversion. Geophysics, 48(6): 713-721. DOI:10.1190/1.1441501
LeCun Y, Bengio Y, Hinton G. 2015. Deep learning. Nature, 521(7553): 436-444. DOI:10.1038/nature14539
Li M, Li Y, Wu N, et al. 2020a. Desert seismic random noise reduction framework based on improved PSO-SVM. Acta Geodaetica et Geophysica, 55(1): 101-117. DOI:10.1007/s40328-019-00283-3
Li S C, Liu B, Ren Y X, et al. 2020b. Deep-learning inversion of seismic data. IEEE Transactions on Geoscience and Remote Sensing, 58(3): 2135-2149. DOI:10.1109/TGRS.2019.2953473
Li X, Chouteau M. 1998. Three-dimensional gravity modeling in all space. Surveys in Geophysics, 19(4): 339-368. DOI:10.1023/A:1006554408567
Li Y G, Oldengburg D W. 1998. 3-D inversion of gravity data. Geophysics, 63(1): 109-119. DOI:10.1190/1.1444302
Liu B, Guo Q, Li S C, et al. 2020. Deep learning inversion of electrical resistivity data. IEEE Transactions on Geoscience and Remote Sensing, 58(8): 5715-5728. DOI:10.1109/TGRS.2020.2969040
Liu S, Jin S G. 2020. 3-D Gravity anomaly inversion based on improved guided fuzzy C-Means clustering algorithm. Pure and Applied Geophysics, 117(2): 1005-1027. DOI:10.1007/s00024-019-02306-0
Long J, Shelhamer E, Darrell T. 2015. Fully convolutional networks for semantic segmentation. //2015 IEEE Conference on Computer Vision and Pattern Recognition. Boston, MA, USA: IEEE, 3431-3440.
Lu W T, Qian J J. 2015. A local level-set method for 3D inversion of gravity-gradient data. Geophysics, 80(1): G35-G51. DOI:10.1190/geo2014-0188.1
Luo W J, Li Y J, Urtasun R, et al. 2017. Understanding the effective receptive field in deep convolutional neural networks. https: //arxiv.org/pdf/1701.04128v2.pdf. 2017-01-15.
Martinez C, Li Y G, Krahenbuhl R, et al. 2013. 3D inversion of airborne gravity gradiometry data in mineral exploration: A case study in the Quadrilátero Ferrifero, Brazil. Geophysics, 78(1): B1-B11. DOI:10.1190/geo2012-0106.1
Moseley B, Nissen-Meyer T, Markham A. 2019. Deep learning for fast simulation of seismic waves in complex media. https: //www.solid-earth-discuss.net/se-2019-157/se-2019-157.pdf. 2019-11-13.
Neyamadpour A, Wan Abdullah W A T, Taib S, et al. 2010. 3D inversion of DC data using artificial neural networks. Studia Geophysica et Geodaetica, 54(3): 465-485. DOI:10.1007/s11200-010-0027-5
Noh K, Yoon D, Byun J. 2020. Imaging subsurface resistivity structure from airborne electromagnetic induction data using deep neural network. Exploration Geophysics, 51(2): 214-220. DOI:10.1080/08123985.2019.1668240
Portniaguine O, Zhdanov M S. 1999. Focusing geophysical inversion images. Geophysics, 64(3): 874-887. DOI:10.1190/1.1444596
Puzyrev V. 2019. Deep learning electromagnetic inversion with convolutional neural networks. Geophysical Journal International, 218(2): 817-832. DOI:10.1093/gji/ggz204
Puzyrev V, Swidinsky A. 2020. Inversion of 1D frequency-and time-domain electromagnetic data with convolutional neural networks. Computers & Geosciences, 29: 104681. DOI:10.1016/j.cageo.2020.104681
Qin P B, Huang D N, Yuan Y, et al. 2016. Integrated gravity and gravity gradient 3D inversion using the non-linear conjugate gradient. Journal of Applied Geophysics, 126: 52-73. DOI:10.1016/j.jappgeo.2016.01.013
Qin P B, Huang D N. 2016. Integrated gravity and gravity gradient data focusing inversion. Chinese Journal of Geophysics (in Chinese), 59(6): 2203-2224. DOI:10.6038/cjg20160624
Russakovsky O, Deng J, Su H, et al. 2015. ImageNet large scale visual recognition challenge. International Journal of Computer Vision, 11(3): 211-252. DOI:10.1007/s11263-015-0816-y
Schmidhuber J. 2015. Deep learning in neural networks: an overview. Neural Networks, 61: 85-117. DOI:10.1016/j.neunet.2014.09.003
Shamsipour P, Marcotte D, Chouteau M, et al. 2010. 3D stochastic inversion of gravity data using cokriging and cosimulation. Geophysics, 75(1): I1-I10. DOI:10.1190/1.3295745
Shi Y Z, Wu X M, Fomel S. 2019. SaltSeg: Automatic 3D salt segmentation using a deep convolutional neural network. Interpretation, 7(3): SE113-SE122. DOI:10.1190/INT-2018-0235.1
Shu Q, Zhu X Y, Zhou J X, et al. 2015. Forward modeling expressions for right rectangular prism with constant density. Geophysical and Geochemical Exploration (in Chinese), 39(6): 1217-1222. DOI:10.11720/wtyht.2015.6.20
Silva J B C, Barbosa V C F. 2006. Interactive gravity inversion. Geophysics, 71(1): 696-699.
Srivastava N, Hinton G, Krizhevsky A, et al. 2014. Dropout: a simple way to prevent neural networks from overfitting. The Journal of Machine Learning Research, 15(1): 1929-1958.
Sun H Y, Demanet L. 2020. Extrapolated full-waveform inversion with deep learning. Geophysics, 85(3): R275-R288. DOI:10.1190/geo2019-0195.1
Sun J J, Li Y G. 2015. Multidomain petrophysically constrained inversion and geology differentiation using guided fuzzy c-means clustering. Geophysics, 80(4): ID1-ID18. DOI:10.1190/geo2014-0049.1
Thompson S A, Eichelberger O H. 1928. Vinton salt dome, Calcasieu Parish, Louisiana. AAPG Bulletin, 12(4): 385-394.
Wang H, Liu M L, Xi Z Z, et al. 2018. Magnetotelluric inversion based on BP neural network optimized by genetic algorithm. Chinese Journal of Geophysics (in Chinese), 61(4): 1563-1575. DOI:10.6038/cjg2018L0064
Wang H, Yan Y J, Fu G M, et al. 2020. Current status and application prospect of deep learning in geophysics. Progress in Geophysics (in Chinese), 35(2): 642-655. DOI:10.6038/pg2020CC0476
Wang W Y, Pan Y, Qiu Z Y. 2009. A new edge recognition technology based on the normalized vertical derivative of the total horizontal derivative for potential field data. Applied Geophysics, 6(3): 226-233. DOI:10.1007/s11770-009-0026-x
Wang W Y, Zhang G C, Liang J S. 2010. Spatial variation law of vertical derivative zero points for potential field data. Applied Geophysics, 7(3): 197-209. DOI:10.1007/s11770-010-0255-z
Wang W Y. 2010. Spatial variation law of the extreme value positions of total horizontal derivative for potential field data. Chinese Journal of Geophysics (in Chinese), 53(9): 2257-2270. DOI:10.3969/j.issn.0001-5733.2010.09.027
Wu L, Ke X P, Hsu H, et al. 2013. Joint gravity and gravity gradient inversion for subsurface object detection. IEEE Geoscience and Remote Sensing Letters, 10(4): 865-869. DOI:10.1109/LGRS.2012.2226427
Xi X, Huang J Q. 2018. Deep learning inversion imaging method for scattered wavefield. Progress in Geophysics (in Chinese), 33(6): 2483-2489. DOI:10.6038/pg2018BB0531
Xu B, Wang N Y, Chen T Q, et al. 2015. Empirical evaluation of rectified activations in convolutional network. https: //arxiv.org/abs/1505.00853. 2015-05-15.
Xu S Z, Yu H L, Li H X, et al. 2009. The inversion of apparent density based on the separation and continuation of potential field. Chinese Journal of Geophysics (in Chinese), 52(6): 1592-1598. DOI:10.3969/j.issn.0001-5733.2009.06.021
Yao C L, He T Z, Guan Z N, et al. 2003. High-speed computation and efficient storage in-3D gravity and magnetic inversion based on genetic algorithms. Chinese Journal of Geophysics (in Chinese), 46(2): 252-258.
Yin C C, Qi Y F, Liu Y H, et al. 2014. Trans-dimensional Bayesian inversion of frequency-domain airborne EM data. Chinese Journal of Geophysics (in Chinese), 57(9): 2971-2980. DOI:10.6038/cjg20140922
Zhang C Y, Bengio S, Hardt M, et al. 2018. Understanding deep learning requires rethinking generalization. //Proceedings of the 5th International Conference on Learning Representations. Toulon, France: OpenReview. net.
Zhang Q, Zhou Y Z. 2017. Big data will lead to a profound revolution in the field of geological science. Chinese Journal of Geology (in Chinese), 52(3): 637-648. DOI:10.12017/dzkx.2017.041
Zhang Z D, Alkhalifah T. 2019. Regularized elastic full-waveform inversion using deep learning. Geophysics, 84(5): R741-R751. DOI:10.1190/geo2018-0685.1
Zhdanov M S, Robert E, Souvik M. 2004. Three-dimensional regularized focusing inversion of gravity gradient tensor component data. Geophysics, 69(4): 925-937. DOI:10.1190/1.1778236
Zhdanov M S. 2009. New advances in regularized inversion of gravity and electromagnetic data. Geophysical Prospecting, 57(4): 463-478. DOI:10.1111/j.1365-2478.2008.00763.x
Zhdanov M S, Gribenko A, Wilson G. 2012. Generalized joint inversion of multimodal geophysical data using Gramian constraints. Geophysical Research Letters, 39(9): L09301. DOI:10.1029/2012GL051233
戴诗华, 李雄炎, 于红岩, 等. 2010. 一种识别非典型气层的新方法——决策树的分类模型. 地球物理学进展, 25(3): 885-890. DOI:10.3969/j.issn.1004-2903.2010.03.022
高秀鹤, 黄大年, 孙思源, 等. 2017. 重力梯度数据协克里金三维反演确定岩脉倾向. 吉林大学学报(地球科学版), 47(2): 589-596. DOI:10.13278/j.cnki.jjuese.201702302
贾承造, 赵文智, 魏国齐, 等. 2003. 盐构造与油气勘探. 石油勘探与开发, 30(2): 17-19. DOI:10.3321/j.issn:1000-0747.2003.02.003
秦朋波, 黄大年. 2016. 重力和重力梯度数据联合聚焦反演方法. 地球物理学报, 59(6): 2203-2224. DOI:10.6038/cjg20160624
舒晴, 朱晓颖, 周坚鑫, 等. 2015. 矩形棱柱体重力梯度张量异常正演计算公式. 物探与化探, 39(6): 1217-1222. DOI:10.11720/wtyht.2015.6.20
王鹤, 刘梦琳, 席振铢, 等. 2018. 基于遗传神经网络的大地电磁反演. 地球物理学报, 61(4): 1563-1575. DOI:10.6038/cjg2018L0064
王昊, 严加永, 付光明, 等. 2020. 深度学习在地球物理中的应用现状与前景. 地球物理学进展, 35(2): 642-655. DOI:10.6038/pg2020CC0476
王万银. 2010. 位场总水平导数极值位置空间变化规律研究. 地球物理学报, 53(9): 2257-2270. DOI:10.3969/j.issn.0001-5733.2010.09.027
奚先, 黄江清. 2018. 散射波场的深度学习反演成像法. 地球物理学进展, 33(6): 2483-2489. DOI:10.6038/pg2018BB0531
徐世浙, 余海龙, 李海侠, 等. 2009. 基于位场分离与延拓的视密度反演. 地球物理学报, 52(6): 1592-1598. DOI:10.3969/j.issn.0001-5733.2009.06.021
姚长利, 郝天珧, 管志宁, 等. 2003. 重磁遗传算法三维反演中高速计算及有效存储方法技术. 地球物理学报, 46(2): 252-258. DOI:10.3321/j.issn:0001-5733.2003.02.020
殷长春, 齐彦福, 刘云鹤, 等. 2014. 频率域航空电磁数据变维数贝叶斯反演研究. 地球物理学报, 57(9): 2971-2980. DOI:10.6038/cjg20140922
张旗, 周永章. 2017. 大数据正在引发地球科学领域一场深刻的革命——《地质科学》2017年大数据专题代序. 地质科学, 52(3): 637-648. DOI:10.12017/dzkx.2017.041