总体最小二乘(TLS)方法能够同时考虑观测向量和系数矩阵的误差，相比最小二乘方法可以得到更加可靠的解算结果。当系数矩阵的列向量间呈近似线性相关时，观测量的微小变化会引起解的巨大波动，截断奇异值法^[1]和Tikhonov正则化^[2]是解决此类问题的有效方法。根据文献[3]，TLS的求解过程为一个降正则化过程，因此在TLS解算中，系数矩阵的病态不仅导致求解参数的不稳定，并且随着病态性的加强，其求解的不稳定性也逐步增大^[4]。文献[2]提出TLS的正则化解，给出取不同约束参数时正则化总体最小二乘解(RTLS)与TLS解的关系。文献[5]将RTLS的求解转换为求矩阵的特征向量问题，并给出RTLS的迭代解法。文献[6]将RTLS问题转换成一个闭区间内的单变量函数的最小化问题。文献[7]采用岭估计方法解决加权总体最小二乘平差的病态性问题。文献[8]根据广义最小二乘原理，得到病态总体最小二乘平差的虚拟观测法。文献[9]基于Tikhonov正则化原理，推导了等权条件下病态总体最小二乘的迭代解法。文献[10]基于L曲线法提出解病态总体最小二乘的广义正则化方法。文献[4]推导了基于误差限的TLS正则化算法。文献[7-8]对病态总体最小二乘的处理均是基于经典测量平差理论，与文献[11]提出的最小二乘正则化L曲线法相比，其解算精度并无明显提高。文献[4, 9-10]均是基于Tikhonov正则化原理得到RTLS解，然而，利用单一的Tikhonov正则化算法会造成求解过度平滑，以致得不到稳定、精确的解。

总变差(TV)正则化可以更有效地抵抗噪声。文献[12-13]利用Tikhonov正则化和TV正则化分别反演电离层电子密度。文献[14]给出了病态最小二乘的TV正则化迭代算法。

本文基于文献[15]提出的最小-最大残差法，并结合文献[12-14]提出的TV正则化算法，推导了一种基于Tikhonov正则化和总变差正则化组合的混合正则化算法。最后通过算例说明本文所提方法的可行性和有效性。

1 混合正则化方法 1.1 总体最小二乘的正则化

设线性平差模型为:

(1)

式中, b为观测向量；e_b为观测向量对应的随机误差向量；A为系数矩阵；E_A为系数矩阵A的随机误差矩阵，且e_A=vec(E_A)，vec(·)为拉直运算；x为未知参数向量。当系数矩阵的列向量间存在复共线性时，观测量出现的轻微扰动会造成总体最小二乘解的极大变化，使得解不稳定，因此有必要研究病态TLS的数据处理问题。

文献[4]利用最小-最大残差法推导了总体最小二乘的正则化算法。当设计矩阵和观测向量的误差上限已知时，RTLS的平差准则可表示为:

(2)

式中，ΔA、Δ b分别为系数矩阵和观测向量的随机误差；L为正则化约束条件的系数矩阵，通常是一阶或二阶差分算子；δ为正常数；η、η_b分别为系数矩阵和观测向量的误差上限值。

针对有界不确定性观测数据进行平差，文献[15]建立了min-max平差准则:

(3)

根据范数的性质，有:

(4)

由式(3)和式(4)可知:

(5)

根据式(3)和式(5)，不确定性min-max平差准则可以转换成另一形式的平差准则:

(6)

则式(2)可等价转换为:

(7)

目标函数式为:

(8)

将式(8)对x求导并令其等于0，可得:

(9)

式中,

(10)

1.2 混合正则化算法

本文将Tikhonov正则化和TV正则化两种方法有效结合，推导出一种新的混合正则化算法。其约束条件式表示为:

(11)

目标函数式为:

(12)

式中，α、β为正则化参数。由于TV(x)不可微，因此对于二维连续总变差泛函，TV(x)近似表示为:

(13)

对于三维情形，TV(x)表示为:

(14)

式中，N_s、N_t和N_z分别为沿x、y和z方向的网格数；D_s、D_t和D_z分别为x、y和z方向的一阶或二阶差分算子:水平方向上D_sx= x_{s+1, t, z}－x_{s, t, z}，D_tx=x_{s, t+1, z}－x_{s, t, z}，垂直方向上D_zx=x_{s, t, z+1}－x_{s, t, z}；ι为一小的正数。

根据文献[16]，将式(13)、式(14)转化为l²范数正则化项，可记为:

(15)

对于二维情形，对于三维情形

将式(12)对x求导并令其等于0，可得:

(16)

整理得:

(17)

(18)

式中,

(19)

正则化参数α、β可由最大验后估计法确定:

(20)

本文所提方法的迭代步骤如下：

1) 利用最小二乘法求得参数x_LS作为迭代的初值。

2) 确定系数矩阵误差上限值η。当系数矩阵和观测向量的真值已知时，经计算可以获得相应的误差上限值；当系数矩阵和观测向量的真值未知时，可根据仪器标称精度确定误差上限。

3) 根据式(20)计算正则化参数α、β。

4) 利用初始值、误差上限值及正则化参数α、β，根据式(19)分别求解λ_I、λ_L和λ_D的初值。

5) 利用式(18)计算正则化总体最小二乘解x_RTLS。

6) 重复步骤4)、5)，直至‖ x ^(k+1)－x^(k)‖＜ε, 迭代终止。

2 算例分析

模型的系数矩阵和观测向量数据见文献[17]，待求参数5个，真值均为1。用Matlab分别对观测向量b和设计矩阵A的每个元素添加均值为0、方差为σ²的随机误差，即e_b~N(0, σ²I)，e_A=vec(E_A)~N(0, σ²I_n⊗I_m)，其中σ=0.1。加入随机误差的系数矩阵和观测向量为:

法方程条件数cond(A^TA)=2.083 7×10⁴，系数矩阵严重病态。经计算，‖δA ‖₂=0.427 5＜0.5，‖δb ‖₂=0.231 9＜0.25，因此设η=0.5，η_b=0.25。为了比较不同情况下解的差异，分别采用最小二乘法(LS)、正则化最小二乘法(RLS)、总体最小二乘法(TLS)、正则化总体最小二乘法^[18](RTLS)、文献[4]提出的误差限病态总体最小二乘法(简称葛旭明法)和本文方法进行参数解算，并计算不同方法所得结果与真值的差值范数和相对偏差范数总变差正则化参数D选为一阶偏导矩阵^[16]，结果见表 1。

1) 当系数矩阵A病态时，总体最小二乘解与真值的差值范数为6.719 0，较最小二乘解与真值的差值范数1.308 8要大，说明总体最小二乘解受病态影响更为严重。

2) RTLS解与真值的差值范数为0.829 0，较RLS解与真值的差值范数0.855 8无明显提高，这主要是因为在计算过程中，正则化约束系数矩阵L为单位阵，当δ足够小时，病态TLS的约束条件退化为LS的约束条件。说明在处理病态总体最小二乘问题时，标准正则化方法相对最小二乘正则化方法并无明显优势。

3) 混合正则化算法在约束条件中加入TV正则化约束，相对于葛旭明算法其精度提高了84.4%。说明本文方法在处理病态总体最小二乘问题上是可行的，并且具有较高的稳定性。

4) 在计算过程中，混合正则化算法避免了正常数δ的引入，因而解算结果更加可靠。

3 结语

本文将Tikhonov正则化和TV正则化两种方法有效结合，提出一种混合正则化算法，并推导了求解的具体公式和迭代算法。该方法利用范数的性质，将病态总体最小二乘的约束条件进行转换，从而建立目标函数，通过求导的方法得到参数的解。由算例可以看出，本文提出的方法可以有效地处理总体最小二乘的病态问题。关于不等精度观测、系数矩阵仅部分元素含随机误差的情形，其解算公式的推导将是下一步研究的工作。