1 引 言

整数模糊度固定是实现高精度GNSS应用的前提，整数固定方法包括两个方面：整数估计准则和整数搜索算法^[1]。常用的整数估计准则有四舍五入、bootstrapping和整数最小二乘(ILS)^[2]，以及快速模糊度固定的病态正则化准则^{[1, 3, 4, 5, 6, 7]}。整数搜索算法的实质是通过构造整数不等式约束条件(如整数统计量)快速剔除错误的备选模糊度组合^{[8, 9, 10, 11, 12, 13, 14]}。

整数模糊度的可靠性是实现高精度GNSS应用的前提，一旦固定错误，往往会导致固定解反比实数解差。因此，必须严格控制整数解的质量。与实数估计理论不同，整数的离散性使得无法用协方差阵来刻画它的质量^[15]，通常采用成功概率，即实数解落入由整数估计准则所确定的整数映射实数子空间的概率^{[16, 17, 18, 19, 20, 21]}。值得指出的是，目前为止所有的整数可靠性理论都是以实数估值无偏为前提，该条件在GNSS应用中很难满足，因为大气延迟、多路径效应等系统误差影响极其复杂，无法用精确的函数模型表达。事实上，由于这些系统性误差引起的模糊度错误固定也正是模糊度质量控制的关键与难点所在。

RTK初始化后只需求解后续观测引入的新模糊度，未知模糊度向量往往只包含几个(甚至1个)模糊度。这些模糊度由于观测几何强度不同而精度差异较大，不可能同时可靠地固定。而目前广泛使用的LAMBDA方法只是加快搜索速度，并不能提高固定解的可靠性^[22]。因此，RTK模糊度固定通常采用bootstrapping方法只固定能可靠固定的部分模糊度。Bootstrapping的本质是序贯四舍五入^[23]，其可靠性依赖于四舍五入的可靠性，因此控制四舍五入的纳伪概率是实现RTK可靠性的关键。目前，主要有两种控制四舍五入可靠性的策略。第一种策略是给定小数和方差阈值(fixed-fraction-variance，FFV)，若实数估值同时满足小数和方差阈值，则固定；另一种策略则是给定成功概率阈值，若实数解对应的成功概率大于该阈值，则固定。这两种方法都存在缺陷：第1种方法的阈值很难确定，阈值过大会导致纳伪概率增大，过小会降低固定效率，且阈值不随实数解的质量而变化；第2种方法只考虑实数解的精度，忽略了实数解本身的质量。

本文研究纳伪概率可控的四舍五入方法，从含多个备选假设的假设检验理论出发，根据风险水平和实数解的质量，自适应地确定实数解的取整区间，从而严格地控制了整数解的纳伪概率，提高了固定解的可靠性。此外，结合GNSS应用的两种特殊情况，发展了两种简单实用应用策略。

2 四舍五入法及其两类错误概率 2.1 四舍五入法与含多个备选假设的假设检验

假设GNSS观测值服从正态分布，则最小二乘实数模糊度估值也服从正态分布~N(a,)，其中，a∈Z和分别是的期望和方差。根据整数容许估计的整数平移不变性，平移整数a后的实数模糊度服从正态分布~N(0,)，对应的概率密度函数为

简记为。统计意义上，的四舍五入固定解可能为任意整数，其中，=0为正确固定，其余为错误固定。模糊度可靠性理论是检验概率P(=0)是否接近1，对应含多个备选假设的假设检验问题。

对于含两个备选假设(即原假设与备选假设)的假设检验问题，拒绝原假设等价于接受备选假设，对应弃真和纳伪两类错误。而对于含多个备选假设的假设检验问题，拒绝某一备选假设并不意味总是接受另一特定备选假设，而有可能接受另外任一备选假设，因此不存在笼统的弃真和纳伪错误，只存在相对于某个备选假设的弃真和纳伪错误。为表述方便，将四舍五入固定解集分为正确固定和错误固定两类，记

式中，Ω_z表示固定解z对应的实数空间。采用含两个备选假设的假设检验问题的表述方式，令原假设 将其余所有备选假设笼统归为备选假设

图 1给出了四舍五入对应的多个备选假设(H₀、H₁和H_-1)示意图。令β_j,i表示当H_j为真但接受备选假设H_i的错误概率，则

根据含多个备选假设的假设检验理论，当H_k为真但接受其他备选假设H_i(z∈Z\{k})的概率(即H_k的弃真概率)为 相应的，错误地接受H_k的概率(即H_k的纳伪概率)为 对应的检验功率(即正确接受H_k的概率，也称为成功概率)为

2.2 四舍五入法的两类错误概率

由似然比检验准则得备选假设H_i的接受域为^[24]

易证 显然，Ω_i∩Ω_j=∅,∀i≠j∈Z且R=Ω_i，即Ω_i,∀i∈Z是实数空间R的一个划分。按式(6)计算H₀的弃真概率 式中，。按式(7)计算H₀的纳伪概率 因此α₀≡β₀。按(8)计算正确接受H₀的概率(成功概率)为

实际应用中，即使检验结果是拒绝原假设H₀，也并不接受其他备选假设，而保留实数解。因此，弃真错误只影响整数固定的效率；一旦检验接受H₀则意味着接受固定解，因此，纳伪错误相当于采用了错误的固定解，必须严格控制。由式(12)得出，纳伪概率β₀与概率密度函数及接受域Ω_i有关。

由于传统四舍五入法的备选假设接受域Ω_i=[-0.5,0.5]+i固定，故纳伪概率只与实数解的精度有关。换言之，一旦给定了实数估值，四舍五入的纳伪概率就唯一确定。受传统假设检验可通过改变拒绝域来调节弃真、纳伪概率的思想启发，本文尝试改变四舍五入接受域Ω_i来严格控制纳伪概率，提高整数固定的可靠性。

3 纳伪概率可控的四舍五入法 3.1 改变四舍五入区间控制纳伪概率

设四舍五入取整区间[-0.5,0.5]缩小为[-r,r],0≤r≤0.5，则原假设H₀的接受域Ω₀变为

备选假设H_i的接受域变为 显然，Ψ_i⊆Ω_i且 整数解集对应的实数空间为 当实数解∈R\Ψ_U=[r,1-r]+i,∀i∈Z时，保留实数解。因此，缩小取整后，实数估值的处理结果有3种可能：即正确的固定解，错误的固定解和保留的实数解 图 2给出了缩小取整区间后的多个备选假设H₀，H₁和H_-1对应的接受域示意图。

缩小取整区间后的原假设H₀的纳伪概率为

正确接受H₀的概率(成功概率)为 比较缩小取整区间前后的纳伪概率之差 则≤β₀，同时易证≤γ₀。说明缩小取整区间后的四舍五入法的确减小了纳伪概率，但也减小了成功概率。事实上，缩小取整区间四舍五入法的核心是提高整数固定的正确率，即正确固定在固定解集(正确固定与错误固定)中的相对比例，即

缩小取整区间四舍五入法的本质是通过缩小取整区间，保留那些容易错误固定的实数解不固定，从而严格控制纳伪概率，提高固定解的可靠性。

3.2 四舍五入区间的确定

确定合理的取整区间半径r是提高模糊度固定可靠性的关键。r过小，放弃了固定原本能正确固定的模糊度，降低了固定效率；r过大，则不能有效地控制纳伪概率。因此，必须在严格控制纳伪概率的同时自适应地确定r。首先注意到纳伪概率的计算涉及无穷个整数概率的累加，实际计算只能取有限个整数，即忽略那些极小概率对应的整数。根据式(19)，整数i的绝对值越大，它对贡献越小，即∀i＞j＞0，则

给定极小量μ，若整数i₀满足 只需计算小于i₀的整数对的贡献，引入的概率误差小于μ。图 3给出了在不同的μ下实数解精度与i₀的关系，表明实数解精度越高，需要计算的整数个数越少；即使当实数解精度达到0.5周，亦只需计算4个整数对应的概率。

确定i₀后，纳伪概率式(19)简化为

式中，由实数估值确定，用户可设定能承担的风险水平β_max，根据＜β_max确定r。如图 4所示，实线下方区域为当β_max=0.01%时的四舍五入取整区域(下文称β_max区域)。显然，r随着的增大而减小，即实数解精度越差，要求实数解越接近整数。

3.3 两种特殊情况的处理

理论上，只要实数估值落入β_max区域就能以小于β_max的纳伪概率固定。实际应用存在两种特殊情况：

(1) 实数解精度很高，但小数部分接近0.5，对应β_max区域的右下部分。该情况的发生是由于残留的系统误差导致实数解存在偏差。

(2) 实数解精度较差，但小数部分接近0，对应β_max区域的左上部分。该情况的发生是由于观测模型的几何强度不够，小数接近0纯属偶然现象。

显然，这两种情况都需排除，否则纳伪概率依然不能有效控制。本文提出两种方法在控制纳伪概率的同时排除两种特殊情况。

类似于传统FFV方法，第1种方法给定实数解的小数和精度限差排除β_max区域内的这两种特殊情况，该方法的取整区域为

式中，r_max≤0.5和σ_max是用户给定的实数解的小数和精度限差。

另一种方法是通过构造T型函数来排除两种特殊情况^[23]，本文给出T型函数广义形式

考虑到模糊度固定除了控制纳伪概率外，还应尽可能地提高模糊度固定效率，构造目标函数 设定r_max、σ_max和限差g_min，若实数解满足g＞g_min，则固定。为了有效控制纳伪概率，限差g_min与β_max的取整区域应接近，取g_min=10⁴、r_max=0.4、σ_max=0.3，图 4虚线的下方区域为g_min的取整区域，显然该区域与式(26)确定的取整区域非常接近。

上述公式推导是先根据实数解的精度和风险水平β_max确定取整区间半径r，然后比较r与实数解的小数。实际应用可倒过来执行，先直接以实数解的小数作为取整区间半径r，然后按照式(25)计算纳伪概率。若采用第1种方法，判断实数解是否满足式(26)，满足则固定，否则保留实数解；若采用第2种方法，还需按式(20)和(27)计算和T，并按式(28)计算g，若g＞g_min则固定，否则保留实数解。

4 算例分析

采用基线长94.6 km的两个CORS站3 h GPS双频数据进行网络RTK模糊度固定试验，采样间隔1 s，截止高度角10°，采用所有数据正确固定所有模糊度作为后续分析参考值。附宽巷模糊度约束的单历元电离层加权双差观测方程为

式中，l₁、l₂、p₁和p₂分别为经卫地距改正后的L1和L2双差相位和伪距观测值；为整数宽巷模糊度；为L1双差模糊度；τ为相对天顶对流层延迟且短时间内不变；h是它的设计矩阵；η是双差电离层延迟参数；η₀为双差电离层延迟的先验值，通常取0；I是单位阵，观测误差的协方差阵为 式中，σ_l=5 mm 和σ_p=0.5 m 分别为双差相位和伪距观测值的精度，Q为单历元双差观测值的协因数阵；σ_η=15 cm 为双差电离层延迟的先验精度。采用多历元数据最小二乘平差计算实数模糊度向量及它的协方差矩阵，然后采用bootstrapping 方法按高度角从高到低依次固定模糊度。在四舍五入取整中，比较以下5种方案：

方案1 传统FFV方法，取阈值r_max=0.2，σ_max=0.1，取整区域对应图 4点线的左下方区域。

方案2 传统FFV方法，取阈值r_max=0.4，σ_max=0.2，取整区域对应图 4点划线左下方区域。

方案3 纳伪概率可控的方法但未排除两种特殊情况，取阈值β_max=0.01%，取整区域对应图 4的实线下方区域(即β_max区域)。

方案4 本文提出的第1种方法，纳伪概率可控且结合FFV排除两种特殊情况，取阈值r_max=0.4，σ_max=0.3，取整区域对应式(26)定义的β_FFV区域。

方案5 本文提出的第2种方法，纳伪概率可控且排除两种特殊情况，取阈值r_max=0.4，σ_max=0.3、g_min=10⁴，取整区域对应图 4虚线左下方区域。

首先采用 10 个历元观测数据计算得到1500 个实数模糊度向量，共计约6200 个模糊度。对于每个模糊度向量，采用bootstrapping方法按高度角从高到低依次固定模糊度，即先固定高度角最高的模糊度，然后假设该模糊度正确固定，采用其参考值改正其余模糊度，然后再固定高度角次高的模糊度，依次类推，固定所有的模糊度。

图 5直观地展示了纳伪概率可控(β_max=0.01%)的取整区域与所有6200 个实数模糊度的分布，落入实线区域内的模糊度可以固定，显然，当实数模糊度接近整数时，可适当放宽对其精度的要求。为了验证纳伪概率可控的四舍五入方法在实际应用中的确能够严格地控制纳伪概率，图 6给出了方案2和方案3的固定模糊度对应的纳伪概率，方案3的所有固定模糊度的纳伪概率都小于0.01%，而方案2有些固定模糊度的纳伪概率远大于0.01%，说明方案2对应的传统FFV方法不能有效地控制模糊度固定的纳伪水平。

为了分析不同方案在不同实数解质量下的模糊度固定效果，分别采用3~10个历元数据计算实数模糊度，然后采用bootstrapping方法固定模糊度，再采用不同的四舍五入方案固定模糊度。图 7给出了所有方案采用不同历元数据的模糊度固定概率，随着历元数的增加，模型强度增强，模糊度实数解质量提高，固定概率增大。图 8给出了所有方案采用不同历元数据固定模糊度的纳伪概率，随着历元数的增加，纳伪概率也有所增大。方案1的取整区域控制过于严格，导致固定概率过低，10个历元的固定概率依然小于5%；当然过于严格的取整区域能有效地减小纳伪概率，如图 8所示，它的纳伪概率始终接近0。方案2能有效地提高固定概率，但纳伪概率未能得到有效控制，10个历元的纳伪概率达到1.5%。方案3采用纳伪概率可控的四舍五入策略能根据实数模糊度质量调节取整区域，与方案2相比，固定概率提高了4%，但它们的纳伪概率相当；尤其当历元数小于8时，方案3的固定概率大于方案2且纳伪概率小于方案2，故方案3比方案2更加合理。

理论上，方案3的纳伪概率统计意义上应该小于风险水平β_max=0.01%，而实际结果却远大于β_max(如图 8所示)，原因是方案3以实数模糊度估值无偏为理论基础，而未考虑本文提到的实际应用中的两种特殊情况，因此，采用本文提出的两种四舍五入方法(即方案4和方案5)有望较方案3减小纳伪概率。比较方案4与方案3，他们的固定概率相当，但方案4的纳伪概率比方案3减小约一倍。比较方案5与方案3，由于方案5的取整区域更加严格(参考图 4)，固定概率较方案3有所减小(相对减小22.8%)，但方案5的确能更加严格地控制纳伪概率，纳伪概率从1.5%减小到0.2%(相对减小86.7%)。因此，在实际应用中，若可承受适当放宽的纳伪概率，可采用本文提出的第1种四舍五入方法得到高的固定概率(即试验方案4)；若倾向于严格控制纳伪概率，可采用本文提出的第2种四舍五入方法(即试验方案5)。

5 结 论

RTK模糊度固定通常采用序贯四舍五入法固定只能可靠固定的部分模糊度，其可靠性依赖于四舍五入法的可靠性。而目前采用的FFV和给定成功概率阈值的策略都存在理论或者应用上的缺陷。本文提出了根据风险水平和实数解质量自适应确定四舍五入取整区间从而控制纳伪概率的方法，并结合GNSS应用中的两种特殊情况，提出了两种简单实用的四舍五入取整方案。研究表明：① 缩小四舍五入取整区间的本质是放弃固定容易错误固定的实数解，从而严格控制了纳伪概率，提高了固定解的可靠性；② 传统FFV策略很难确定合理的阈值，阈值过小，虽能严格控制纳伪概率但其固定效率过低，阈值过大，虽能提高固定效率，但纳伪概率不能有效控制；③ 采用纳伪概率可控的四舍五入法，若不考虑实际应用中的两种特殊情况，纳伪概率依然不能有效控制；④ 采用本文提出的第1种方法，即控制纳伪概率同时给定实数解的小数和精度阈值排除两种特殊情况，能有效地控制纳伪概率且保持高的固定概率；⑤ 采用本文提出的第2种方法，即采用目标函数g，能以固定概率的略微减小换来纳伪概率的严格控制。因此，在实际应用中，若可容忍略微放宽的纳伪概率(如常规RTK)，可采用本文提出的第1种方法获得高的固定概率；若倾向于严格控制纳伪概率(如网络RTK)，可采用本文提出的第2种方法。