舰船科学技术  2023, Vol. 45 Issue (9): 168-171    DOI: 10.3404/j.issn.1672-7649.2023.09.037   PDF    
VR技术在船舶舱室三维图像重建中的应用
林琳1,2     
1. 河南科技大学 应用工程学院,河南 三门峡 472000;
2. 三门峡职业技术学院,河南 三门峡 472000
摘要: 为了实现对船舱舱室的三维视景重构,提出基于VR技术的舱室三维图像重建技术,采用锐化模板匹配动态增强技术和帧点扫描技术,实现对船舱室的三维立体图像扫描和特征提取,结合像素匹配模型和滤波抑制方法,实现三维图像的不规则点滤波和修正处理。通过光场边缘轮廓检测和模板分块融合匹配,结合VR视景重建技术,实现对舱室的三维图像重建。仿真结果表明,采用该方法进行舱室三维图像重建,有效解决舱物理结构复杂导致的结构不规则和空间表达能力不好的问题,具有很好的视景重构性能。
关键词: VR技术     船舱舱室     三维图像     重建     视景仿真    
Application of VR technology in 3D image reconstruction of ship cabins
LIN Lin1,2     
1. College of Applied Engineering, Henan University of Science and Technology, Sanmenxia 472000, China;
2. Sanmenxia Polytechnic, Sanmenxia 472000, China
Abstract: In order to achieve three-dimensional visual reconstruction of ship cabins, a VR technology based 3D image reconstruction technology for ship cabins is proposed. Sharpening template matching dynamic enhancement technology and frame point scanning technology are used to achieve 3D image scanning and feature extraction of ship cabins. Combining pixel matching models and filtering suppression methods, irregular point filtering and correction processing of 3D images are achieved, by detecting the edge contour of the light field and fusing and matching templates in blocks, combined with VR visual reconstruction technology, three-dimensional image reconstruction of the cabin is achieved. The simulation results show that using this method to reconstruct the three-dimensional image of the cabin effectively solves the problems of structural irregularity and poor spatial expression ability caused by the complex physical structure of the cabin, and has good visual reconstruction performance.
Key words: VR technology     cabins and cabins     3D images     reconstruction     visual simulation    
0 引 言

随着视景仿真和图像融合调度处理技术发展,结合视觉传达和视景仿真技术,构建船舱舱室三维图像的重建结构模型。通过视景仿真和三维立体成像软件,实现对船舱舱室三维图像重组。通过三维建模软件设计,提高对船舱舱室的三维空间传达和细节展示能力。在VR视景仿真环境中,构建船舱舱室的沉浸式视景仿真模型。通过计算机感知和三维虚拟重构件数,进行船舱舱室三维特征点分析,结合视觉分析和视景仿真技术进行船舱舱室三维图像重建的沉浸式交互环境设计[1]

传统方法中,对船舱舱室三维图像重建技术主要采用计算机模型参数分析方法,使用船舱舱室三维渲染技术,结合图形图像VR视景重建,通过三维视景拟合和跟踪渲染技术,提高对船舱舱室三维图像仿真和重构能力[2]。但当前方法对船舱舱室三维图像的视觉表达能力不好,图模型参数匹配能力不好。针对上述问题,本文提出基于VR技术的舱室三维图像重建技术。首先采用锐化模板匹配动态增强技术和帧点扫描技术实现对舱室的三维立体图像扫描和特征提取;然后通过光场边缘轮廓检测和模板分块融合匹配,结合VR视景重建技术,实现对舱室的三维图像重建。最后进行实验测试,验证本文方法在提高船舱舱室三维图像重建视觉表达能力方面的性能。

1 舱室三维立体图像扫描和视点跟踪 1.1 舱室三维立体图像扫描

为了实现对船舱舱室三维图像重建,采用模糊的纹理梯度信息增强方法,建立三维场景点跟踪模型。采用视差线索和散焦线索相融合的方法,结合相邻2个视角的图像视差分析,构建舱室三维立体图像扫描模型[3],通过视点跟踪识别和图像像素特征分解,采用VR技术实现对舱室的三维图像重建,总体实现结构图如图1所示。

图 1 船舱舱室三维图像重建结构 Fig. 1 3D image reconstruction structure of ship cabin

通过对船舱舱室三维噪点分离和图像网格区域分割,采用锐化模板增强技术建立船舱舱室三维图像轮廓分配模型[4],根据图像像素奇、偶的帧扫描,得到图像采集输出为:

$ I(x) = J(x)t(x) + A(1 - t(x))。$ (1)

式中: $ A $ 为船舱舱室三维图像成像在 $ x $ 方向的四维光场分布像素值; $ t(x) $ 为船舱舱室三维相邻2个视角的图像视差; $ J(x)t(x) $ 为船舱舱室三维图像微透镜阵列与主透镜的距离。

根据相移理论,分析每帧扫描的激光船舱舱室三维关联像素值大小相同,为 $ W \times N $ ,在空间域偏分布域中,得到亚像素单位偏移量检测约束函数定义为:

$ \begin{split} & \min imize\quad f(\vec x){\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} \vec x = ({x_1},{x_2}, \ldots ,{x_n}) \in {\Re ^n} \\ & {\rm{subject}}\;{\rm{to}}\quad {g_j}(\vec x) \leqslant 0,j = 1, \cdots ,l \\ &\qquad\qquad\quad {h_j}(\vec x) = 0,j = l + 1, \cdots ,p。\end{split} $ (2)

其中:x $\varOmega $ 为局部线性模型增量分布行域,双线性插值的输入特征量为 $ g = \{ g(i),i \in \varOmega \} $ $ f(\vec x) $ 为滤波器对每个匹配代价函数; $ {\Re ^n} $ 为引导图像和待滤波图像的协方差。

采用像素偏移扫描的方法,得到船舱舱室三维图像成像单个像素值 $ I(i,j) $ 分布的边界特征量为:

$ L = J\left( {w,e} \right) - \sum\limits_{i = 1}^N {{a_i}\left\{ {{w^{\rm{T}}}\varphi \left( {{x_i}} \right) + b + {e_i} - {y_i}} \right\}}。$ (3)

式中: $ J\left( {w,e} \right) $ 为双线性插值图像; $ {a_i} $ 为窗口大小; $ w $ 为模糊加权系数; $ \varphi \left( {{x_i}} \right) $ 为滤波图像的协方差; $ {e_i} $ 为多个窗口的平均误差; $ b $ 为鲁棒性设置的阈值; $ {y_i} $ 为自适应像素分离特征值。

根据上述分析,采用舱室三维立体图像扫描技术,实现对船舱室三维立体图像的纹理轨迹渲染,得到舱室三维立体图像的多标签的图像分布为:

$ H = \sum\limits_{r = 1}^t {\sum\limits_{p = 1}^{{k_1}} {({x_{ir}} - x_{irp}'){{({x_{ir}} - x_{irp}')}^{\rm{T}}}{A_{irp}}} }。$ (4)

其中: $ {x_{ir}} $ 为船舱室中心孔径图像像素; $ x_{irp}' $ 为要断裂的点与点之间边的权值; $ {A_{irp}} $ 为每幅图像的像素分辨率,采用多标签亚像素偏移方法,实现船舱舱室三维图像重建[5]

1.2 船舱舱室三维图像滤波

结合像素匹配模型和滤波抑制方法实现三维图像的不规则点滤波和修正处理,通过光场边缘轮廓检测[6],得到图像的背景种子点配准模型,图像平滑区域的滤波函数为:

$ {W^{ij}}(x,y) = \frac{{{G^{ij}}(x,y)}}{{\displaystyle\sum\nolimits_{i = 1}^{{n_x}} {\displaystyle\sum\nolimits_{j = 1}^{{n_r}} {{G^{ij}}(x,y) + \varepsilon } } }}。$ (5)

其中: $ {G^{ij}}(x,y) $ 为微透镜阵列的模板像素; $ ({x^{ij}},{y^{ij}}) $ 为在图像平滑区域的层位像素级; $\varepsilon $ 为传感器像素集合,船舱室的三维重建的分块区域大小为:

$ {G^{ij}}(x,y) = \exp \left( - \frac{{{{(x - {x^{ij}})}^2} + {{(y - {y^{ij}})}^2}}}{{2{\sigma ^2}}}\right)。$ (6)

其中: ${x^{ij}}$ ${y^{ij}}$ 为宏像素的大小; $x$ 为目标物的深度信息特征量; $y$ 为3D结构对象的惩罚特征量; $\sigma $ 为半全局匹配特征值。

根据参考的模板图像动态特征,船舱舱室三维图像的稀疏性分解过程如下式:

$ F(x,y) = \sum\nolimits_{i = 1}^{{n_r}} {\sum\nolimits_{j = 1}^{{n_c}} {{W^{ij}}} (x,y) \cdot {O^{ij}}(x,y)}。$ (7)

式中: ${W^{ij}}(x,y)$ 为图像的边缘轮廓信息的模板参数; ${O^{ij}}(x,y)$ 为曲线轨迹融合跟踪轨迹。

根据图像的信息增强处理结果,得到舱室三维图像表面 $(a,{b_m})$ 点处的连续重构特征为:

$ {y_i} = {W_i}^T{M_i} = [{y_{i1}},{y_{i2}},\cdots ,{y_{it}}] 。$ (8)

其中, $ {M_i} $ $ {M_T} $ 经过 $ {W_i} $ 投影后的得到反映舱舱室三维图像表面的子空间。令 $ {I_x} $ 为一个舱舱室三维图像的模糊特征集,其中 $ x = P,N $ 表示船舱舱室三维图像的区域大小,采用梯度运算方法进行特征分解,实现对船舱舱室三维图像轮廓特征提取和重构。

2 船舱舱室三维图像重建 2.1 船舱舱室三维图像增强与特征提取

采用信息融合方法进行图像的Kalman滤波,采用锐化模板增强方法进行船舱舱室三维图像的信息增强处理,建立船舱舱室三维图像的统计形状分析模型,得到船舱舱室三维图像成像的自动匹配算子为 $ g = \{ g(i),i \in \varOmega \} $ ,对采集的原始三维船舱舱室图像进行三维提升反变换处理,得到分割尺度为:

$ {{c_1} = \left\{ {i\left| {i \in S} \right.} \right\},}\;{{c_2} = \left\{ {\left\{ {i,i'} \right\}\left| {i' \in {N_i},i \in S} \right.} \right\},}\;{C = {c_1} \cup {c_2}} 。$ (9)

式中: $ i = 1,2,\cdots ,T $ 为像素点序列; $ N $ 为船舱舱室三维图像轮廓重建的维数; $ {c_1} $ 为一阶统计特征量; $ {c_2} $ 为二阶统计特征量; $ S $ 为灰色子空间序列,三维图像像素序列的分布轮廓特征表达式为:

$ {s_{PPM}}(t) = \sum\limits_{i = - \infty }^\infty {\sum\limits_{j = 0}^{{N_p} - 1} {p(t - i{T_s} - j{T_p} - {c_j}{T_c} - {a_i}\varepsilon )} } 。$ (10)

其中: ${T_s}$ 为图像的块匹配特征量; ${T_p}$ 为相应图像块之间的视觉相似度; ${T_c}$ 为轻量化的动态模板匹配系数; ${a_i}$ 为半全局匹配特征量; $\varepsilon $ 为视差估计系数; $t$ 为相应图像块之间的视觉增强分量。

分析匹配代价在全图的不同方向特征量,得到融合结果为:

$ {s_{PAM}}(t) = \sum\limits_{j = - \infty }^\infty {{d_j}p(t - j{T_s})}。$ (11)

其中: ${T_s}$ 为船舱舱室三维图像成像的单尺度特征值; ${T_p}$ 为线性变换周期; ${T_c}$ 为船舱舱室三维图像成像采集周期; ${c_j}$ 为船舱舱室三维图像线性变换的加权系数; ${N_p}$ 为船舱舱室三维图像的模糊子空间特征分量。

由此实现对船舱舱室三维图像增强与特征提取。

2.2 船舱舱室三维图像重建输出

在对船舱舱室三维图像增强与特征提取的基础上,采用可微分的 PatchMatch模块匹配方法,得到船舱舱室三维图像的层级位分布像素级 $ J({W_i}) $ ,可以用如下形式简化:

$ {W_i} = ({H_1} - {H_2})\omega = \lambda \omega。$ (12)

其中: $ {H_1} $ 为稀疏注释的视差图; $ {H_2} $ 为稀疏表示的代价系数; $ \lambda $ 为特征值。设 $ \{ {w_1},{w_2},\cdots,{w_{{d_i}}}\} $ 表示船舱舱室三维图像轮廓向量加权,基于深度学习的双边网络学习,得到大规模的数据集分布密度大小关系 $ \{ {\lambda _1} \geqslant {\lambda _2} \geqslant \cdots \geqslant {\lambda _{{d_i}}}\} $ ,其中 $ \{ {\lambda _j}\left| {j = 1,2,\cdots,{d_i}} \right.\} $ 所对应的特征向量。

基于空间变换和视图合成方法,得到船舱舱室三维图像重建的中心矩为:

$ O = {\boldsymbol{U}}S{{\boldsymbol{V}}^{\rm{T}}} 。$ (13)

式中: ${\boldsymbol{U}}$ 为一 $ N \times N $ 的直方图分布矩阵; ${\boldsymbol{V}}$ 为一个2×2的流形矩阵,表示为三维几何信息的动态分配特征量, $ S $ 是不同条件的适应性分布集。

综上分析,得到三维重建输出:

$ \begin{split}& Match(objec{t}_{pre}\text{,}objec{t}_{c})=\\ &\qquad \frac{{\displaystyle {\sum }_{i}({H}_{pre}(i)-\overline{{H}_{pre}})({H}_{c}(i)-\overline{{H}_{c}})}}{\sqrt{{\displaystyle {\sum }_{i}{({H}_{pre}(i)-\overline{{H}_{pre}})}^{2}{\displaystyle {\sum }_{i}{({H}_{c}(i)-\overline{{H}_{c}})}^{2}}}}}。\end{split} $ (14)

其中: $\overline {{H_k}} =\displaystyle \frac{1}{N}\sum\limits_j {{H_k}(j)} $ ,且N等于单元级结构分布的bin的个数; $ {H_{pre}}(i) $ 为小空间分辨率; $ \overline {{H_c}} $ 为网格中每一层的每个单元的动态匹配特征值; $ \overline {{H_{pre}}} $ 为每个像素的处近似边缘分布。

综上分析,通过光场边缘轮廓检测和模板分块融合匹配,结合VR视景重建技术,实现对舱室的三维图像重建。

3 性能测试与分析

在对船舱舱室三维图像重建的仿真实验中,采用VR技术进行三维图像的视景重构,使用Visual C++ 6.0底层开发的编程软件,设定船舱舱室三维图像的宽度 $ withd = 12 $ ,匹配像素百分比为37%,采用分辨率为 960×1 280像素成像仪进行船舱室的三维成像采集,边缘像素检测点的裁剪分割分块特征值为192×384,根据上述参数设定,得到初始的船舱室的三维图像采集如图2所示。

图 2 初始的船舱室的三维图像采集 Fig. 2 Initial 3D image acquisition of the cabin

根据图2的图像采集结果,采用本文方法进行图像三维重建的增强处理,得到图像增强结果如图3所示。

图 3 船舱室的三维图像增强结果 Fig. 3 3D image enhancement results of the cabin

分析图3得知,采用本文方法能有效实现对船舱室的三维图像重建,提高图像的细节增强能力。在此基础上实现对船舱室的三维图像重建,重建结果如图4所示。

图 4 图像三维重建结果 Fig. 4 Image 3D reconstruction results

为了对比性能,采用本文方法和传统方法,以船舱舱室三维图像重建输出图像的信噪比(SNR)、特征点的匹配精度等指标为测试结果,得到对比结果见表1。分析可知,采用本文方法进行VR三维图像处理和船舱舱室三维图像重建,输出的信噪比较高,特征点匹配精度较好,说明船舱舱室三维图像VR视景重构的视觉表达能力较强,重建效果更佳。

表 1 船舱舱室三维图像重建性能对比 Tab.1 Comparison of 3D image reconstruction performance in cabins and cabins of ships
4 结 语

在VR视景仿真环境中,构建船舱舱室的沉浸式视景仿真模型。通过计算机感知和三维虚拟重构件数,进行船舱舱室三维特征点分析。结合视觉分析和视景仿真技术,进行船舱舱室三维图像重建的沉浸式交互环境设计。本文提出基于VR技术的船舱室三维图像重建技术,测试表明,本文方法的重建效果较好,指标性能表现优越。

参考文献
[1]
徐周波, 陈浦青, 刘华东, 等. 基于自注意力网络的深度图匹配模型[J]. 计算机应用, 2023, 43(4): 1005-1012.
XU Zhoubo, CHEN Puqing, LIU Huadong, et al. A Depth Map Matching Model Based on Self Attention Networks[J]. Computer Applications, 2023, 43(4): 1005-1012.
[2]
任宏德. 基于模拟退火算法优化的超分辨率图像重建[J]. 激光杂志, 2016, 37(2): 38-41.
REN Hongde. Super resolution image reconstruction optimized based on simulated annealing algorithm[J]. Laser Journal, 2016, 37(2): 38-41.
[3]
XIE Guodong, REN Yongxiong, HUANG Hao, et al. Phase correction for a distorted orbital angular momentum beam using a zernike polynomials-based stochastic-parallel-gradient-descent algorithm[J]. Opt Lett, 2015, 40: 1197-1200. DOI:10.1364/OL.40.001197
[4]
FU Shiyao, ZHANG Shiun, WANG Tonglu, et al. Pre-turbulence compensation of orbital angular momentum beams based on a probe and the Gerchberg-Saxton algorithm[J]. Opt Lett, 2016, 41(14): 3185-3188. DOI:10.1364/OL.41.003185
[5]
OVESNY M, KRÍZEK P, BORKOVEC J, et al. Thunder STORM: a comprehensive ImageJ plug-in for PALM and STORM data analysis and super-resolution imaging[J]. Bioinformatics, 2014, 30(16): 2389-2390. DOI:10.1093/bioinformatics/btu202
[6]
蒋玉英, 陈心雨, 李广明, 等. 图神经网络及其在图像处理领域的研究进展[J]. 计算机工程与应用, 2023, 59(7): 15-30.
JIANG Yuying, CHEN Xinyu, LI Guangming, et al. Graph neural networks and their research progress in the field of image processing[J]. Computer Engineering and Applications, 2023, 59(7): 15-30.