郑州大学学报(理学版)  2019, Vol. 51 Issue (3): 115-119  DOI: 10.13705/j.issn.1671-6841.2018152

引用本文  

李健, 王顺利, 潘华, 等. 基于移动终端的增强现实地下管线可视化技术[J]. 郑州大学学报(理学版), 2019, 51(3): 115-119.
LI Jian, WNAG Shunli, PAN Hua, et al. Visualization Technology of Underground Pipeline Based on Augmented Reality of Mobile Terminal[J]. Journal of Zhengzhou University(Natural Science Edition), 2019, 51(3): 115-119.

基金项目

国家自然科学基金项目(51678536);河南省教育厅重点项目(14A420002,15A420002)

作者简介

李健(1983—),男,河南孟州人,副教授,主要从事三维重建、激光点云数据处理研究,E-mail:jianli@zzu.edu.cn

文章历史

收稿日期:2018-05-17
基于移动终端的增强现实地下管线可视化技术
李健1 , 王顺利1 , 潘华2 , 马玉荣3     
1. 郑州大学 水利与环境学院 河南 郑州 450001;
2. 郑州大学 基建处 河南 郑州 450001;
3. 郑州大学 图书馆 河南 郑州 450001
摘要:对移动终端基于增强现实的地下管线可视化技术进行了研究.首先使用移动端传感器和摄像头获取位置、姿态及影像信息,然后结合空间数据库中的数据对管线的虚拟位置进行计算,对三维场景进行渲染并与现实实景进行融合,实现了地下管线的动态实时可视化展示.最终开发了基于Android移动端的郑州大学地下管线增强现实系统.
关键词地下管线    移动GIS    增强现实    可视化    传感器    
Visualization Technology of Underground Pipeline Based on Augmented Reality of Mobile Terminal
LI Jian1 , WNAG Shunli1 , PAN Hua2 , MA Yurong3     
1. College of Water Conservancy and Environment, Zhengzhou University, Zhengzhou 450001, China;
2. Infrastructure Department, Zhengzhou University, Zhengzhou 450001, China;
3. Library, Zhengzhou University, Zhengzhou 450001, China
Abstract: The visualization technology of underground pipelines based on augmented reality of mobile terminal was studied. Mobile terminal sensor and camera were used to obtain position, attitude and image information. Then the virtual location of pipeline was calculated by the data from spatial database. The three-dimensional scene was rendered and fused with real world, and the visual display of underground pipelines was shown dynamically in real time. Finally, the underground pipeline augmented reality system of Zhengzhou University based on Android mobile terminal was developed.
Key words: underground pipeline    mobile GIS    augmented reality    visualization    sensor    
0 引言

近年来,随着城市建设步伐的加快,各类建筑和道路设施的改建、扩建和新建,使得地下管线发生了很大的变化.地下管线具有种类繁多、隐蔽性强的特点.一方面,传统的手工管理、管线资料收集、桌面端管理已经不能满足日益发展的城市地下管线资料更新、维护和信息检索的需要[1];另一方面,传统的二维或2.5维GIS难以很好地表达管线间的三维空间关系.三维GIS的管线可视化,其复杂的建模不仅花费巨大,而且数据更新缓慢.因此,传统的GIS系统难以胜任地下管线的管理及可视化.维护、修理管线时经常导致事故的发生,造成断电、断水、断气以及断通讯的现象,不仅影响市民的正常生活,而且影响城市建设,给国家带来财产和经济的巨大损失[2].

增强现实(augmented reality,AR)是一种将现实世界信息和虚拟世界信息无缝集成的技术,它使虚拟增强的信息叠加在现实场景上呈现给用户,增强了用户对现实世界的感知能力和与现实世界的交互能力[3].在移动GIS应用中引入增强现实技术,使得地理要素的识别更具直观性[4].事实上,在地下管线管理中,人们往往更加注重管线的走向、相互位置以及管道本身的属性,而不是其周边环境[5].如果只将人们所关心的三维模型放置在其所在的现实环境中,就省去了对周边环境的建模,也使得用户能更加直观地获取地下管线信息.本文研究了基于移动终端的增强现实地下管线可视化技术,针对城市地下管线管理存在的问题,提出了基于Android移动端开发地下管线增强现实系统的全新解决方案(简称PipeAR).PipeAR系统结合了移动GIS技术和增强现实技术,形成一套针对城市地下管线的管理及可视化方法.借助移动GIS技术,用户可以随时随地对管线进行定位、管理,通过增强现实技术将管线的位置直观地显示给用户,同时依托空间数据库,准确地显示管线属性信息.

1 PipeAR系统的设计

系统通过移动设备的摄像头获取现实世界的影像信息,根据移动设备的位置、姿态、朝向,并依据空间数据库中的数据等,查询摄像头前方一定范围内的管线,将经过渲染的三维模型叠加到现实实景影像上,用户可以直观地获取管线位置及属性信息,又可以看到管线周围环境的实景, 使原本不可见的管线准确、实时地显示在用户面前,并随着用户位置和移动设备的姿态改变而变化,从而达到地下管线的虚拟场景与现实实景融合的效果.如果系统在现实实景中识别到检查井等地上可见标志时,会调整虚拟管线在现实实景中的位置,提高虚拟场景与现实实景融合的准确度.

PipeAR系统技术路线如图 1所示.系统主要由传感器子系统、影像获取子系统、数据处理子系统和三维渲染子系统组成.空间数据库存储地下管线的地理信息及属性信息,系统从本质上讲也是对地下管线空间数据的管理、分析及可视化.传感器子系统负责获取移动设备的位置和姿态数据;影像获取子系统负责获取现实世界的影像信息;数据处理子系统根据传感器子系统的参数和影像获取子系统的影像信息,查询、计算和处理空间数据库中的管线数据,向上供三维渲染子系统动态渲染三维虚拟场景及现实实景,最终可视化显示在移动设备屏幕上.

图 1 PipeAR系统技术路线 Fig. 1 Technical route of PipeAR system

传感器子系统是感知现实世界的主要途径,也是融合虚拟场景与现实实景的主要途径.一方面,通过GPS等定位传感器获取移动设备的位置,并依据移动设备的位置信息处理空间数据以减少三维渲染的数据量;另一方面,通过移动设备的方向传感器和重力传感器获取移动设备的姿态和朝向信息,进一步精细地计算和处理空间数据库中的数据,保证始终显示移动设备前方的管线以及虚拟场景与现实实景的融合.

影像获取子系统是获取现实世界信息的次要途径,使虚拟场景与现实实景的联系更加紧密.一方面,现实实景可以作为三维虚拟场景的底图;另一方面,系统根据实景中的管井、篦子等地下管线附属地物的位置减少传感器子系统的误差,使虚拟场景更加紧密地贴合在现实实景中.

数据处理子系统是整个系统的关键,根据传感器子系统和影像获取子系统获取的信息对空间数据进行计算分析.数据处理子系统对移动设备附近的管线进行缓冲区分析, 得到附近的管线,然后对附近的管线进行拓扑操作, 得到当前视景一定范围内的管线,遍历管线节点, 得到节点的坐标及高程信息,把坐标从地理坐标系转换到OpenGL坐标系,再转换到屏幕笛卡尔坐标系,最终供三维渲染子系统在移动设备前方的视景内渲染三维虚拟管线.当视景内出现管井等可见附属地物时,计算其在虚拟场景中的位置,进而提高虚拟场景与现实实景融合的准确度和精度.

三维渲染子系统是用户直接接触的,其渲染效果直接影响用户体验.该子系统包括现实实景渲染、虚拟场景渲染、地下管线属性信息的可视化、二维管线显示等.现实实景渲染主要是将移动设备前方的现实世界影像显示在屏幕上;虚拟场景渲染是根据数据处理子系统中得到的管线数据渲染三维虚拟场景;二维管线显示可以辅助用户了解周围管线分布,提高对周边环境的整体认知.

2 PipeAR系统的关键技术 2.1 空间数据获取处理技术

管线空间数据的获取处理是PipeAR系统的基础,也是三维场景渲染以及二维管线可视化的基础.PipeAR系统通过查阅相关档案并进行数字化录入、遥感数据处理、数据转换以及数字测量等方式获取空间信息和非空间信息,并对相关空间信息和非空间信息进行空间数据编码处理,该技术实现了管线的二、三维可视化表达.

三维场景渲染部分能可视化表达管线之间的三维空间关系及管线类别.系统获取管线的埋深等表达管线的位置关系,并对不同类型的管线采用不同的材质渲染.为了减少计算量和提高三维渲染效率,系统以移动设备当前位置为中心,一定距离为半径生成缓冲区,然后将缓冲区和管线空间数据叠置分析(求交叠置),得到所需的管线数据.数据包含管线的线段数量和管线节点的经纬度、埋深等空间数据以及管线名称、类型、材质等属性数据.

二维管线可视化部分为方便用户把握周围管线分布,系统以天地图底图分类可视化二维管线数据,并圈出虚拟场景中对应的管线,以区分未渲染的管线.

2.2 三维注册跟踪技术

三维注册跟踪技术是PipeAR系统的关键,也是虚拟场景与现实实景准确融合的关键.三维注册跟踪技术就是实时、精确地确定目标地物的位置和用户的视线方向,从而将虚拟信息准确地添加到真实环境中[6].系统采用的三维注册方法分为基于硬件传感器和基于机器视觉[7]两类.首先基于硬件传感器大致获取移动设备附近的管线; 然后基于机器视觉在小范围内跟踪注册,提高传感器注册的准确度,减少特征提取和三维渲染的计算量.

在系统中,使用方向传感器即通过加速度传感器和磁场传感器软件计算获得移动设备的朝向信息[8].使用重力传感器即通过测量重力加速度方向判断重力的方向,通过陀螺和加速度计的积分计算获得移动设备的姿态.系统提取现实世界影像中地物的特征,将这些特征和预存的地物影像进行相关度匹配[9],根据空间数据库中对应地物的真实位置计算得到管井模型在虚拟场景中的位置,提高虚拟场景与现实实景融合的准确度和精度.

2.3 增强现实渲染技术

系统虚拟场景与现实实景融合的效果最终通过视觉传达给用户,其渲染的真实感直接关系到用户体验效果.因此,增强现实渲染技术是PipeAR系统的一项关键技术.虚拟场景在视觉上是否真实主要取决于以下三点:①地下管线模型是否逼真;②地下管线之间的遮挡关系是否正确;③真实环境光照的影响.

系统由OpenGL ES图形接口驱动底层图形硬件,向上提供三维图形建模支持.在数据处理子系统支持下,根据移动设备的姿态实时改变模型的俯仰和倾斜等参数,渲染三维管线场景.为了增加地下管线的真实感,系统对管线的光线一致性及遮挡关系进行处理.系统根据真实环境的光照分布和地物的表面材质计算管线表面的光照效果以及相应的虚实阴影效果.根据管线之间的空间关系渲染相应的遮挡,防止因错误的位置破坏虚拟场景的真实感.系统通过增强现实渲染技术,使得系统虚拟场景模型更加贴近现实,并且实现了真实光照和阴影效果.

3 PipeAR系统的功能设计与应用案例 3.1 PipeAR系统的功能设计 3.1.1 二维管线功能

PipeAR系统针对地下管线,提供二维管线地图的浏览功能.系统使用天地图作为在线底图,并在此之上叠加二维管线数据.如图 2(a)所示,通过二维管线,用户可以通览管线的整体布局,以对管线有整体的认识和定位.针对地下管线分类较为复杂的特点,为准确清晰地可视化用户感兴趣的管线,如图 2(b)所示,系统支持管线分类显示.此外,系统还支持在线底图的切换以及底图标注的显示与否.

图 2 二维管线地图 Fig. 2 Two-dimensional pipeline map
3.1.2 增强现实功能

PipeAR系统增强现实功能模块会监听移动设备的位置、姿态以及朝向变化,融合虚拟场景和现实实景.如图 3所示,增强现实界面下半部分是在实景影像之上叠加显示当前视野的三维管线模型,上半部分以二维地图的形式显示二维管线,提示用户周围管线的分布情况.针对不同类型的管线,系统在二维地图中以不同的颜色进行区分.与二维管线相对应,在三维场景中以不同的材质渲染管线.

图 3 增强现实 Fig. 3 Augmented reality
3.2 PipeAR系统的应用案例

在郑州大学地下管线管理中进行PipeAR系统的实际应用试验,以验证系统的有效性.郑州大学综合管网可以分为电力、给水、燃气、热力、弱电、污水、雨水7类.校区地下管线种类繁多、关系复杂,难以精确定位管线位置,直观地获取管线信息.PipeAR系统可以融合虚拟管线和现实实景,增强用户对周边环境的认知,并以方向引导用户,极大方便了对地下管线的管理.

郑州大学地下管线管理如图 4所示.用户实际所处的位置见图 4(a),对应的增强现实界面见图 4(b).可以看出:一方面,增强现实实景中管线和实景有较高的契合度;另一方面,增强现实可以有效提示实景中不可见管线的空间位置和属性信息等内容,很明显地区分管线的类别.结果表明,该系统可以将地下管线叠加到现实场景,用户可以快速得到所需的管线信息,在短时间内加强对地下管线的认识.由此表明,该PipeAR系统是有效可行的.

图 4 郑州大学地下管线管理 Fig. 4 Underground pipeline management in Zhengzhou University
4 结束语

结合移动GIS和增强现实技术,设计并实现了基于Android移动端的地下管线增强现实系统,有效地融合了现实实景与虚拟管线场景.PipeAR系统充分利用智能手机多传感器的特点,结合本地空间数据库,通过GPS获取手机的位置,根据用户的位置信息从空间数据库获取管线数据,通过方向传感器获得移动设备朝向,通过重力传感器获得移动设备姿态,动态渲染用户附近地下管线并叠加到现实场景,同时识别管井等管线附属地物,提高三维注册的准确度和精度,达到了融合现实世界与虚拟场景、实时动态地对地下管线的各种信息进行可视化的目的.

参考文献
[1]
倪志, 康停军, 古敏聪, 等. 基于移动GIS的地下管线应用的设计与实现[J]. 测绘与空间地理信息, 2016, 39(7): 34-35. DOI:10.3969/j.issn.1672-5867.2016.07.010 (0)
[2]
王本林, 王新, 王桂春, 等. 基于GIS的城市地下管线数据采集系统设计与实现[J]. 科技展望, 2016, 26(14): 146-147. DOI:10.3969/j.issn.1672-8289.2016.14.119 (0)
[3]
郝东升.移动终端地下管线透视探查系统[D].青岛: 中国海洋大学, 2015. http://cdmd.cnki.com.cn/Article/CDMD-10423-1015715681.htm (0)
[4]
ZHANG X L, HAN Y, HAO D S, et al. ARGIS-based outdoor underground pipeline information system[J]. Journal of visual communication and image representation, 2016, 40: 779-790. DOI:10.1016/j.jvcir.2016.07.011 (0)
[5]
刘烜, 邓光林, 熊忠招. 移动GIS支持下的城市供水管网信息采集与管理[J]. 地理空间信息, 2016, 14(2): 85-87. DOI:10.3969/j.issn.1672-4623.2016.02.029 (0)
[6]
常勇, 何宗宜. 户外增强现实技术及其在地下管网三维可视化中的应用[J]. 测绘通报, 2005(11): 54-57. DOI:10.3969/j.issn.0494-0911.2005.11.016 (0)
[7]
王巍, 王志强, 赵继军, 等. 基于移动平台的增强现实研究[J]. 计算机科学, 2015(S2): 510-519. (0)
[8]
THOMAS B H, MARNER M, SMITH R T, et al. Spatial augmented reality: a tool for 3D data visualization[C]//IEEE VIS International Workshop on 3DVis. Paris, 2015: 45-50. (0)
[9]
李健, 方宏远, 崔雅博, 等. LIDAR点云数据全自动滤波算法研究[J]. 郑州大学学报(工学版), 2016, 37(1): 92-96. (0)