随着视频处理技术的发展,视频共享服务[1 - 2]取得了长足的发展,已进入了全面高清时代,正在向着超高清发展,在视频共享服务领域,视频编解码技术[3]是视频应用中的关键技术。视频传输及处理技术逐渐呈现出分布式、数字化的特点,视频系统应用复杂程度和功能整合能力也要求越来越高,特别是协同办公、视频会议、安防监控和视频指挥调度等业务对统一资源、整合应用的要求,已经成为当前视频系统行业发展的主流趋势。在交通运输领域,陈垦等[4]、殷婷婷等[5]、代左信等[6]分别基于公路、码头、航运等提出了不同的监控布局以及目标识别方法,以降低安全风险并节省人力成本;针对工业生产,李敬兆等[7]提出一种将实时性强的目标识别任务下放至边缘端将计算量大且实时性弱的边缘设备整合等任务放至云端处理,以解决监控实时性与计算速度之间的矛盾;针对防空领域,陈扬等[8]设计一种面向无人炮塔视频监控系统;针对船舶视频监控领域,张建平等[9]提出一种针对燃油输送监控系统的设计,解决油管输送等特定应用需求。
新一代舰载视频呈现分布式以及数字化特点,追求超高清画质、可提供灵活稳定高效的视频服务。本文针对此需求,采用超高分辨率接入、窄带高清编解码以及低延时传输与显示技术以实现不同显控台图形界面之间的信息共享服务。舰载视频信息共享在借鉴商用领域先进技术以及经验的基础上,还需要充分考虑舰载个性化需求,务必做到高效、可靠、低延时。
传统指控图像信息传输往往基于视频矩阵模式,占用网络带宽高,操作繁琐,无法实现任意节点之间图像信息共享,可扩展性不强。针对此特点,本文提出一种全新的图像信息共享方法,对图像信息共享方式进行研究。
1 架构设计舰载指控系统[10]是一个用于战术情报的收集处理、辅助指挥作战以及控制武器发射的系统,充分调动传感器端,指控端以及武器系统之间信息资源的实时处理以及有效利用,可有效保障指挥人员全面掌握战场态势[11 − 12],辅助其快速合理地做出决策[13]。其中舰载显控系统图像信息共享是其中的一个重要环节。
显控系统由许多个功能单元组成,按终端类型可划分为显控台、舰长桌、会商桌、显示大屏以及便携式终端等。随着舰载显控技术的发展,对显控设备的处理能力、显示能力、网络带宽提出了更高的要求[17 − 19]。每一个显控终端可装配为单平台、双平台、三平台或者四平台,单平台具有1个显示屏幕以及1个视频共享通道,双平台具有2个显示屏幕以及2个视频共享通道,以此类推。在显控系统中,任意一个终端设备均通过双冗余千兆以太网接入一体化网络交换系统,实现显控设备之间的信息交互、共享以及管控。
舰载显控台是一个多源接入设备,可接入光频/射频、卫通和模拟/数字等制式的信号源,包含了雷达、声呐、红外、光电等在内的各种视频或媒体资源;同时在分布式架构设计中,还包含了显控台、舰长桌、会商桌、显示大屏、便携式设备等节点,作为一体化网络[14]的节点单元,既可以获取其他节点设备提供的视频信息,也可以作为一个独立的视频信息的提供者,以供其他设备使用。各节点支持对接入一体化网络的任意视频流进行信息的获取、编辑、处理、显示以及统一调度,实现各类视频资源的深度整合与充分共享。一体化网通过接入各类视频资源,作战指挥系统可实现全平台视频资源的“随遇接入,全网共享”,并根据作战需求的不同,提供相应的视频服务功能;同时,通过调度系统的桥接,有效解决跨平台异构系统的视频共享和指挥调度问题,实现对所有接入的视频资源的集中管理和统一调度。在实际作战训练中,指挥员可以在指挥桌上同时调度、操作任意传感器视频和其他台位的多路图形图像等综合显示视频,在本地呈现的同时投射到远端或会议室大屏进行视频指挥、会商,并能够通过卫通或其他方式向上级、岸基指挥中心转接系统内各路视频信号[15 − 16]。舰载显控系统图像信息共享服务总体架构如图1所示。
![]() |
图 1 舰载显控系统多台位图像信息共享服务总体架构 Fig. 1 Overall architecture of multi-station image information sharing service of shipboard display and control system |
显控系统包含了多个显控终端,每一个显控终端设备均包含了1个CPU处理器、1个编解码器以及1个或多个显示器;在有些终端设备中可不必包含CPU处理器,仅用编解码器和显示器即可。在显控系统中每一个终端设备都可以作为一个独立的一体化网络接入点,既可以将台位屏幕信息通过网络视频流的方式向外推送,亦可以主动获取其他任意台位的网络视频流并将其显示在本地终端设备的屏幕上[20]。
以四平台显控设备为例,包含了4个视频共享通道,每个通道均包含了视频分辨率检测单元、视频输出接口单元、视频编码单元、视频解码单元、网络视频控制单元、网络交换单元,双冗余网络管理单元以及配置管理单元等,其原理框图如图2所示。在编码时,分辨率检测单元动态检测输入接口送过来的视频信号分辨率以及帧率等信息,将视频信号转换为并行BT1120格式送到视频编码单元;视频编码单元对接收到的视频信号按照配置管理单元指令进行编码,并将编码后视频数据送到网络视频控制单元,在网络视频控制单元进行RTSP网络视频流的封装后送到网络交换单元;双冗余网络管理单元则对封装后的RTSP视频流进行端口号以及网络IP地址的重映射等处理,将各个通道的内部IP地址转换为归一化的外部IP地址;这样编码后的各通道内部网络视频数据即可供其他设备访问。
![]() |
图 2 单节点显控设备原理框图 Fig. 2 Schematic diagram of single-node display and control device |
在解码时,配置管理单元获取上位机指令进行视频流获取操作,视频流通过双冗余网络管理单元后,双冗余网络管理单元对接收到的外部网络视频流信息进行IP地址解析,按照约定格式解析出网络视频信息的目的通道;网络视频控制单元对接收到的网络视频流信息进行协议卸载操作,将压缩视频数据送给视频解码单元进行解码工作;解码单元按照解析出的视频原始分辨率以及帧率信息还原视频,并将其按照标准的视频格式送到屏幕上进行显示[21 − 22]。
2.1 分辨率检测单元分辨率检测单元的输入是HDMI接口,负责视频信号的采集与归一化工作。视频采集单元完成视频信号接口形式的归一化,将其转换成视频编解码单元能够识别的视频输入形式。在本文中,视频采集采用高性能视频接口处理芯片,将串行差分HDMI接口转换为单端并行嵌入式同步视频信号BT1120格式。帧格式符合ITU-R(国际电信联盟无线电通信部门)规定的数据结构。以
![]() |
图 3 嵌入式同步信号BT1120数据格式 Fig. 3 Synchronization signal BT1120 data format |
其中EAV以及SAV字符如表1所示。
![]() |
表 1 逐行系统内嵌同步码定义 Tab.1 Definition of inline system synchronization code |
在分辨率检测单元中有一个信号检测模块线程,通过此线程循环对视频分辨率接收器寄存器的状态进行查询,对前端输入信号或插拔动作进行相应的寄存器配置处理,等到行场寄存器稳定后再读取具体的视频信号分辨率时序,从而达到信号插拔与输入状态的检测功能。
2.2 视频输出接口单元视频输出接口单元的输入与视频解码单元的输出相连,其输出与终端显示器相连,负责视频显示信号的处理工作。视频输出接口单元根据配置管理单元下发的指令,可以对视频输出信号来源进行选择。视频输出接口单元采用海思芯片原生态HDMI输出接口,视频输出信号具有3种来源:第一种是直接将视频输入接口视频送到视频输出接口单元进行显示,视频输出的分辨率、帧率以及画面信息与视频输入的原始信息保持一致;第二种是将视频输入接口视频与解码单元解码后的视频进行组合开窗后进行显示,组合视频输出的分辨率、帧率以及画面信息可以根据配置管理单元进行设定;第三种是直接将解码单元解码后的多个视频组合开窗后进行显示,解码视频输出的分辨率、帧率以及画面信息可以根据配置管理单元进行设定。在视频输出接口单元,可根据配置管理单元指令对输出的视频分辨率、输出窗口大小、输出窗口个数、输出窗口叠层关系等进行管理。
2.3 视频编码单元视频编码单元的输入与分辨率检测单元的输出相连,其输出与网络视频控制单元相连,负责基于H.264/H.265算法的编码功能。步骤说明如下:
步骤1 视频编码单元接收分辨率检测单元送过来的视频信号,视频输入模块对视频图像进行捕获。视频输入模块支持2种并行BT1120视频输入模式,一种是SDR模式,一种是DDR模式。
步骤2 视频输入模块对捕获的视频图像进行剪切、去噪等处理,并输出多路不同分辨率的图像视频。
步骤3 视频处理子系统模块接收视频输入模块发送过来的视频图像,对视频进行图像增强、锐化等处理,并实现同源输出多路不同分辨率的视频数据用于编码、预览或抓拍。
步骤4 编码模块接收视频处理子系统处理后的视频数据,并叠加用户设置的OSD信息,或者叠加解码后的视频数据。
步骤5 按照配置管理单元的配置要求,对获取的纯视频输入模块输出视频数据,或视频输入模块输出的视频数据与解码后的网络视频数据叠加后的数据,进行H.264或H.265的编码。
2.4 视频解码单元视频解码单元的作用是将网络视频控制单元送过来的视频数据进行解码处理。网络控制单元送过来的视频数据是对RTSP协议视频流进行解封后的纯压缩数据,可能是H.264压缩算法,也可能是H.265压缩算法。视频解码单元通过对视频码流NALU类型可判断出算法类型,同时视频码流中的SPS帧包含有信号分辨率信息,因此获取以上信息后就可以销毁原有解码算法并创建现有的解码算法,从而实现视频编码算法的自动识别。解码模块则对视频数据进行解压缩,并将解压缩视频数据存入缓冲池中便于视频输出模块调用。视频解码单元可根据上位机指令对多路网络视频流进行解码,并根据指令对各个视频流窗口尺寸大小、位置信息、叠加顺序等参数进行设置。
2.5 网络视频控制单元网络视频控制单元的作用是将视频编码单元送过来的编码数据进行网络封装,然后送到网络交换单元;或者是将网络交换单元送过来的网络数据进行协议卸载,并将其送到视频解码单元。每一个视频通道均有一个独立的网络视频控制单元,是一种并行关系,可以互相获取视频流,实现多个通道之间的视频共享服务。
2.6 网络交换单元网络交换单元实现本台位内部各通道、双冗余网络管理单元以及配置管理单元之间的网络信息互通。
2.7 配置管理单元配置管理单元主要负责响应台位CPU处理器下发的各种配置信息,以及接收台位各通道上报的状态信息。配置管理单元接收的CPU处理器信息属于台位内部配置信息,仅在台位内部通道之间进行通信,最终不会通过双冗余网络管理单元向一体化网络进行转发。
2.8 双冗余网络管理单元双冗余网络管理单元负责各台位之间的视频信息共享服务的网络实现。1个多台位图像信息共享系统具有多个台位,每个台位又具有多个通道;每个台位对外具有2条独立的网络物理连接,组成一组互为备份的双冗余网络,当其中1条连接不能正常工作时,系统立即启动备用网络连接。每个台位具有多个内部IP地址,这些IP地址可以分成2组,一组是视频网,一组是配置网;但整个台位对外只有一个IP地址,双冗余网络管理单元的功能就是将台位内部多个视频网地址转换为同一个对外的IP地址。这样在显控系统中就可以充分利用IP资源,简化网络架构,从而实现各台位的网络视频流信息的高效共享。一个简化的2台位网络连接关系如图4所示。
![]() |
图 4 台位间IP地址访问原理图 Fig. 4 Schematic diagram of IP address access between stations |
视频流推送流程如下:
步骤1 分辨率检测单元负责视频信号的采集与归一化工作,识别接入视频的分辨率、帧率等信息,并将其转化为BT1120视频格式;
步骤2 视频编码单元接收步骤1送过来的BT
步骤3 视频处理子系统模块对缓存至DDR3中的视频进行图像增强、锐化等处理;
步骤4 编码模块接收处理后的视频数据,并叠加OSD信息,或叠加解码后的视频数据;
步骤5 对处理后的数据进行H.264或H.265算法的编码;
步骤6 网络视频控制单元对编码后数据进行网络封装,使其符合RTSP协议;
步骤7 封装后的网络数据送给双冗余网络管理单元,经过IP地址转换将内部视频网IP地址转换为外网IP地址,然后将数据送入一体化网络。
2.10 视频流获取流程视频流获取流程如下:
步骤1 双冗余网络管理单元接收来自一体化网络的视频数据,经过IP地址转换将外网IP地址转换为内部视频网IP地址,然后将数据送到内部网络交换单元;
步骤2 网络视频控制单元接收经步骤1处理后的RTSP协议视频流,并对RTSP协议视频流进行解封,得到纯压缩视频数据;
步骤3 通过对视频码流NALU类型判断出算法类型,实现自适应的H.264或H.265视频解码算法的识别;
步骤4 解码模块对视频数据进行解压缩,并将解压缩视频数据存入缓冲池中便于视频输出模块调用;
步骤5 视频解码单元根据上位机指令对多路网络视频流进行解码,并根据指令对各个视频流窗口尺寸大小、位置信息、叠加顺序等参数进行设置;
步骤6 视频输出接口单元完成经步骤5处理后的视频信息的显示。
3 实验与分析 3.1 实验要素构建一个最小显控系统环境要素如表2所示。
![]() |
表 2 实验要素 Tab.2 Experimental elements |
按照图5,搭建一个最小显控台系统。每个显控台有4个显示屏幕,代表4个视频共享通道,2个显控台均连接于交换机;4个摄像头同时连接到交换网络,同时综合测试计算机也连接到交换机,显控台、摄像头以及综合测试计算机组成一个小型局域网。
![]() |
图 5 实验平台搭建 Fig. 5 Experimental platform construction |
视频指挥调度测试软件运行在上位机,提供对共享视频的参数配置,这些参数包括IP地址、端口号、编码码率、OSD叠加信息、分辨率、帧率等。演示界面提供最多9宫格,同时支持对每一个窗口的尺寸、位置、优先级等信息的配置。演示软件调度界面如图6所示。
![]() |
图 6 演示软件调度界面 Fig. 6 Illustrates the software scheduling interface |
选取典型的3个主流分辨率进行测试,分别为超高清
步骤1 配置好网络摄像头、被测显控台和陪测显控台的IP地址、编码码率、帧率以及相关OSD等信息;
步骤2 在被测显控台端获取陪测显控台端的超高清
步骤3 在被测显控台端获取陪测显控台端的高清
步骤4 在被测显控台端获取9路不同的视频源进行显示,源端分辨率均为
全屏画面显示以及9宫格显示画面如图7所示。
![]() |
图 7 视频共享测试画面 Fig. 7 Video sharing test screen |
由图7(a)可知,获取的图像信息会在左上角标记“陪试显控台屏幕2”字样,表示被测显控台可对陪试显控台提供的共享高清图像信息进行解码显示。可以看到被测显控台屏幕上的共享图像画质清晰,显示稳定,色彩鲜艳,与原始图像比较,无明显观感差别。说明显控台可对一体化网上的共享高清以及超高清视频流进行高度还原并显示。
由图7(b)可知,被测显控台可以对一体化网上的共享视频进行有选择的解码显示,同一个屏幕上可同时对9个不同的
1)由图8(a)可知,预设3个视频窗口,每个窗口的位置、尺寸都不同,子通道1优先级最高,相应的画面则优先显示;子通道2优先级最低,画面显示在最底层,重叠部分画面会被优先级更高的子通道2和子通道1的画面遮挡住。
![]() |
图 8 多窗口叠加显示 Fig. 8 Multi-window overlay display |
2)分别在不同的子通道窗口获取不同的视频源进行解码,其显示画面如图8(b)所示。
3)可任意配置窗口数量,预设每个窗口的尺寸、位置以及优先级顺序再次进行测试。
3.5.2 结果分析在子通道2位置显示的是某一个摄像头的画面,优先级最低;子通道3显示的是另一个摄像头信息,优先级比子通道2高一级,所以子通道2与子通道3的重叠部分显示子通道3的视频信息;子通道1优先级最高,所以3个子通道的重叠部分会优先显示子通道1的视频。
舰载显控系统中,操控者会根据不同传感器或台位共享视频进行有针对性的显示,对感兴趣的某个图像信息进行尺寸调整,或对多个图像信息进行叠加显示,并将某些图像信息的优先级进行配置,以满足不同的战况需求。
3.6 系统延时 3.6.1 测试方法显控台编解码系统延时测试方法如下:
1)陪测显控台运行毫秒计时器软件;
2)陪测显控台配置为
3)被测显控台获取陪测显控台视频流进行显示;
4)用高速相机拍摄陪测设备和被测设备屏幕信息,将毫秒计时工具软件界面拍摄在同一张图片上;
5)计算毫秒计时工具显示的时间差值,重复测量5次;
6)更换陪测显控台配置为
7)重复以上步骤,计算出在
![]() |
表 3 编解码系统延时差值表 Tab.3 Delay difference of codec system |
表3统计的是显控系统在2种主流分辨率下对编解码延时性能的测试,这2种分辨率分别是
从表3可知,在
从视频采集、编码、传输、解码到最终显示的系统延时,
编解码算法测试方法如下:
1)通过配置文件,将被测显控台分辨率设置为
2)在综合测试计算机中运行VLC测试软件,输入被测显控台网络串流,获取视频信息;
3)通过VLC界面的工具信息,可以分析出视频的编码算法是否是H.264;
4)将被测显控台分辨率设置为
![]() |
表 4 编解码算法测试结果 Tab.4 Test results of codec algorithm |
实现结果表明,在不同的分辨率下,通过修改上位机配置程序,此系统不仅支持标准的H.264压缩算法,亦可支持标准的H.265算法。H.264压缩算法是一种高性能的视频压缩算法,将海量原始视频数据经过一定的有损处理后,使得其数据量变小从而适应以太网络的传输。H.265算法是H.264算法的优化改进版,旨在在有限带宽下传输更高质量的网络视频,其压缩率、传输码率有了更好的表现。在舰载指控系统中,为了适应不同的传感器采集模式,本文设计的编解码系统既可以支持H.264算法,亦可以支持H.265算法,以满足不同的应用场合。
3.8 码 率 3.8.1 测试方法编码码率测试方法如下:
1)通过配置文件,将被测显控台分辨率设置为
2)在综合测试计算机中运行VLC测试软件,输入被测显控台网络串流,获取视频信息;
3)通过VLC界面的统计工具,可以查看被测显控台的码率;
4)分别将码率配置调整为4、8、16 Mbps,通过相同的方式查看VLC软件统计的码率。测试结果如表5所示。
![]() |
表 5 码率测试结果 Tab.5 Bit rate test results |
测试值说明通过上位机配置程序,可以控制显控台各个通道的输出码率,此码率是一个近似配置,实际的码率会在配置数值的上下波动,并不是固定不变的;同时,此码率也不会无限增大,取值一般在1~32 Mbps。在同一种编码算法环境下,码率与视频还原清晰度有着紧密的关系,码率越小说明压缩率越大,占用的网络带宽越小,还原后的视频越不清晰;反之,如果码率越大,则压缩率越小,占用的网络带宽越大,还原后的视频则越清晰。在舰载指控系统中,一般有几十上百个显控台以及传感器,怎样平衡网络带宽与清晰度之间的关系显得特别重要。一般在目标识别、跟踪、导航等设备中,对清晰度要求更高,则可以将这些传感器的码率配置高一些;而对即时通信、视频互视、信号监测等对清晰度要求不太高的设备中可以将其码率配置低一些。
4 结 语本文提出的图像信息共享架构,具有信号双向流动、网络带宽可调节、控制简单以及很强的可扩展性等特点,同时该方法可简化视频系统的硬件配置,提升数据传输效率,缩短系统传输延时,提高指控系统作战效能。
[1] |
上海艾瑞市场咨询有限公司. 中国视频云服务研究报告[R]. 艾瑞咨询系列研究报告, 2022[8]: 288−232.
|
[2] |
蔡佳, 韦胜钰, 黄林轶, 等. 超高清视频产业专利态势分析[J]. 电视技术, 2022, 46(6): 197−203.
|
[3] |
SHI Y Q, SUN H F. image and video compression for multimedia engineering: fundamentals, algorithms, and standards[M]. Crc Press, 1999.
|
[4] |
陈垦, 王世法, 谭屈山, 等. 高速公路无线施工视频监控、图像处理及编码技术综述[J]. 无线电工程, 2023, 53(8): 1815-1825. DOI:10.3969/j.issn.1003-3106.2023.08.011 |
[5] |
殷婷婷, 吴俊孟, 钱龙, 自动化集装箱码头视频监控系统设计[J]. 水运工程, 2022(10): 204−207.
|
[6] |
代左信, 杨显义, 田定军, 等. 高端客滚船视频监控系统设计[J]. 船海工程, 2023, 52(4): 74-78. DOI:10.3963/j.issn.1671-7953.2023.04.017 |
[7] |
李敬兆, 秦晓伟, 汪磊. 基于边云协同框架的煤矿井下实时视频处理系统[J]. 工矿自动化, 2021, 47(12): 1-7. |
[8] |
陈扬, 张振华, 霍文健, 等. 面向无人炮塔视频监控系统的设计与实现[J]. 火力与指挥控制, 2023, 48(6): 157-161. DOI:10.3969/j.issn.1002-0640.2023.06.025 |
[9] |
张建平, 庹艾莉, 辛宇. 大型船舶燃油输送监控系统设计[J]. 中国舰船研究, 2014(2): 111-116. DOI:10.3969/j.issn.1673-3185.2014.02.020 |
[10] |
金欣. 指挥控制智能化现状与发展[J]. 指挥信息系统与技术, 2017, 8(4): 10−18.
|
[11] |
李归, 伍光新, 薛慧, 等. 海战场态势生成技术发展综述[ J]. 电讯技术, 2022, 62(5): 678−685.
|
[12] |
段玉先, 刘昌云, 魏文凤. 战场态势感知关键技术研究[J]. 火力与指挥控制, 2021, 46(11): 1-11. DOI:10.3969/j.issn.1002-0640.2021.11.001 |
[13] |
聂俊峰, 陈行军, 史红权. 面向任务驱动的海上编队云作战体系动态超网络模型[J]. 兵工学报, 2021, 42(11): 2513−2521.
|
[14] |
刘犇, 熊雄, 李金鹏, 等. 基于实时性区分的舰载网络传输优化算法[J]. 中国舰船研究, 2020, 15(S1): 157–165+179.
|
[15] |
童文滔, 程红波. 综合视频服务在作战指挥系统中的应用研究[C]//第九届中国指挥控制大会论文集, 2021.
|
[16] |
车嵘, 李云, 曹敏, 等. 视频指挥调度系统现状分析及发展预测[C]//第五届中国指挥控制大会论文集, 2017.
|
[17] |
王永生, 李兵. 俄罗斯新一代舰载指控系统的设计思想[J]. 火力与控制系统, 2015, 40(1): 5−15.
|
[18] |
王大颜, 瞿珏, 王崴, 等. 防空反导装备指控舱显控台界面布局优化设计与评价[J]. 空军工程大学学报(自然科学版), 2021, 22(5): 104-111. |
[19] |
李光, 李杰, 王梦潇. 指挥中心显控技术及应用[J]. 指挥信息系统与技术, 2018, 9(3): 79-84. |
[20] |
李毅航, 张宽, 尹雅君, 等. 4K视频流HEVC编解码传输的异构多核方法研究[J]. 现代电子技术, 2019, 42(6): 121−125.
|
[21] |
北京计算机技术及应用研究所. 一种国产四路超清图像综合显示装置的实现方法[P]. 中国发明专利, CN 112367509 A. 2020−11−10.
|
[22] |
乔莉, 李博, 舒行科, 等. 高清视频HEVC编码实时传输系统的设计[J]. 实验室研究与探索, 2018, 37(11): 129-132. DOI:10.3969/j.issn.1006-7167.2018.11.033 |
[23] |
王伟伟, 项世珍, 董盛鹏, 等. PAL视频监控系统实时性分析和优化[J]. 计算机应用, 2021, 41(S2): 330-334. |
[24] |
索旭东, 林琳, 李康华, 等. 低延时智能监控系统设计与实现[J]. 计算机时代, 2023(1): 74−77.
|