无人艇自主决策技术依赖先进的信息融合技术来获取船舶的状态信息以及计算机对状态数据的分析处理能力,使得无人艇可以快速、准确地应对复杂环境,提高任务的完成质量和效率。由于无人艇自主决策时面临环境场景复杂以及多源数据难以整合形成有效的决策支撑等问题,因此研究无人艇自主决策场景下的异构知识表达与推理技术具有重要价值。
目前,无人艇自主决策领域的推理方法主要基于规则驱动以及数据驱动。基于规则驱动的方法包括专家系统[1]、问答系统[2]。基于数据驱动的方法又可以划分为基于概率逻辑的方法以及基于深度学习的方法。前者根据预定义的规则生成概率逻辑下的决策计划,比如D'ANIELLO等[3]使用模糊推理建立一套if-then 规则的知识库,不需要专家给出明确定义和解释用来做决定的规则,只需要给出示例;Li等[4]构建多实体贝叶斯网络对水下机器人决策信息进行推理。后者则是把推理任务抽象为分类等逻辑任务,通过构建神经网络模型得到不同情况下的决策方案,Gao等[5]使用双向长短期记忆网络来将无人艇数据进行训练得到避碰策略;Chen等[6]使用卷积神经网络实现了无人车的辅助驾驶决策系统。基于规则驱动的方法依赖专家经验,降低了决策的实用性,基于数据驱动的方法缺乏对复杂场景以及多源数据的统一描述。
知识图谱[7]技术的发展,使得复杂场景的描述更加准确,从数据中获取知识的表达能力得到较大提高,很多领域知识应用可以得以实现。Zhang等[8]构建了海上货物运输的知识图谱来实现专业化的自动检索功能;Chen等[9]提出了一种针对无人系统的知识图谱构建框架,并构建了高质量的知识图谱来实现评估。然而,目前大多数领域知识图谱的构建只是用于简单的搜索问答应用,忽略了决策信息的挖掘。无人艇自主决策涉及诸多复杂场景和海量的多源数据,决策信息量巨大,较难获取。知识图谱技术为无人艇自主决策信息的挖掘提供了系统的方法,主要包括无人艇自主决策领域多源知识表示与知识推理技术等。
针对无人艇自主决策领域知识的表示问题以及知识推理问题,本文提出一种无人艇自主决策领域知识图谱的建模框架,该框架将无人艇自主决策领域要素排列成多个层次,为知识推理提供统一的语义基础,在此基础上设计一种融合元路径信息的图神经网络技术实现知识推理,可以有效地解决无人艇自主决策领域知识图谱稀疏性和不平衡节点的问题。在构建的无人艇自主决策领域知识图谱中,采用提出的嵌入模型进行链路预测实验,取得了较好的效果,可以支撑下游的推理任务。
1 无人艇自主决策领域知识图谱建模框架无人艇在进行任务场景下的决策推理时,需要考虑复杂多变的态势特征,为了提高系统对态势信息的理解和分析能力,可以使用知识图谱对无人艇自主决策领域内的多源异构数据进行编排,用于后续的决策推理目的(简称为USV-KG)。USV-KG用来描述无人艇决策过程中涉及到的方方面面,包括但不局限于行为主体、决策目标、设备数据、资源条件。表1和表2列举了领域知识图谱中节点和边的类型。
![]() |
表 1 USV-KG中的节点 Tab.1 Nodes in USV-KG |
![]() |
表 2 USV-KG中的边 Tab.2 Edges in USV-KG |
目前,大多数研究者通常采用自顶向下[9]或者自底向上[10]的单一构建方式构建图谱,无法保证获取数据的质量和数量。此外领域知识来源于多源异构数据,因此需要分别设计知识抽取和知识融合技术。本文综合考虑当前先进的领域图谱构建技术,针对无人艇自主决策这一场景,提出USV-KG的构建思路,主要包含4个阶段,如图1所示。
![]() |
图 1 USV-KG构建框架 Fig. 1 The construction flowchart of USV-KG |
首先,设计知识本体框架,即知识图谱的模式层。该框架是一种分层的无人艇本体推理框架,包括设备层、数据层、感知层。为了更好地理解这种分层框架,以图2所示为例,设备层包含了无人艇自身属性以及重要功能,感知层包含了无人艇决策涉及到的目标和环境信息,而数据层则处于两层之间,描述了无人艇自身以及感知内容的数据信息。这种分层模式具有可扩展性强以及层级推理的优势。
![]() |
图 2 无人艇本体框架示例图 Fig. 2 Example diagram of the ontology framework for USV |
其次,设计知识抽取模块。无人艇领域内的数据通常是异构的,涉及到文本、日志、音频、传感器数据等。在文本数据方面,使用命名实体识别[11]等技术来提取USV-KG所需要的三元组,传感器数据属于数值型数据,可以采用映射框架提取[12],音频数据可以采用当前比较先进的语义分割[13]等方法,提取知识,统一形成知识库。基于上述建立的本体框架进行知识填充,由于初始的USV-KG包含不正确以及冗余的信息,因此需要进行实体对齐和质量评估操作[14]。建立的USV-KG可以采用RDF资源描述文件存储,也可以在Neo4j图形数据库中存储,以便提供可视化操作和简单查询操作。
最后,构建的USV-KG可以用于很多下游应用,为无人艇决策任务提供知识来源。
2 无人艇自主决策领域知识推理模型 2.1 关键概念定义无人艇自主决策知识图谱构建既需使用广义表示学习能力从多模态数据中学习任务场景特征并提取知识,又需利用知识图谱的表示学习完成知识的补全和下游推理任务。面向知识图谱的表示学习,又称知识图谱的图嵌入学习,旨在将知识图谱的实体与关系映射到低维且稠密的分布式向量表示[15 − 16]。因此先给出模型涉及到的一些关键定义。
定义1 推理任务:给定一个USV-KG:
定义2 知识图谱表示学习:给定一个网络结构,即USV-KG,目标是学习到能够描述图结构和语义信息的向量表示
定义3 元路径:是在网络中定义的节点类型和边类型的有序序列,可以用
近些年,随着图神经网络研究的深入,更多的学者开始使用图神经网络来对知识图谱进行嵌入学习。针对知识图谱这种异构多关系的图结构,Schlichtkrull提出了多关系GCN模型[17],在学习每个实体的表示时,针对当前实体关联的每个关系分别用GCN执行聚合操作,第一次实现了图神经网络作用于知识图谱。虽然图神经网络可以对图的结构信息进行充分聚合,但还是忽略了图上有价值的路径信息。因此本文提出一种融合元路径信息的图嵌入模型MPGE,模型整体结构如图3所示,主要包含3个部分,输入为USV-KG。首先,提取目标节点周围的封闭子图,使用GNN网络来对目标节点特征和子图中的邻居特征聚合。然后对USV-KG中的所有元路径实例进行编码聚合得到节点的嵌入表示。最后将2种嵌入方式进行有效融合来得到最终的节点嵌入表示。
![]() |
图 3 MPGE模型结构图 Fig. 3 MPGE model architecture |
首先,由于KG中特定的三元组局部结构图邻域包含推导的目标节点之间关系所需的信息,因此,先提取目标节点周围封闭的子图,定义节点
然后,由于GNN需要一个节点特征矩阵作为输入用于消息传递的初始化,因此根据节点在子图中相对目标节点的拓扑位置对提取的子图进行标记,即用
最后,采用GNN模型来对节点表示和相邻节点进行聚合迭代来更新节点表示。GNN模型的第
$ {a}_{t}^{k}={\mathrm{AGGREGAT{E}}}^{k}\left(\left\{{h}_{s}^{k-1}:s\in N\left(t\right)\right\}\text{,}{h}_{t}^{k-1}\right),$ | (1) |
$ {h}_{t}^{k}={\mathrm{COMBIN{E}}}^{k}\left({h}_{t}^{k-1}\text{,}{a}_{t}^{k}\right)。$ | (2) |
式中:
$ {a}_{t}^{k}=\sum _{r=1}^{R}\sum _{s\in {N}_{r}\left(t\right)}{\alpha }_{r{r}_{t}st}^{k}{W}_{r}^{k}{h}_{s}^{k-1},$ | (3) |
$ {h}_{t}^{k}=\mathrm{R}\mathrm{e}\mathrm{L}\mathrm{U}\left({W}_{self}^{k}{h}_{t}^{k-1}+{a}_{t}^{k}\right) 。$ | (4) |
式中:
由于异构图不同的节点类型可能具有不同的特征向量维度,即可能不位于同一个特征空间中,因此需要将不同的特征投影到一个潜在的向量空间中,如下式:
$ {h}_{v}^{{'}}={{\boldsymbol{W}}}_{A}{x}_{v}^{A}。$ | (5) |
式中:
对于一种元路径类型
$ {h}_{P}=f\left(P\right)=f\left({h}_{v}^{{'}}\text{,}{h}_{u}^{{'}}\text{,}\left\{{h}_{t}^{{'}}{,}\forall t\in \left\{{m}^{P}\right\}\right\}\right)。$ | (6) |
式中:
$ {h}_{v}^{P}=\delta \left(\sum _{u\in {{ N}}_{v}^{P}}{\alpha }^{P}·{h}_{P}\right) 。$ | (7) |
式中:
最后对不同类型的元路径向量也要进行聚合,这里采用文献[18]中的图注意力网络进行融合,通过聚合节点
对于上面2个模块学习到的向量表示
$ {h}_{{v}_{i}}=\sigma \left(W\left({h}_{{v}_{i}}^{1}\oplus{h}_{{v}_{i}}^{2}\right)+b\right) 。$ | (8) |
得到的嵌入向量用于下游任务链接预测等,因此需要设计损失函数,对于训练图中出现的每个三元组,通过随机采样替换头部或者尾部实体得到负三元组,通过梯度下降法训练模型使得正三元组的得分大于负三元组得分,如下所示:
$ \begin{split} \ell=-\sum _{\left(u\text{,}r\text{,}v\right)\in T}&\sum _{\left({u}^{{'}}\text{,}{r}^{{'}}\text{,}{v}^{{'}}\right)\in {T}^{{'}}}\mathrm{m}\mathrm{a}\mathrm{x}\{S\left(u\text{,}r\text{,}v\right)-\\ &S\left({u}^{{'}}\text{,}{r}^{{'}}\text{,}{v}^{{'}}\right)+1\text{,}0\} 。\end{split}$ | (9) |
式中:
实验中采用的数据来源于第一章构建的USV-KG,包含6种节点类型、11种关系类型、
![]() |
表 3 模型超参数设置 Tab.3 Model hyperparameter setting |
为了验证链接预测的性能,采用几个常用的评价指标,如下式:
$ Hit@n=\frac{1}{N}\sum _{i=1}N\left(ran{k}_{i}\leqslant n\right),$ | (10) |
$ MRR=\frac{1}{N}\sum _{i=1}N\left(\frac{1}{ran{k}_{i}}\right) 。$ | (11) |
式中:
本文提出的MPGE模型是为了在USV-KG中预测缺失三元组即预测缺失的关系和实体,从而提供知识推理的功能。本实验将提出的模型分别与不同类型的链接预测模型进行对比,采用3.1节设定的指标进行分析。表4为4个模型的预测效果,总体而言只有在
![]() |
表 4 各模型链接预测效果 Tab.4 Results for different link prediction models |
为了验证不同模块对模型性能的影响,在本次消融实验中,分别对元路径聚合模块、子图提取图神经网络嵌入模块、单独子图提取模块进行去除。实验结果如表5所示,
![]() |
表 5 消融实验结果 Tab.5 Results of ablation study |
为了进一步说明模型在无人艇场景推理中的作用,这里以无人艇横倾影响因素为例,如图4所示。这个问题可以转化成推理(?,影响,横倾)这个三元组的头节点是什么,在模型中通过计算每一个实体在这个三元组中作为头节点得分函数的结果来进行排名,从而提供推荐。图中实线是已经有的链接作为输入,而虚线是需要预测的链接,可以看到模型预测结果中把水下有硬物这个节点排在第1名,预测结果准确,可以看到排在前3名的实体都是可靠答案。需要注意的是,虽然该方法目的是为了实现无人艇任务场景下的自主推理问题,但是无法保证节点以及边的预测总是准确的,因此还需要操作人员进行评估。
![]() |
图 4 USV-KG推理示例 Fig. 4 Reasoning for USV-KG example |
知识图谱目前在多个领域显示了其优秀的数据整合能力,因此把知识图谱引入无人艇领域可以为无人艇航行过程的决策问题提供有效的知识支撑。本文提出的知识图谱建模框架可以为后续的具体无人艇自主决策场景下的知识建模提供参考,后续研究应该集中在对关系的探索上,力求构建出更符合实际情况的无人艇自主决策知识图谱。
本文在无人艇自主决策研究中采用知识图谱嵌入算法进行链路预测来实现无人艇的决策推理任务,设计的算法在稀疏性数据上得到了较好的效果。然而本文也存在了一些局限性,例如对于边和节点的描述的质量有限,提取的数据量有限。希望本研究可以带来无人艇领域知识图谱辅助决策方向的更多进展。与此同时,下一步的研究方向将集中在将时间信息纳入知识图谱推理中。
[1] |
郭忠毅, 龙飞, 樊慧津, 等. 基于CLIPS的智能无人飞艇故障诊断专家系统开发[J]. 计算技术与自动化, 2020, 39(1): 1-7. GUO Z Y, LONG F, FAN H J, et al. Fault diagnosis expert system development for intelligent airship based on CLIPS[J]. Computing Technology and Automation, 2020, 39(1): 1-7. |
[2] |
CHEN X, HUANG C, YAO L, et al. Knowledge-guided deep reinforcement learning for interactive recommendation[C]//2020 International Joint Conference on Neural Networks (IJCNN), IEEE, 2020.
|
[3] |
D’ANIELLO G, GAETA M. Dominance-based rough set approach supporting experts in situation assessment[C]//2019 IEEE Conference on Cognitive and Computational Aspects of Situation Management (CogSIMA), IEEE, 2019.
|
[4] |
LI X, BILBAO S, MARTÍN-WANTON T, et al. SWARMs ontology: A common information model for the cooperation of underwater robots[J]. Sensors, 2017, 17(3): 569. DOI:10.3390/s17030569 |
[5] |
GAO M, SHI G Y. Ship-collision avoidance decision-making learning of unmanned surface vehicles with automatic identification system data based on encoder-Decoder automatic-response neural networks[J]. Journal of Marine Science and Engineering, 2020, 8(10): 754. DOI:10.3390/jmse8100754 |
[6] |
CHEN C, SEFF A, KORNHAUSER A, et al. Deepdriving: Learning affordance for direct perception in autonomous driving[C]//Proceedings of the IEEE International Conference on Computer Vision, 2015.
|
[7] |
JI S, PAN S, CAMBRIA E, et al. A survey on knowledge graphs: Representation, acquisition, and applications[J]. IEEE Transactions on Neural Networks and Learning Systems, 2021, 33(2): 494-514. |
[8] |
ZHANG Q, WEN Y, ZHOU C, et al. Construction of knowledge graphs for maritime dangerous goods[J]. Sustainability, 2019, 11(10): 2849. DOI:10.3390/su11102849 |
[9] |
CHEN Y, WANG J, ZHU S, et al. Knowledge graph construction for foreign military unmanned systems[C]//China Conference on Knowledge Graph and Semantic Computing. Singapore: Springer Nature Singapore, 2022.
|
[10] |
马玉凤, 向南, 豆亚杰. 军事系统工程中的知识图谱应用及研究[J]. 系统工程与电子技术, 2022, 44(1): 146-153. MA Y F, XIANG N, DOU YJ. Appliction and research of knowledge graph in military system engineering[J]. System Engineering and Electrinics, 2022, 44(1): 146-153. DOI:10.12305/j.issn.1001-506X.2022.01.19 |
[11] |
ZHANG G, CAO X, ZHANG M. A knowledge graph system for the maintenance of coal mine equipment[J]. Mathematical problems in engineering, 2021(1): 2866751. |
[12] |
WANG J, LI R, LI R, et al. A knowledge-based deep learning method for ECG signal delineation[J]. Future Generation Computer Systems, 2020, 109: 56-66. DOI:10.1016/j.future.2020.02.068 |
[13] |
WANG K, LIEW J H, ZOU Y, et al. Panet: Few-shot image semantic segmentation with prototype alignment[C]//Proceedings of the IEEE/CVF International Conference on Computer Vision, 2019.
|
[14] |
SEVGILI O, PANCHENKO A, BIEMANN C. Improving neural entity disambiguation with graph embeddings[C]//Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics: Student Research Workshop, 2019.
|
[15] |
BORDES A, USUNIER N, GARCIA-DURAN A, et al. Translating embeddings for modeling multi-relational data[J]. Advances in Neural Information Processing Systems, 2013.
|
[16] |
DETTMERS T, MINERVINI P, STENETORP P, et al. Convolutional 2d knowledge graph embeddings[C]//Proceedings of the AAAI Conference on Artificial Intelligence, 2018.
|
[17] |
SCHLICHTKRULL M, KIPF T N, BLOEM P, et al. Modeling relational data with graph convolutional networks[C]//The semantic web: 15th international conference, ESWC 2018, Heraklion, Crete, Greece, June 3–7, 2018, Proceedings 15. Springer International Publishing, 2018.
|
[18] |
FU X, ZHANG J, MENG Z, et al. Magnn: Metapath aggregated graph neural network for heterogeneous graph embedding[C]//Proceedings of the Web Conference 2020, 2020.
|