«上一篇
文章快速检索     高级检索
下一篇»
  智能系统学报  2018, Vol. 13 Issue (5): 693-699  DOI: 10.11992/tis.201704007
0

引用本文  

傅蔚阳, 刘以安, 薛松. 基于改进KH算法优化ELM的目标威胁估计[J]. 智能系统学报, 2018, 13(5): 693-699. DOI: 10.11992/tis.201704007.
FU Weiyang, LIU Yi’an, XUE Song. Target threat assessment using improved Krill Herd optimization and extreme learning machine[J]. CAAI Transactions on Intelligent Systems, 2018, 13(5): 693-699. DOI: 10.11992/tis.201704007.

基金项目

江苏省自然科学基金项目(BK20160162).

通信作者

傅蔚阳. E-mail:18806186287@163.com

作者简介

傅蔚阳,男,1993年生,硕士研究生,主要研究方向为雷达对抗、人工智能;
刘以安,男,1963年生,教授,博士,主要研究方向为数据融合与数据挖掘、雷达对抗、模式识别与智能系统。主持或参与教育部、国防科工委、江苏省教育厅等省部级项目5项。发表学术论文60余篇;
薛松,男,1987年生,工程师,主要研究方向为信号与信息处理、内场仿真系统设计。发表学术论文2篇

文章历史

收稿日期:2017-04-12
网络出版日期:2018-04-24
基于改进KH算法优化ELM的目标威胁估计
傅蔚阳1, 刘以安1, 薛松2    
1. 江南大学 物联网工程学院,江苏 无锡 214122;
2. 中国船舶重工集团公司第七研究院 电子部,北京 100192
摘要:为了提高目标威胁度估计的精确度,建立了反向学习磷虾群算法(OKH)优化极限学习机的目标威胁估计模型(OKH-ELM),提出基于此模型的算法。该模型使用反向学习策略优化磷虾群算法,并通过改进后的磷虾群算法优化极限学习机初始输入权重和偏置,使优化后的极限学习机能够对威胁度测试样本集做更好的预测。实验结果显示,OKH算法能够更好地优化极限学习机的权值与阈值,使建立的极限学习机目标威胁估计模型具有更高的预测精度和更强的泛化能力,能够精准、有效地实现目标威胁估计。
关键词目标威胁估计    磷虾群算法    极限学习机    反向学习    神经网络    权值    阈值    威胁估计模型    
Target threat assessment using improved Krill Herd optimization and extreme learning machine
FU Weiyang1, LIU Yi’an1, XUE Song2    
1. School of Internet of Things Engineering, Jiangnan University, Wuxi 214122, China;
2. Electronic Department, The Seventh Research Institute of China Shipbuilding Industry Corporation, Beijing 100192, China
Abstract: To improve the accuracy of target threat estimation, the opposition-based learning Krill Herd optimization (OKH) and extreme learning machine (OKH-ELM) model is established, and the algorithm based on the model is presented. The OKH-ELM adopts opposition-based learning (OBL) to optimize KH, and then the improved KH and extreme learning machine are employed to simultaneously optimize the initial input weights and offsets of the hidden layer in ELM. A target threat database is adopted to test the performance of OKH-ELM in target threat prediction. The experimental result shows that OKH Algorithm can better optimize the weights and thresholds of the hidden layer in ELM and improve the prediction precision and generalization ability of the target threat assessment model; therefore, it can accurately and effectively estimate target threat.
Key words: target threat assessment    Krill Herd algorithm    extreme learning machine    opposition-based learning    neural networks    weights    thresholds    threat estimation model    

严格来讲,目标威胁估计是一个NP困难问题[1]。在进行威胁估计时,给出一个各种因素与威胁程度的函数关系困难很大。文献[2]使用BP神经网络处理目标威胁估计问题获得了不错的结果,但BP神经网络也有着明显缺点,比如训练时间长、易陷入局部极值、学习率η选择敏感等。所以本文提出了改进的磷虾群算法(opposition-based learning Krill Herd optimization, OKH)优化极限学习机的目标威胁估计模型。磷虾群算法是2012年由Gandomi等[3]提出的一种新的仿生优化算法。由于其参数少、模型简单、算法性能好而获得大量运用。但是在处理复杂的优化问题时,其易陷入局部极值和出现算法后期收敛速度变慢的问题[4]。极限学习机[5-6]是一种针对单隐含层前馈神经网络(single-hidden layer feedforward neural netwark, SLFN)的算法。该算法与传统训练方法相比,具有学习速度快、泛化性能好的优点,但对初始权值与阈值过度依赖[7]。为解决上述缺点,本文提出了OKH算法,利用收集到的目标威胁度数据建立了目标威胁估计模型 (extrem learning machine,ELM) ,并使用反向磷虾群算法优化ELM模型的初始参数。为了验证本模型的可靠性,将本模型与其他几种神经网络模型作了对比研究。

1 反向磷虾群算法 1.1 标准磷虾群算法

KH算法是基于自然界磷虾群寻找食物和相互通信的模拟,采用拉格朗日模型模拟磷虾的移动且引入了遗传算子来提高物种多样性[8-9]。在KH算法中,每个磷虾都代表了n维解空间中的一个潜在解,磷虾食物代表了算法寻优需要找到的全局最优解。与其他仿生算法相比,磷虾群算法实现起来较为容易,除了时间间隔依据需求人为设定,剩余参数都取自真实生态的研究结果,所以有效避免了因参数设置不当而导致的算法性能下降问题[10]。该算法具体流程如下。

1)磷虾个体的速度更新公式为

$\frac{{{\rm{d}}{{{X}}_i}}}{{{\rm{d}}t}} = {{{N}}_i} + {{{F}}_i} + {{{D}}_i}$ (1)

式中:Xi为磷虾的状态;Ni为受诱导运动的速度矢量;Fi为觅食行为的速度矢量;Di为随机扰动的速度矢量;下标i表示第i只磷虾。

2)受诱导运动:

${{{N}}_i}^{{\rm{new}}} = {N^{\max }}{{{\alpha}} _i} + {\omega _n}{{{N}}_i}^{{\rm{old}}}$ (2)

式中: $ {{{N}}_i}^{{\rm{new}}} $ 为新的受诱导运动速度矢量; $ {{{N}}}^{{\rm{new}}} $ =0.01 m/s为最大诱导速度;ωn $ \in $ (0,1)是受诱导运动的惯性权重;Niold是上次的受诱导运动速度矢量;αi为移动方向,αi=αilocal+αitargetαilocal为相邻磷虾的方向引导,αitarget是最优磷虾的方向引导。

3)觅食行为:

${{F}}_i^{{\rm{new}}} = {V_f}\left( {{{\beta}} _i^{{\rm{food}}} + {{\beta}} _i^{{\rm{best}}}} \right) + {\omega _f}{{F}}_i^{{\rm{old}}}$ (3)

式中:Finew表示觅食行为产生的速度矢量;Vf是觅食速度,一般取0.02 m/s;ωf $ \in $ (0,1)是觅食行为的惯性权重;βifood是食物的吸引力;βibest是从迭代开始到当前时刻个体i的最优状态;Fiold是上一次觅食行为产生的速度矢量。

4)随机扰动:

${{{D}}_{{i}}} = {D^{\max }}\left( {1 - \frac{I}{{{I_{\max }}}}} \right){{\delta}} $ (4)

式中:Dmax $ \in $ [0.002,0.010] m/s是最大扰动速度; ${{\delta}} $ 为每个变量服从(–1,1)均匀分布的方向矢量。

5)状态更新:

${{{X}}_i}(t + \Delta t) = {{{X}}_i}(t) + \Delta t\frac{{{\rm{d}}{{{X}}_i}}}{{{\rm{d}}t}}$ (5)

式中: $\Delta t$ 为时间间隔,必须根据实际问题进行选择。

最后,重复进行受诱导运动、觅食行为、随机扰动,直到满足最大迭代次数后寻优停止。

1.2 改进的磷虾群算法

研究可以发现,对于标准磷虾群算法,随着迭代次数的不断增加,所有磷虾个体都朝同方向运动,使得磷虾群趋同性变得严重[11-12]。本文采用反向学习策略[13-14]对标准磷虾群算法的初始种群与迭代后的种群进行改进,成功改善了磷虾个体的分布特性和算法的寻优范围,使得算法精度和收敛速度得到较大提高。本算法主要有以下两点改进。

1)优化初始种群位置

即使没有先验知识的情况下,利用反向点,也能获得一组较好的初始候选解(初始种群)。过程如下:

①随机初始化种群P

②计算反向种群OP,即

$O{P_{a,b}} = {x_a} + {y_a} - {P_{a,b}}$ (6)

式中: $a = 1,2, \cdots ,{N_p}$ $b = 1,2, \cdots ,n$ $O{P_{a,b}}$ ${P_{a,b}}$ 分别表示反向种群位置与种群位置中a维第b个变量的值; ${x_a}$ ${y_a}$ 分别表示第a维元素的最大值和最小值。

③分别计算POP中个体的适应度,从中取适应度值较好的n个体生成新的初始种群NP

2)优化迭代过程中的种群位置

同理,如果在迭代的过程中也使用类似的反向学习方法,就能够提高算法的全局搜索能力。算法迭代开始前,设置反向学习优化选择概率p。每当完成一次迭代,计算出新的种群位置后,依据p来决定是否对种群进行反向学习优化(p的大小根据实际需要决定)。过程如下:

①生成一个随机数rand(0,1)。如果rand(0,1)<p,则转入②,否则,直接进入算法下一轮迭代。

②计算动态反向种群OP

$OP_{a,b}^{} = {\rm{Min}}_a^{{t}} + {\rm{Max}}_a^{{t}} - P_{a,b}^{}$ (7)

式中, ${\rm{Min}}_a^{{t}}$ ${\rm{Max}}_a^{{t}}$ 分别表示第t次迭代第a维元素的最小值与最大值。

③使用适应度评价函数计算P和与其对应的OP中个体的适应度值。如果 ${f'_i} < {f_i}$ ,则用OPi替代Pi,全部比较、替换后的种群P就是新的种群。其中, ${f_i}$ ${f'_i}$ 分别表示第i个个体和与其对应的反向个体的适应度值,OPi表示第i个反向个体。

④进入下一轮OKH迭代。

随着搜索进程的深入,当前迭代的搜索区间远小于最初的搜索区间,使得种群快速逼近最优解。

OKH算法流程:①参数初始化,即最大迭代次数I、种群规模N、最大扰动速度Dmax、时间间隔 $\Delta t$ 以及优化选择概率p;②初始化种群位置并利用反向学习优化初始种群位置;③计算此时每个磷虾个体对应的适应度值;④分别计算受诱导运动、觅食行为、随机扰动所产生的个体位置变化量;⑤使用公式(5)更新磷虾位置;⑥生成rand (0,1),如果rand (0,1) < p,根据公式(7)计算动态反向种群并计算POP中个体的适应度值。如果 ${f'_i} < {f_i}$ ,则用OPi替代Pi,生成新的种群,否则直接进入⑦;⑦计算磷虾个体新位置矢量的适应度,然后重复④~⑦,直到达到最大迭代次数,算法结束;⑧输出最终的迭代结果,即最优解。

1.3 算法性能分析

为了验证OKH算法,选择6个基准测试函数进行仿真分析并与标准KH算法、PSO算法作比较。测试函数见表1

表 1 测试函数 Tab.1 Test functions

OKH算法和KH算法的参数设置一致:最大扰动速度Dmax=0.005 m/s,觅食速度Vf =0.02 m/s,最大诱导速度Nmax=0.01 m/s。特别的,OKH中反向学习优化选择概率p=0.5。PSO参数设置为学习因子c1=c2= 1.5。为保证公平性,3种算法的其他参数一致:初始种群规模为30,最大迭代次数为200,维数为10,运行次数为10。将10次寻优的最优值、最差值、平均值以及均方差记录下来。实验结果如表2所示。

表 2 3种算法的性能比较 Tab.2 Comparison of three algorithms

表2可以发现,相较于KH算法、PSO算法,OKH算法具有更好的寻优效果。尤其在多峰函数中表现更为优异,不仅搜索精度更高而且跳出局部最优的能力更强。从均方差可知,OKH算法的鲁棒性也优于另外两种算法。

2 基于OKH-ELM的目标威胁估计 2.1 目标威胁估计因素

目标威胁估计问题需要统筹的因素很多,比如天气、地形、敌、我、邻军的战斗力及兵力部署和指战员作战风格等[15-16]。进行威胁估计时,通常需考虑以下的因素:

1)目标类型:大型目标(强击机、轰炸机等)、小型目标(隐身飞机、空地导弹等)、武装直升机。

2)目标速度:如30 m/s、44 m/s、120 m/s等。

3)目标方位角:如3°、6°、9°等。

4)目标高度:如低空、中空、高空。

5)目标抗干扰能力:如无、弱、中、强。

6)目标距离:如50 km、100 km、150 km等。

2.2 OKH-ELM目标威胁估计模型

对于随机产生初始输入权值和阈值的极限学习机,很难保证训练的ELM模型拥有较好的泛化能力和较高的预测精度[17-18]。针对以上不足,本文在采用极限学习机建立目标威胁估计模型的基础上,利用OKH算法优化ELM初始输入权重和偏置,提出了基于OKH-ELM的目标威胁估计模型。模型优化过程如图1所示。

Download:
图 1 基于OKH-ELM的目标威胁估计模型 Fig. 1 Model of target threat assessment using OKH-ELM

1)数据预处理

收集105组数据,大型目标、小型目标和武装直升机各35组。随机选择大型目标、小型目标和武装直升机各30组,共90组,做训练集,剩余15组做测试集。部分数据如表3所示。

表 3 部分数据 Tab.3 Parts of data

使用9级量化理论对威胁属性量化[19]。对定性属性做如下预处理。

①目标高度:超低、低、中、高,依次量化为2、4、6、8。

②目标抗干扰能力:强、中、弱、无,依次量化为2、4、6、8。

③目标类型:大型目标、小型目标、武装直升机依次量化为3、5、8。

对于目标距离、目标方向角和目标速度则直接进行归一化操作。

2)确定ELM网络拓扑结构

ELM隐含层神经元个数与训练集样本个数有关,经多次实验,设置20个神经元预测结果较好。ELM三层网络拓扑结构为6-20-1,输入层与隐含层间连接权值及隐含层神经元阈值的寻优范围均为[-1,1],隐含层激活函数为Sigmoid。

3)OKH参数初始化

OKH算法的参数设置与1.3节的OKH参数设置相同。

4)OKH初始化种群

个体编码方法采用实数编码,用实数串表示每个个体。该实数串由ELM输入层与隐含层之间的权值和隐含层的阈值两部分组成。因为ELM网络结构为6-20-1,所以磷虾个体的编码长度为6×20+20=140。

5)目标适应度函数

$f = k\left(\sum\limits_{i = 1}^n {\left| {{y_i} - {o_i}} \right|} \right)$ (8)

式中:n为测试样本数,yi为模型的训练输出威胁度,oi为实际威胁度,k为常数。

6)执行OKH算法

OKH算法流程与1.2节的OKH算法流程相同。

7)预测输出

利用OKH算法优化好的初始权值与阈值来构造ELM。将测试集数据输入已经训练过的ELM,预测目标威胁度。

3 模型性能分析

为测试OKH-ELM目标威胁估计模型的有效性,将测试数据分别输入OKH-ELM、ELM、KH-ELM、KH-BP、PSO-ELM模型比较预测输出。

KH-ELM模型、PSO-ELM模型的建立与OKH-ELM相似,仅将优化函数分别改成标准KH算法和PSO算法。KH-BP模型利用KH算法优化BP神经网络初始的全部权值和阈值[20],采用6-11-1的网络结构,磷虾个体编码长度为6×11+11+11+1=89。采用训练好的上述5种模型分别对相同的威胁度测试集进行预测,实验结果如图2图3表4所示。

Download:
图 2 OKH-ELM的预测威胁值与真实威胁值对比 Fig. 2 Comparison between forecasting values and real threat values based on OKH-ELM
Download:
图 3 5种模型的预测误差绝对值 Fig. 3 Absolute predictive error for five models
表 4 5种优化方法的绝对预测误差平均值 Tab.4 Average of absolute predictive errors of five optimization methods

图2可知,OKH-ELM模型输出的预测威胁值与真实威胁值拟合度很高。由图3表4可知,OKH-ELM威胁估计模型的预测误差平均值小于其他4种威胁估计模型,预测结果最接近真实值。除了在第4、5、15个样本处,OKH-ELM模型预测误差不是最小(但也十分接近最小误差),其余样本点预测误差均最小。5种模型的优异度排序为:OKH-ELM>KH-ELM>KH-BP>PSO-ELM>ELM。实验结果显示,本文构造的OKH-ELM目标威胁估计模型能够较好地应对目标威胁估计问题,模型性能优于另外4种模型。

4 结束语

本文针对多源信息融合中目标威胁估计的特点,利用改进磷虾群算法与极限学习机,建立了一种基于改进磷虾群算法优化极限学习机的目标威胁估计模型,并提出了该模型的算法。文中选取影响目标威胁估计的6个典型指标,采集了105组数据用于仿真实验。结果表明,相比于ELM、PSO-ELM、KH-BP、KH-ELM,OKH-ELM模型能够更加准确、有效地预测目标威胁值,为目标威胁估计提供了一种新的方法。

参考文献
[1] 姚磊, 王红明, 郑锋, 等. 空中目标威胁估计的模糊聚类方法研究[J]. 武汉理工大学学报: 交通科学与工程版, 2010, 34(6): 1159-1161, 1166.
YAO Lei, WANG Hongming, ZHENG Feng, et al. Study fuzzy clustering method of air target threat assessment[J]. Journal of Wuhan university of technology: transportation science & engineering, 2010, 34(6): 1159-1161, 1166. (0)
[2] 王改革, 郭立红, 段红, 等. 基于萤火虫算法优化BP神经网络的目标威胁估计[J]. 吉林大学学报: 工学版, 2013, 43(4): 1064-1069.
WANG Gaige, GUO Lihong, DUAN Hong, et al. Target threat assessment using glowworm swarm optimization and BP neural network[J]. Journal of Jilin university: engineering and technology edition, 2013, 43(4): 1064-1069. (0)
[3] GANDOMI A H, ALAVI A H. Krill herd: a new bio-inspired optimization algorithm[J]. Communications in nonlinear science and numerical simulation, 2012, 17(12): 4831-4845. DOI:10.1016/j.cnsns.2012.05.010 (0)
[4] 黄璇, 郭立红, 李姜, 等. 磷虾群算法优化支持向量机的威胁估计[J]. 光学精密工程, 2016, 24(6): 1448-1455.
HUANG Xuan, GUO Lihong, LI Jiang, et al. Threat assessment of support vector machine optimized by Krill Herd algorithm[J]. Optics and precision engineering, 2016, 24(6): 1448-1455. (0)
[5] HUANG Guangbin, CHEN Lei. Enhanced random search based incremental extreme learning machine[J]. Neurocomputing, 2008, 71(16/18): 3460-3468. (0)
[6] 林梅金, 罗飞, 苏彩红, 等. 一种新的混合智能极限学习机[J]. 控制与决策, 2015, 30(6): 1078-1084.
LIN Meijin, LUO Fei, SU Caihong, et al. An improved hybrid intelligent extreme learning machine[J]. Control and decision, 2015, 30(6): 1078-1084. (0)
[7] HUANG Guangbin, ZHU Qinyu, SIEW C K. Extreme learning machine: a new learning scheme of feedforward neural networks[C]//Proceedings of 2004 IEEE International Joint Conference on Neural Networks. Budapest, Hungary, 2004: 985–990. (0)
[8] 杜长海. 基于磷虾群算法的SVR参数选取方法及其应用[J]. 自动化技术与应用, 2016, 35(5): 10-14, 19.
DU Changhai. Parameters selection method for support vector regression based on Krill Herd algorithm and its application[J]. Techniques of automation and applications, 2016, 35(5): 10-14, 19. (0)
[9] WANG Gaige, GANDOMI A H, ALAVI A H. Stud krill herd algorithm[J]. Neurocomputing, 2014, 128: 363-370. DOI:10.1016/j.neucom.2013.08.031 (0)
[10] MUKHERJEE A, MUKHERJEE V. Solution of optimal power flow using chaotic krill herd algorithm[J]. Chaos, solitons and fractals, 2015, 78: 10-21. DOI:10.1016/j.chaos.2015.06.020 (0)
[11] BOLAJI A L, AL-BETAR M A, AWADALLAH M A, et al. A comprehensive review: Krill Herd algorithm (KH) and its applications[J]. Applied soft computing, 2016, 49: 437-446. DOI:10.1016/j.asoc.2016.08.041 (0)
[12] LI Junpeng, TANG Yinggan, HUA Changchun, et al. An improved krill herd algorithm: Krill herd with linear decreasing step[J]. Applied mathematics and computation, 2014, 234: 356-367. DOI:10.1016/j.amc.2014.01.146 (0)
[13] 康岚兰, 董文永, 田降森. 一种自适应柯西变异的反向学习粒子群优化算法[J]. 计算机科学, 2015, 42(10): 226-231.
KANG Lanlan, DONG Wenyong, TIAN Jiangsen. Opposition-based particle swarm optimization with adaptive Cauchy mutation[J]. Computer science, 2015, 42(10): 226-231. (0)
[14] TIZHOOSH H R. Opposition-Based reinforcement learning[J]. Journal of advanced computational intelligence and intelligent informatics, 2006, 10(4): 578-585. DOI:10.20965/jaciii.2006.p0578 (0)
[15] 武传玉, 刘付显. 基于模糊评判的新防空威胁评估模型[J]. 系统工程与电子技术, 2004, 26(8): 1069-1071.
WU Chuanyu, LIU Fuxian. New model of target threat assessment for air defense operation based on fuzzy theory[J]. Systems engineering and electronics, 2004, 26(8): 1069-1071. DOI:10.3321/j.issn:1001-506X.2004.08.018 (0)
[16] 刘海波, 王和平, 沈立顶. 基于SAPSO优化灰色神经网络的空中目标威胁估计[J]. 西北工业大学学报, 2016, 34(1): 25-32.
LIU Haibo, WANG Heping, SHEN Liding. Target threat assessment using SAPSO and grey neural network[J]. Journal of northwestern polytechnical university, 2016, 34(1): 25-32. DOI:10.3969/j.issn.1000-2758.2016.01.004 (0)
[17] HUANG Guangbin, ZHOU Hongming, DING Xiaojian, et al. Extreme learning machine for regression and multiclass classification[J]. IEEE transactions on systems, man, and cybernetics-Part B: cybernetics: a publication of the IEEE systems, man and cybernetics society, 2012, 42(2): 513-529. DOI:10.1109/TSMCB.2011.2168604 (0)
[18] HUANG Guangbin, DING Xiaojian, ZHOU Hongming. Optimization method based extreme learning machine for classification[J]. Neurocomputing, 2010, 74(1/2/3): 155-163. (0)
[19] YAO Yueting, ZHAO Jianjun, WANG Yi, et al. MADM of threat assessment with attempt of target[M]// KIM H. Advances in Technology and Management. Berlin, Heidelberg: Springer, 2012: 171–179. (0)
[20] KOWALSKI P A, ŁUKASIK S. Training neural networks with Krill Herd algorithm[J]. Neural processing letters, 2016, 44(1): 5-17. DOI:10.1007/s11063-015-9463-0 (0)