一般来说, 一个多目标优化问题(multi-objective optimization problem, MOP)[1]可以用如下数学形式进行表示:
$ \begin{gathered} \min {\text{ }}F({\mathbf{x}}) = ({f_1}({\mathbf{x}}), {f_2}({\mathbf{x}}), \ldots, {f_M}({\mathbf{x}}))\; {\text{ s.t. }}\; {\mathbf{x}} \in \Omega \end{gathered} $ | (1) |
其中, x=(x1, x2, …, xn)是决策空间
基于分解的超多目标进化算法(many-objective evolutionary algorithm based on decomposition, MaOEA/D) 中常见的参考向量生成方法包括NBI[8], K-layer[9]和Mixture Uniform Design (MUD)[10]这3种类型. 其中, NBI是使用最为广泛的参考向量生成方法, 非常适合线性PF优化问题的处理. K-layer方法对于凹型PF优化问题有较好的效果. MUD方法的优势则在于支持任意数目参考向量, 但所生成参考向量的多样性不如NBI和K-layer. 总体而言, 上述3类参考向量生成方法各自适合处理一些特定的规则型PF优化问题, 对于断开、退化、偏好等不规则型PF优化问题, 由于所生成参考向量在PF上的分布不均匀, 难以取得较好的效果.
为支持不同形状PF优化问题的处理, 现有MaOEA/D类算法通常在种群进化过程中引入对参考向量进行自适应调整的策略. 根据调整过程中所使用启发式信息来源的不同[11], 可分为随机参考向量[6, 12,13]、拟合自适应参考向量[14,15]、局部种群引导的自适应参考向量[16,17]、局部存档引导的自适应参考向量[18,19]、基于邻接参考向量的自适应参考向量[20,21]和基于偏好的自适应参考向量[22,23]等. 上述参考向量调整策略虽然在解决各类不规则PF优化问题时可取得较好的效果, 但却容易导致在处理规则PF优化问题时性能恶化[24].
为能同时处理好不同形状的PF优化问题, 且更好地平衡种群的多样性和收敛性, 本文提出一种基于PF 曲率预估的超多目标进化算法(many-objective evolutionary algorithm based on curvature estimation of PF, MaOEA-CE). MaOEA-CE采用了一种基于曲率预估的参考向量生成方法(reference vectors based on curvature estimation, RVCE), 通过当前种群对真实PF的曲率进行预估, 生成可大致适应实际PF形状的参考向量, 并在每次迭代过程中对参考向量进行调整, 渐进匹配不同类型优化问题的真实PF. 同时, 提出了一种基于曲率预估的环境选择策略(environment selection based on curvature estimation, ESCE), 进一步基于预估的曲率选择合适的聚合函数对精英解进行挑选, 并对参考向量进行动态调整, 在维护种群多样性的同时提升种群的收敛性.
本文的主要工作和创新点如下.
(1) 提出一种新的基于曲率预估的参考向量生成方法, 该方法可在进化过程中渐进匹配各种形状的PF.
(2) 提出一种新的基于曲率预估的环境选择策略, 利用预估的曲率自适应选择聚合函数, 可较好地平衡种群的多样性和收敛性.
(3) 将MaOEA-CE与7个先进的超多目标优化算法在DTLZ、WFG和MaF问题集上进行对比实验, 对MaOEA-CE 的性能进行全面验证.
本文第1节介绍相关工作. 第2节阐述所提算法的主要内容. 第3节对实验方案、实验结果进行介绍, 并进行相关分析. 最后总结全文并对未来工作进行探讨.
1 相关工作 1.1 参考向量生成方法MaOEA/D中常见的参考向量生成方法包括NBI[8], K-layer[9]和MUD[10]. NBI通过在M– 1维的单位超平面上进行均匀采点生成参考向量, 且满足
根据参考向量调整过程中所使用启发式信息来源的不同, 现有参考向量调整方法可分为如下几种类型.
(1) 随机参考向量, 不使用任何启发式信息, 而是采用随机方式对参考向量进行调整. 如MOGLS[12]在每轮迭代过程中通过随机生成的参考向量来引导精英种群的搜索, RVEA*[6]则周期性地剔除无效参考向量, 并采用随机方式补充新的参考向量. 此类方法的优点在于操作简单、容易实现, 但难以有效保证种群的多样性和收敛性.
(2) 拟合自适应参考向量, 通过对整个种群/存档的拟合来调整参考向量. 如paλ-MOEA/D[14]将PF拟合在
(3) 局部种群引导的自适应参考向量, 利用局部种群中的个体来调整参考向量. 如MOEA-AM2M[16]将各子区域内与选定个体具有最大夹角的个体作为新参考向量, g-DBEA[17]选择跟被删除参考向量具有最大垂直距离的个体作为新的参考向量. 此类方法是最常见的参考向量调整方法, 当种群能够贴近真实PF时可以在各种不规则PF优化问题上发挥很好的作用, 当种群与真实PF相差很远时则容易被多样性或收敛性差的个体误导.
(4) 局部存档引导的自适应参考向量, 利用局部存档中的个体来调整参考向量. 如MOEA/D-AWA[18]首先对外部存档中的个体在当前种群内的稀疏水平值进行计算, 再根据稀疏水平值最高的个体生成新的参考向量. 此类方法的优缺点与局部种群引导的调整方法相似.
(5) 基于邻接参考向量的自适应参考向量, 依靠邻接参考向量来调整参考向量. 如A-NSGA-III[20]选择在拥挤区域的有效参考向量周围生成新的参考向量. 该类方法能够改善种群的局部多样性, 不足之处在于较难处理退化、尖峰或长尾等PF形状的优化问题.
(6) 基于偏好的自适应参考向量, 依据偏好信息来调整参考向量. 如pMOEA/D[22]使用期望点、保留点和偏好半径划定一块偏好区域来调整参考向量. 此类方法可以使用较小的种群来处理MaOPs, 计算代价低, 但单纯基于偏好信息容易导致种群陷入局部最优.
2 MaOEA-CE算法本节介绍MaOEA-CE算法的主要框架和核心策略, 并对算法的复杂性进行分析.
2.1 算法框架MaOEA-CE的伪代码如算法1所示. 首先, 初始化大小为N的种群P. 在每一轮进化过程中, 先根据当前种群信息预估PF的近似曲率p, 并利用预估的曲率p生成对应曲面上均匀分布的参考向量W. 接着采用二进制锦标赛法[26]选择父代, 并使用模拟二进制交叉(SBX)[27]和多项式变异(PM)[28]变异生成子代种群. 最后基于曲率p和参考向量W对子代种群和父代种群的并集进行环境选择. 循环上述过程, 直至达到最终的进化代数, 将最后一代的精英个体组成的种群P作为输出.
算法1. MaOEA-CE算法框架.
输入: 种群大小N;
输出: 种群P.
1. 初始化种群P
2. while 未达到最大迭代次数 do
3. 根据当前种群P预估PF的曲率p
4. 根据曲率p生成参考向量W
5. 使用交叉变异生成子代O
6. 基于p和W对P∪O进行环境选择
7. end while
8. return P
2.2 曲率预估(1) 归一化
由于PF的缩放会影响曲率p的估算, 导致生成的参考向量不能很好地匹配真实PF的形状. 为此, 在估算种群所对应PF的曲率之前, 需对种群进行归一化处理. 本文中, 将种群P的非支配层在各个维度分量上的最小值, 作为理想点z的对应分量. 将角落解在各个维度分量上的最大值, 作为极差点znad的对应分量. 角落解为距离各个方向轴最近的个体, 其第i维分量值的计算公式如下:
$ {\mathbf{x}}_i^{{\rm{corner}}} = \{ {\mathbf{x}}|{\mathbf{x}} = \arg \min dis{t^ \bot }({\mathbf{x}}, {{\mathbf{e}}^i})\} $ | (2) |
其中, x为目标向量, e为各轴的单位方向向量, dist为目标向量x到轴向单位方向向量e的欧式距离.
在计算出理想点z和极差点znad后, 对目标向量各个维度进行归一化的公式如下:
$ {f_i}({\mathbf{x}}) = \frac{{{f_i}({\mathbf{x}}) - {{\textit{z}}_i}}}{{{\textit{z}}na{d_i} - {{\textit{z}}_i}}} $ | (3) |
(2) 估算PF的曲率
由于种群中支配个体的收敛性不如非支配个体, 若将收敛程度较差的支配个体用于曲率预估, 容易导致所估算的近似PF的曲率与真实PF存在较大差异. 为此, 本文采用2REA[29]中提出的方法, 仅选取种群中的非支配个体, 并基于它们的Lp距离[30]来对曲率p进行自适应估算. 其中, Lp距离的计算公式如下:
$ L({\mathbf{x|}}p) = {\left(\sum\limits_{i = 1}^M {{{({f_i}({\mathbf{x}}))}^p}} \right)^{1/p}}, \; {\text{ }}p > 0 $ | (4) |
曲率预估的具体过程如下: 首先将p值限定在合适的取值区域, 并基于一定间隔进行采样, 然后分别计算在每个p值下, 所有非支配个体的Lp距离对应的标准差. 由于所选p值对应的
RVCE的总体框架类似NBI[8], 但对于参考向量各维度上的分量值, 则基于预估的PF曲率进行计算, 其伪代码如算法2所示.
算法2. 参考向量生成.
输入: 曲率p, 种群大小N;
输出: 参考向量W.
1. 使用公式(5), 公式(6)计算H, H'
2. 通过公式(7)将曲率为p的弧线段均匀划分成H份, 计算出对应的{t0, t1, …, tH}
3. 根据{t0, t1, …, tH}和公式(9)构建参考向量W
4. if H<M then
5. 通过公式(7)将曲率为p的弧线段均匀划分成H'份, 计算出对应的{t0, t1, …, tH'}
6. 根据{t0, t1, …, tH'}和公式(9)构建参考向量W'
7. 使用公式(10)将W'向内部缩放1/2
8. W= W∪W'
9. end if
10. return W
首先, 根据目标维度M和种群大小N, 使用公式(5)计算各目标维度的划分数H. 若H≥M, 使用单层采点[8]生成全部参考向量, 如图1(a)所示, 其中的红色实心点对应生成的参考向量. 若H<M, 则使用双层采点[4]生成全部参考向量, 如图1(b)所示, 其中红色实心点对应外层的参考向量, 蓝色实心点对应内层的参考向量, H和H'分别为外层和内层在各维度上的划分数, H'由公式(6)计算得出. 采用分层策略的原因在于对高维问题, 仅使用单层采点容易导致内部区域采点数量稀疏, 多样性难以得到保证[5].
![]() |
Fig. 1 Examples of one-layer reference vector generation method and two-layer reference vector generation method on 3-dimension problem 图 1 三维目标空间下的单层采点和双层采点示例 |
$ N = \left( {\begin{array}{*{20}{c}} {H + M - 1} \\ {M - 1} \end{array}} \right) $ | (5) |
$ N = \left( {\begin{array}{*{20}{c}} {H + M - 1} \\ {M - 1} \end{array}} \right) + \left( {\begin{array}{*{20}{c}} {H' + M - 1} \\ {M - 1} \end{array}} \right) $ | (6) |
其次, 将曲率为p的弧线段均匀划分成H份, 所得结果{t0, t1, …, tH}作为参考向量各维度上的分量值. 其中, t0=0, tH=1, 其余的tk (k∈{1, 2, …, H–1})满足以下公式:
$ \int_{{t_k}}^{{t_{k + 1}}} {{{(1 - {x^p})}^{1/p}}} dx = \frac{1}{H}\int_0^1 {{{(1 - {x^p})}^{1/p}}} dx $ | (7) |
对于采用单层采点的低维问题, 基于上述{t0, t1, …, tH}, 即可生成如下形式的全部参考向量W:
$ \left\{ {\begin{array}{*{20}{l}} {{u_i} = (u_i^1, u_i^2, \ldots , u_i^M)} \\ {u_i^j \in \{ {t_0}, {t_1}, \ldots , {t_H}\} } \end{array}} \right. $ | (8) |
其中, ui表示W中的第i个参考向量,
$ \left\{ {\begin{array}{*{20}{l}} {{u_i} = ({t_{{k_1}}}, {t_{{k_2}}}, \ldots , {t_{{k_M}}})} \\ {{k_1} + {k_2} + \ldots + {k_M} = H} \\ {{k_l} \in \{ 0, 1, \ldots , H\} } \end{array}} \right. $ | (9) |
对于采用双层采点的高维问题, 还需进一步根据公式(7)将内层各弧线段均匀划分成H'份, 再根据得出的{t0, t1, …, tH'}构建参考向量W'. 由于高维问题的外层采点边缘密集、内部稀疏, 为提升参考向量整体的多样性, 借鉴文献[4]中的做法, 将W'向内部缩放1/2, 以补充内部参考向量的数量. 缩放公式如下:
$ W' = \frac{1}{2}W' + \frac{1}{{2M}} $ | (10) |
最终, 将W和缩放后的W'合并, 即可得到高维问题的全部参考向量.
图2直观展示了RVCE在三维问题上生成参考向量的过程, 其中种群大小N设为28, 预估曲率p设为2. 根据公式(5), 可得知H为6. 由于H>M, 使用单层采点即可生成全部参考向量. 图2(a)为均匀切分弧线段的图例, 根据公式(7), {t0, t1, t2, t3, t4, t5, t6}分别对应{0, 0.2588, 0.5000, 0.7071, 08660, 0.9659, 1}. 图2(b) 展示了根据公式(9)构建参考向量坐标(0, 0, 1), (0, 0.2588, 0.9659), …, (0.9659, 0.2588, 0), (1, 0 , 0)的过程, 其中u1, u2, u3分别为参考向量在第一、第二、第三维的分量. 图2(c) 展示了最终生成的参考向量, 它们均匀分布在预估曲率所对应的曲面上.
![]() |
Fig. 2 Illustration of the reference vectors generation on 3-dimension problem with RVCE 图 2 RVCE在三维问题上生成参考向量的示例 |
RVCE基于自适应方式生成的预估曲率p, 将不同问题的真实PF用曲率不同的
ESCE的核心是基于预估的曲率和所生成的参考向量, 通过自适应选择聚合函数来挑选精英解. 同时通过对参考向量的动态调整, 以更好地支持各类不规则型PF优化问题. 其伪代码如算法3所示.
算法3. 环境选择.
输入: 种群R, 种群大小N, 曲率p, 参考向量W;
输出: 精英种群P.
1. 从种群R中找出角落解放入S中
2. 归一化种群R
3. 剔除参考向量W中没有非支配解关联的参考向量
4. 根据曲率p和参考向量W从种群R中选出精英种群S' //算法4
5. S = S∪S', R = R \ S
6. if |S| > N then
7. 在S中剔除|S|–N个局部密度最大的解
8. P = S
9. end if
10. if |S| < N then
11. 根据曲率p、当前精英种群S和当前种群R确定最终精英种群U //算法5
12. P = U
13. end if
14. return P
由于角落解覆盖空间大, 且相互间隔较远, 为确保种群整体的多样性, 首先将种群中的角落解作为默认的精英解. 接着, 对种群进行归一化, 并剔除参考向量集中没有任何非支配解关联的无效参考向量. 然后, 根据预估曲率和剩余的参考向量, 通过自适应选择聚合函数, 从种群的非支配解集中挑出聚合函数值最优的解作为精英解, 如算法4所示. 最后, 若挑选出的精英解个数大于N, 则逐一计算各精英解的局部密度[26], 并依次删除局部密度最大的多余精英解. 若挑选出的精英解个数小于N, 则继续采用算法5, 根据预估曲率、已挑选出的精英解和余下的非支配解, 通过新生成的参考向量, 继续挑选更多的精英解, 直至精英解个数等于N.
算法4. 根据曲率和参考向量选择精英种群.
输入: 候选种群R, 曲率p, 参考向量W;
输出: 精英种群S.
1. S = []
2. for w∈W do
3. if p ≥ 1 then
4. 计算种群R中各非支配解与参考向量w的PBI聚合函数值
5. else
6. 计算种群R中各非支配解与参考向量w的TCH聚合函数值
7. end if
8. 找出聚合函数值最优的解s
9. S = S∪s
10. end for
11. return S
在算法4中, 对于每个有效参考向量, 均通过最优聚合函数值, 从非支配解中挑出一个作为环境选择的精英解. 当预估曲率p≥1时, 选择正交边界惩罚函数(PBI)[3]作为聚合函数, 当曲率p<1时, 则选择切比雪夫函数(TCH)[31]作为聚合函数. 原因在于相比其他聚合函数, 对于PF形状为非凸的优化问题, PBI能够在保证种群收敛性的同时提供更好的多样性[3], 而对于PF 形状为凸的优化问题, TCH能更好地平衡种群的收敛性和多样性[32]. 因此, 通过预估曲率对聚合函数进行自适应选择, 有利于确保在将各类PF形状拟合到
算法5. 根据曲率和当前精英种群确定最终精英种群.
输入: 候选种群R, 当前精英种群S, 曲率p;
输出: 最终精英种群U.
1. U = S
2. while |U| < N do
3. 计算R中各非支配解与U中所有解的最小欧式距离
4. 找出上述最小距离中的最大值在R中对应的解x
5. 根据曲率p和参考向量x从R的非支配解集中选出一个精英解u //算法4
6. U = U∪u, R = R \ u
7. 找出种群R中收敛指标最差的解c
8. R = R \ c
9. end while
10. return U
在算法5中, 首先计算当前种群中各非支配解与当前精英种群中所有解的最小欧式距离, 然后将上述最小距离中的最大值在当前种群中对应的解x作为新的参考向量, 并调用算法4选出一个与预估曲率p和参考向量x对应的新的精英解u. 此后, 将所选出的精英解u, 以及当前种群中收敛性最差的解c从当前种群中删除. 依此循环, 直至最终精英种群中解的数量等于N. 为确保不同PF形状下解之间最小距离的定义更加精准, 对于解之间的距离, 同样基于预估曲率进行自适应计算. 若曲率预估过程中将PF拟合成平面, 即p=1, 则将两个解在超平面上的映射点之间的欧式距离作为解之间的距离; 若将PF拟合成凹形曲面, 即p>1, 则将两个解与原点之间构成的夹角作为解之间的距离; 若将PF拟合成凸形曲面, 即p<1, 则将两个解与极差点znad的夹角作为解之间的距离. 基于上述最小距离的最大值找出的x, 是当前种群非支配解中多样性最好的解, 因而最合适作为新的参考向量来挑选精英解. 此外, 为进一步提升种群的收敛性, 在每轮选择的最后, 均将当前剩余种群中收敛性最差的解删除. 由于分量和方法具有简单高效, 且搜索性能强等优点[26], 此处采用分量和作为种群中各个解的收敛指标.
图3为二维空间中使用ESCE进行环境选择的示例. 种群大小N设为7, 红色弧线表示所拟合的PF曲线, 其曲率p=0.5, v1–v7为基于RVCE生成的参考向量, x11–x14为种群的候选解, 其中x1–x7为第1层非支配解, x8–x11为第2层非支配解. 从图3可见, x1和x7为角落解, 直接加入精英种群中. v2和v6没有非支配解与之关联, 从参考向量中将它们剔除. 由于p<1, 选择TCH作为聚合函数, 得到分别与剩余参考向量v1、v3、v4、v5和v7逐一对应, 且聚合函数值最优的x1、x3、x4、x6和x7作为新获得的精英解. 此时精英种群的大小为5, 需继续挑选精英解. 在剩余种群中, x2和x5为非支配解. 从图3可见, 相比x2, x5与当前精英种群中各个解的最小距离更大, 故将x5作为新的参考向量. 进一步可发现相比x2, 候选解x5与新参考向量的TCH值更优, 将x5加入精英种群. 之后, 从种群中剔除刚选出的精英解x5, 以及收敛性最差的候选解x2. 继续对剩余种群进行处理, 可发现x9为精英解. 此时, 精英解的个数等于种群大小, 环境选择结束.
![]() |
Fig. 3 Illustration of the elites selection on 2-dimension space with ESCE 图 3 ESCE在二维空间中选择精英解的示例 |
曲率预估的时间复杂度为O(MN)[29], 其中M是目标维度, N是种群大小. 算法2使用预估曲率根据公式(9)生成N个参考向量, 采用单层采点时的时间复杂度为O(N), 采用双层采点时, 考虑外层采点的缩放计算, 最坏情况下的计算量是单层采用时的两倍, 但时间复杂度依然为O(N). 子代生成中, 遗传算子SBX和PM的时间复杂度为O(DN), 其中D是决策变量的数目. 环境选择过程中, 非支配排序的时间复杂度为O(NlogM–2N)[7], 非支配解与目标空间各方向轴的距离计算需消耗的时间复杂度为O(MN), 种群归一化时间复杂度为O(MN), 算法4 根据参考向量W选择精英解集需消耗的时间复杂度为O(MN|W|), 其中|W|为参考向量的个数. 由于|W|≤N, 故算法4的最坏时间复杂度为O(MN2). 对于算法5, 最坏情况下需要补充(N–M)≈N个解, 但其每次调用算法4 时仅涉及一个参考向量, 故算法5的最坏时间复杂度为O(MN2). 综上分析可知, MaOEA-CE的时间复杂度为max{O(MN2), O(DN)}.
3 实验设计与结果分析本节在DTLZ[32]、WFG[33]和MaF[34]问题集上, 将MaOEA-CE与7个先进的超多目标优化算法进行对比, 以验证MaOEA-CE的优异性能. 此外, 在不同类型的PF问题上, 分别对参考向量生成方法RVCE和环境选择策略ESCE的有效性进行验证.
3.1 实验设计(1) 测试问题
DTLZ和WFG是MaOPs领域两组经典的测试问题集, 其中不同的测试问题具有不同的特性和PF形状. MaF是问题特性更为复杂的最新测试问题集, 对现有MaOEA算法提出了更大的挑战. 这3组测试问题集包含各种类型的PF形状, 可大致分为规则PF与不规则PF两类. 规则PF又可分为平面PF、凹曲面PF和凸曲面PF, 不规则PF问题可分为退化PF、断开PF、倒置PF、凹/凸混合PF和具有偏好的PF等. 其中, DTLZ1、MaF9和MaF14为平面PF, DTLZ2-4、WFG4-9、MaF5和MaF12-13为凹曲面PF, MaF3为凸曲面PF, DTLZ5-6、WFG3和MaF6为退化PF, DTLZ7和MaF7为断开PF, MaF1、MaF4、MaF8和MaF15为倒置PF, WFG1-2和MaF10-11为凹/凸混合PF, MaF2为具有偏好的PF.
(2) 对比算法
考虑到MaOEA-CE为基于分解的超多目标优化算法, 为对其性能进行充分验证, 选取多个基于分解的代表性算法NSGA-III[4]、RVEA[6]、SPEA-R[9]、ASEA[35]和hpaEA[36]作为对比算法, 同时也将基于改进Pareto关系的算法NSGA-II-SDR[37]、基于指标的算法MaOEA-IGD[38]作为对比算法, 以更全面的验证MaOEA-CE的性能.
1) NSGA-III是MaOEA领域的经典算法, 其特点是将非支配排序与参考向量结合, 可提高算法运行效率.
2) RVEA提出了一个新颖的聚合算子APD, 该算子在进化前期偏向于收敛性而在后期侧重多样性, 可取得较好的综合性能.
3) SPEA-R提出了一种基于参考向量的密度估计方法和多样性优先的环境选择策略, 对处理高维MaOPs 具有很好的性能表现.
4) ASEA提出了一个两阶段排序的环境选择策略, 可较好地平衡种群的收敛性和多样性.
5) hpaEA提出了一种突出解选择方法, 在父代选择和环境选择过程中优先保护突出解, 可提高种群的收敛性.
6) NSGA-II-SDR提出了一种新颖的支配关系SDR, 基于候选解之间的夹角自适应选择精英解, 可较好地平衡种群的收敛性和多样性.
7) MaOEA-IGD提出了一种高效的支配比较方法, 并基于IGD指标进行环境选择, 在解决MaOP方面具有相当的竞争力.
(3) 评价指标
HV[25]指标通过计算解集与目标空间参考点之间围成的超体积来对算法进行评估, HV值越大表示算法性能越好. 由于HV指标具有严格的帕累托相容性[39], 可以很好地评判MaOEA的综合性能. 为了提高HV指标的计算效率, 本文采用蒙特卡罗模拟方法来计算HV指标的值. 类似文献[29], 使用10000个采样点来保证计算的准确性, 同时将参考点设为(1.5, 1.5, …, 1.5). 此外, 为验证参考向量生成方法RVCE的多样性, 本文还采用SPREAD[40]指标对其多样性进行专门衡量.
(4) 参数设置
为确保实验的公平性, 所有算法使用相同的种群大小. 目标数M和种群数量N的具体设置如表1所示. 遗传算子SBX和PM的参数设置如表2所示. 参照文献[41], 决策变量数D统一设为100, WFG测试问题中的位置变量数设为k=M–1. 每个算法独立运行30次, 实验中的进化代数统一为2000代. 各对比算法特有的其他参数, 采用各自原始文献中设定的值. 通过计算HV指标的均值和标准差, 采用Wilcoxon秩和检验对MaOEA-CE与其他7个先进算法综合性能进行衡量. 实验结果表格中使用符号“+”“−”“≈”分别表示对比算法的性能在5%的显著水平上优于、劣于、等于MaOEA-CE, 加粗表示每个测试问题上的最佳结果.
![]() |
Table 1 Setting of the population size 表 1 种群大小设置 |
![]() |
Table 2 Parameter settings for crossover and mutation 表 2 交叉变异参数设置 |
(1) 算法整体性能验证与分析
表3–表5分别展示了8个算法在DTLZ、WFG和MaF测试问题集上的HV值统计结果. 可以看出, MaOEA-CE在绝大部分测试问题上都取得了最佳HV均值, 说明MaOEA-CE具有非常优异的整体性能. 下面分别介绍各个算法在3个测试问题集上的详细结果并进行分析.
![]() |
Table 3 The statistical results (mean) of the HV values obtained by MaOEA-CE, NSGA-III, RVEA, SPEAR, ASEA, hpaEA, NSGAII-SDR and MaOEA-IGD on DTLZ1-7 表 3 不同算法在DTLZ1–7 上获得的HV值的统计结果 (均值) |
![]() |
Table 4 The statistical results (mean) of the HV values obtained by MaOEA-CE, NSGA-III, RVEA, SPEAR, ASEA, hpaEA, NSGAII-SDR and MaOEA-IGD on WFG1-9 表 4 不同算法在WFG1–9上获得的HV 值的统计结果 (均值) |
表3为8个算法在DTLZ的7个测试问题上的HV值统计结果. 可以看出, 在DTLZ的28个测试实例中, MaOEA-CE在18个上均优于其他7个对比算法, 尤其在DTLZ3和DTLZ5–6的所有目标维度上, MaOEA-CE的性能均优于其他算法. DTLZ2–4为规则型凹曲面PF问题, 采用RVCE生成的参考向量在此类规则型问题上具有很好的多样性, 同时在ESCE中使用的PBI聚合函数能很好平衡此类凹曲面PF问题的多样性和收敛性, 因此MaOEA-CE相较于其他算法有更好的性能表现. 对于退化问题DTLZ5–6, 由于它们的PF仍可较精准地拟合到
表4为8个算法在WFG的9个测试问题上的HV值统计结果. 可以看出, 在WFG的36个测试实例中, MaOEA-CE在24个上均优于其他7个对比算法, 特别是在WFG1–2、WFG4–5和WFG7的所有目标维度上, MaOEA-CE的性能均优于其他算法. WFG4–9为带缩放的凹曲面PF问题, 得益于RVCE生成的参考向量更加均匀, 以及ESCE中的PBI聚合函数能很好平衡此类凹曲面PF问题的多样性和收敛性, MaOEA-CE保持了较好的性能. 对于PF形状不规则的WFG1–2, 由于它们的PF 整体上仍贴近一个
表5为8个算法在MaF的15个测试问题上的HV值统计结果. 可以看出, 在MaF的60个测试实例中, MaOEA-CE在32个上均优于其他7个对比算法. 其中, 在MaF1–6、MaF8–11和MaF15上, MaOEA-CE的性能表现整体优于其他7个算法. MaF7与DTLZ7是完全相同的测试问题, MaOEA-CE在MaF7上性能较差的原因与DTLZ7一致. MaF12是具有偏好、欺诈和变量相关的凹PF问题, MaF13是单峰、退化和变量相关的凹PF问题, MaF14是线性、部分变量相关和大规模的PF问题, 由于它们的问题特性非常复杂, 使用
![]() |
Table 5 The statistical results (mean) of the HV values obtained by MaOEA-CE, NSGA-III, RVEA, SPEAR, ASEA, hpaEA, NSGAII-SDR and MaOEA-IGD on MaF1-15 表 5 不同算法在MaF1–15上获得的HV 值的统计结果 (均值) |
为进一步展示8个算法在处理规则型PF问题和不规则型PF问题时平衡种群收敛性和多样性的能力, 图4和图5分别给出了各算法在规则型PF问题WFG4和不规则型PF问题WFG1上, 目标维度为10时的最终种群分布图. 从图4可以看出, 在处理规则的WFG4问题时, MaOEA-CE、NSGA-III、RVEA、SPEA-R和ASEA都显示出了较好的收敛性和多样性, 但hpaEA、NSGA-II-SDR和MaOEA-IGD的多样性则较差. 从图5可以看出, 在处理不规则的WFG1 问题时, MaOEA-CE相比其他7个算法, 保持了更好的多样性和收敛性, 而NSGA-III、RVEA、SPEA-R和ASEA 存在多样性较差的情形, hpaEA, NSGA-II-SDR和MaOEA-IGD则多样性和收敛性均相对较差. 综上可见, MaOEA-CE在处理规则和不规则PF问题时都具有很强的竞争力.
![]() |
Fig. 4 Solution sets of MaOEA-CE, NSGA-III, RVEA, SPEA-R, ASEA, hpaEA, NSGA-II-SDR and MaOEA-IGD on WFG4 problem with 10-objectives 图 4 不同算法在10维WFG4 问题上获得的解集 |
![]() |
Fig. 5 Solution sets of MaOEA-CE, NSGA-III, RVEA, SPEA-R, ASEA, hpaEA, NSGA-II-SDR and MaOEA-IGD on WFG1 problem with 10-objectives 图 5 不同算法在10维WFG1 问题上获得的解集 |
此外, 采用
![]() |
Fig. 6 Ranking in the average performance score in terms of HV over all test instances for the algorithms of MaOEA-CE, NSGA-III, RVEA, SPEA-R, ASEA, hpaEA, NSGA-II-SDR and MaOEA-IGD 图 6 不同算法在所有测试实例中的平均HV性能得分排名 |
(2) RVCE的有效性验证
为单独验证RVCE方法的有效性, 本文以经典的NSGA-III为框架, 分别将不同的参考向量生成方法RVCE、NBI、K-layer和MUD嵌入其中, 形成的新算法分别命名为NSGA-III-RVCE、NSGA-III-NBI、NSGA-III-K-layer和NSGA-III-MUD. 在7个不同形状的PF问题上对这4 个算法进行对比实验, 包括平面PF问题DTLZ1、凹曲面PF问题DTLZ2、WFG4和MaF2、凸曲面PF问题MaF3、凹/凸混合PF问题WFG1和WFG2、退化PF问题DTLZ5.
(3) ESCE的有效性验证
为单独验证ESCE策略的有效性, 用ESCE分别替换3个先进的MaOEA算法A-NSGA-III[20]、RVEA*[6]和hpaEA[36]中原有的环境选择, 形成的新算法分别命名为A-NSGA-III-ESCE、RVEA*-ESCE和hpaEA-ESCE.
采用和RVCE有效性验证相同的测试问题, 表6展示了3个原算法与3个新算法的HV值统计结果. 可以发现, 在采用了ESCE策略之后, 3个新算法的性能均得到了较大程度提升. 其中, A-NSGA-III-ESCE和RVEA*-ESCE几乎在所有测试实例上的性能都得到了提升. hpaEA-ESCE在DTLZ1问题上出现了性能下滑, 原因在于hpaEA原有环境选择算子采用的突出解保护措施有利于强化种群往线性平面收敛的压力. 但对于其他非线性问题, hpaEA-ESCE则显示出了更好的性能. 综上说明ESCE具有较强的竞争力.
![]() |
Table 6 The statistical results (mean) of the HV values obtained by A-NSGA-III, A-NSGA-III-ESCE, RVEA*, RVEA*-ESCE, hpaEA and hpaEA-ESCE on different test problems 表 6 不同算法在不同测试问题上的HV值的统计结果(均值) |
图7(a)展示了4个对比算法分别在7个测试问题上, 3、5、8、10维的平均HV值. 可以发现, 对于上述PF形状不同的各个问题, NSGA-III-RVCE均取得了最佳的整体综合性能, 说明RVCE比其他3种参考向量生成方法更具竞争力. 图7(b)展示了4个对比算法分别在3、5、8、10维度上, 7个测试问题的平均SPREAD值. 同样可以发现, NSGA-III-RVCE在不同的目标维度上都取得了第1名的成绩, 说明从低维到高维测试实例, RVCE生成的参考向量对于种群多样性的维护都最具竞争优势.
![]() |
Fig. 7 Ranking in the average performance score in terms of HV on each test problem and the average performance score in terms of HV on each dimension for the algorithms of NSGA-III-RVCE, NSGA-III-NBI, NSGA-III-K-layer and NSGA-III-MUD 图 7 不同算法在各个测试问题上的平均HV性能得分排名和在不同维度下的平均SPREAD性能得分排名 |
为能同时处理好具有各种PF形状的优化问题, 本文提出了一种基于PF曲率预估的超多目标进化算MaOEA-CE. 通过对当前种群所对应PF的拟合, 设计了一种基于曲率的参考向量生成方法RVCE, 可较好地生成能匹配不同PF形状的参考向量, 有利于提升进化过程中种群的多样性. 同时设计了一个基于曲率的环境选择策略ESCE, 通过对聚合函数的自适应选择, 并利用种群信息对参考向量进行动态调整, 结合对收敛性最差个体的逐一剔除, 在维护种群多样性的同时提升了种群的收敛性. 与7个先进算法在DTLZ、WFG和MaF测试集上的对比实验表明, MaOEA-CE在处理各类规则PF和不规则PF时均有很强的竞争力. 未来工作中, 我们将致力于研究在难收敛和不规则PF问题上准确预估PF的能力, 从而使生成的参考向量具有更强的适应性, 以进一步提高算法的性能. 与此同时, 将本文所提算法扩展至各类带约束问题和各类实际应用问题, 具有非常重要的价值. 本文所提算法的源代码已在 https://github.com/CIA-SZU/LWP上公开.
[1] |
Zhou YM, Li ZJ, Ge JD, Li CY, Zhou XY, Luo B. Multi-objective workflow scheduling based on delay transmission in mobile cloud computing. Ruan Jian Xue Bao/Journal of Software, 2018, 29(11): 3306–3325 (in Chinese with English abstrct). http://www.jos.org.cn/1000-9825/5479.htm
|
[2] |
Xiang Y, Zhou YR, Cai SW. Integrating preference in many-objective optimal software product selection algorithm. Ruan Jian Xue Bao/Journal of Software, 2020, 31(2): 282–301 (in Chinese with English abstrct). http://www.jos.org.cn/1000-9825/5637.htm
|
[3] |
Zhang QF, Li H. MOEA/D: A multiobjective evolutionary algorithm based on decomposition. IEEE Trans. on Evolutionary Computation, 2007, 11(6): 712-731.
[doi:10.1109/TEVC.2007.892759] |
[4] |
Deb K, Jain H. An evolutionary many-objective optimization algorithm using reference-point-based nondominated sorting approach, part I: Solving problems with box constraints. IEEE Trans. on Evolutionary Computation, 2014, 18(4): 577-601.
[doi:10.1109/TEVC.2013.2281535] |
[5] |
Li K, Deb K, Zhang QF, Kwong S. An evolutionary many-objective optimization algorithm based on dominance and decomposition. IEEE Trans. on Evolutionary Computation, 2015, 19(5): 694-716.
[doi:10.1109/TEVC.2014.2373386] |
[6] |
Cheng R, Jin YC, Olhofer M, Sendhoff B. A reference vector guided evolutionary algorithm for many-objective optimization. IEEE Trans. on Evolutionary Computation, 2016, 20(5): 773-791.
[doi:10.1109/TEVC.2016.2519378] |
[7] |
Yuan Y, Xu H, Wang B, Yao X. A new dominance relation-based evolutionary algorithm for many-objective optimization. IEEE Trans. on Evolutionary Computation, 2016, 20(1): 16-37.
[doi:10.1109/TEVC.2015.2420112] |
[8] |
Das I, Dennis JE. Normal-boundary intersection: A new method for generating the pareto surface in nonlinear multicriteria optimization problems. SIAM Journal on Optimization, 1998, 8(3): 631-657.
[doi:10.1137/S1052623496307510] |
[9] |
Jiang SY and Yang SX. A strength Pareto evolutionary algorithm based on reference direction for multiobjective and many-objective optimization. IEEE Trans. on Evolutionary Computation, 2017, 21(3): 329-346.
[doi:10.1109/TEVC.2016.2592479] |
[10] |
Tian Y, Xiang XS, Zhang XY, Cheng R, Jin YC. Sampling reference points on the Pareto fronts of benchmark multi-objective optimization problems. In: Proc. of the 2018 IEEE Congress on Evolutionary Computation. Rio de Janeiro: IEEE, 2018. 1–6.
|
[11] |
Ma XL, Yu YN, Li XD, Qi YT, Zhu ZX. A survey of weight vector adjustment methods for decomposition-based multiobjective evolutionary algorithms. IEEE Trans. on Evolutionary Computation, 2020, 24(4): 634-649.
[doi:10.1109/TEVC.2020.2978158] |
[12] |
Ishibuchi H, Murata T. A multi-objective genetic local search algorithm and its application to flowshop scheduling. IEEE Trans. on Systems, Man, and Cybernetics, Part C (Applications and Reviews), 1998, 28(3): 392-403.
[doi:10.1109/5326.704576] |
[13] |
Li H, Ding M, Deng JD, Zhang QF. On the use of random weights in MOEA/D. In: Proc. of the 2015 IEEE Congress on Evolutionary Computation. Sendai: IEEE, 2015. 978–985.
|
[14] |
Jiang SW, Cai ZH, Zhang J, Ong YS. Multiobjective optimization by decomposition with Pareto-adaptive weight vectors. In: Proc. of the 7th Int’l Conf. on Natural Computation. Shanghai: IEEE, 2011. 1260–1264.
|
[15] |
Gu FQ, Cheung YM. Self-organizing map-based weight design for decomposition-based many-objective evolutionary algorithm. IEEE Trans. on Evolutionary Computation, 2018, 22(2): 211-225.
[doi:10.1109/TEVC.2017.2695579] |
[16] |
Liu HL, Chen L, Zhang QF, Deb K. An evolutionary many-objective optimisation algorithm with adaptive region decomposition. In: Proc. of the 2016 IEEE Congress on Evolutionary Computation. Vancouver: IEEE, 2016. 4763–4769.
|
[17] |
Asafuddoula M, Singh HK, Ray T. An enhanced decomposition-based evolutionary algorithm with adaptive reference vectors. IEEE Trans. on Cybernetics, 2018, 48(8): 2321-2334.
[doi:10.1109/TCYB.2017.2737519] |
[18] |
Qi YT, Ma XL, Liu F, Jiao LC, Sun JY, Wu JS. MOEA/D with adaptive weight adjustment. Evolutionary Computation, 2014, 22(2): 231-264.
[doi:10.1162/EVCO_a_00109] |
[19] |
De Farias LRC, Braga PHM, Bassani HD, Araújo AFR. MOEA/D with uniformly randomly adaptive weights. In: Proc. of the 2018 Genetic and Evolutionary Computation Conf. Kyoto: ACM, 2018. 641–648.
|
[20] |
Jain H, Deb K. An evolutionary many-objective optimization algorithm using reference-point based nondominated sorting approach, Part II: Handling constraints and extending to an adaptive approach. IEEE Trans. on Evolutionary Computation, 2014, 18(4): 602-622.
[doi:10.1109/TEVC.2013.2281534] |
[21] |
Xu H, Zeng WH, Zhang DF, Zeng XX. MOEA/HD: A multiobjective evolutionary algorithm based on hierarchical decomposition. IEEE Trans. on Cybernetics, 2019, 49(2): 517-526.
[doi:10.1109/TCYB.2017.2779450] |
[22] |
Ma XL, Liu F, Qi YT, Li LL, Jiao LC, Deng XZ, Wang XD, Dong B, Hou ZT, Zhang YX, Wu JS. MOEA/D with biased weight adjustment inspired by user preference and its application on multi-objective reservoir flood control problem. Soft Computing, 2016, 20(12): 4999-5023.
[doi:10.1007/s00500-015-1789-z] |
[23] |
Yu G, Zheng JH, Shen RM, Li MQ. Decomposing the user-preference in multiobjective optimization. Soft Computing, 2016, 20(10): 4005-4021.
[doi:10.1007/s00500-015-1736-z] |
[24] |
Ishibuchi H, Setoguchi Y, Masuda H, Nojima Y. Performance of decomposition-based many-objective algorithms strongly depends on Pareto front shapes. IEEE Trans. on Evolutionary Computation, 2017, 21(2): 169-190.
[doi:10.1109/TEVC.2016.2587749] |
[25] |
Zitzler E, Thiele L. Multiobjective evolutionary algorithms: A comparative case study and the strength Pareto approach. IEEE Trans. on Evolutionary Computation, 1999, 3(4): 257-271.
[doi:10.1109/4235.797969] |
[26] |
Liu YP, Gong DW, Sun J, Jin YC. A many-objective evolutionary algorithm using a one-by-one selection strategy. IEEE Trans. on Cybernetics, 2017, 47(9): 2689-2702.
[doi:10.1109/TCYB.2016.2638902] |
[27] |
Deb K, Agrawal RB. Simulated binary crossover for continuous search space. Complex Systems, 1995, 9(2): 115-148.
|
[28] |
Deb K, Goyal M. A combined genetic adaptive search (GeneAS) for engineering design. Computer Science and Informatics, 1996, 26(4): 30-45.
|
[29] |
Liang ZP, Hu KF, Ma XL, Zhu ZX. A many-objective evolutionary algorithm based on a two-round selection strategy. IEEE Trans. on Cybernetics, 2021, 51(3): 1417-1429.
[doi:10.1109/TCYB.2019.2918087] |
[30] |
Jara EC. Multi-objective optimization by using evolutionary algorithms: The p-optimality criteria
. IEEE Trans. on Evolutionary Computation, 2014, 18(2): 167-179.
[doi:10.1109/TEVC.2013.2243455] |
[31] |
Li K, Zhang QF, Kwong S, Li MQ, Wang R. Stable matching-based selection in evolutionary multiobjective optimization. IEEE Trans. on Evolutionary Computation, 2014, 18(6): 909-923.
[doi:10.1109/TEVC.2013.2293776] |
[32] |
Deb K, Thiele L, Laumanns M, Zitzler E. Scalable test problems for evolutionary multiobjective optimization. In: Abraham A, Jain L, Goldberg R, eds. Evolutionary Multiobjective Optimization: Theoretical Advances and Applications. London: Springer, 2005. 105–145.
|
[33] |
Huband S, Hingston P, Barone L, While L. A review of multiobjective test problems and a scalable test problem toolkit. IEEE Trans. on Evolutionary Computation, 2006, 10(5): 477-506.
[doi:10.1109/TEVC.2005.861417] |
[34] |
Cheng R, Li MQ, Tian Y, Zhang XY, Yang SX, Jin YC, Yao X. A benchmark test suite for evolutionary many-objective optimization. Complex & Intelligent Systems, 2017, 3(1): 67-81.
[doi:10.1007/s40747-017-0039-7] |
[35] |
Liu C, Zhao Q, Yan B, Elsayed S, Ray T, Sarker R. Adaptive sorting-based evolutionary algorithm for many-objective optimization. IEEE Trans. on Evolutionary Computation, 2019, 23(2): 247-257.
[doi:10.1109/TEVC.2018.2848254] |
[36] |
Chen HK, Tian Y, Pedrycz W, Wu GH, Wang R, Wang L. Hyperplane assisted evolutionary algorithm for many-objective optimization problems. IEEE Trans. on Cybernetics, 2020, 50(7): 3367-3380.
[doi:10.1109/TCYB.2019.2899225] |
[37] |
Tian Y, Cheng R, Zhang XY, Su YS, Jin YC. A strengthened dominance relation considering convergence and diversity for evolutionary many-objective optimization. IEEE Trans. on Evolutionary Computation, 2019, 23(2): 331-345.
[doi:10.1109/TEVC.2018.2866854] |
[38] |
Sun YN, Yen GG, Yi Z. IGD indicator-based evolutionary algorithm for many-objective optimization problems. IEEE Trans. on Evolutionary Computation, 2019, 23(2): 173-187.
[doi:10.1109/TEVC.2018.2791283] |
[39] |
Zitzler E, Thiele L, Laumanns M, Fonseca CM, Da Fonseca VG. Performance assessment of multiobjective optimizers: An analysis and review. IEEE Trans. on Evolutionary Computation, 2003, 7(2): 117-132.
[doi:10.1109/TEVC.2003.810758] |
[40] |
Xiang Y, Zhou YR, Li MQ, Chen ZF. A vector angle-based evolutionary algorithm for unconstrained many-objective optimization. IEEE Trans. on Evolutionary Computation, 2017, 21(1): 131-152.
[doi:10.1109/TEVC.2016.2587808] |
[41] |
Wang R, Zhou ZB, Ishibuchi H, Liao TJ, Zhang T. Localized weighted sum method for many-objective optimization. IEEE Trans. on Evolutionary Computation, 2018, 22(1): 3-18.
[doi:10.1109/TEVC.2016.2611642] |
[1] |
周业茂, 李忠金, 葛季栋, 李传艺, 周筱羽, 骆斌. 移动云计算中基于延时传输的多目标工作流调度. 软件学报, 2018, 29(11): 3306–3325. http://www.jos.org.cn/1000-9825/5479.htm
|
[2] |
向毅, 周育人, 蔡少伟. 集成偏好的高维多目标最优软件产品选择算法. 软件学报, 2020, 31(2): 282–301. http://www.jos.org.cn/1000-9825/5637.htm
|