单目标多目标优化问题

1. 基本概念

  • 带约束的单目标优化问题基本可以表述为 最小化一个函数f(x),在满足g(x)<=0的情况下
  • 变量类型:连续、离散/整数、二进制或排列,甚至还有混合变量
  • 变量数量N:N=10和N=1000截然不同。N太大在二阶导数的计算上非常昂贵,需要有效地处理内存
  • 约束:不平等式g(x)和平等式h(x)的约束,可能让搜索岛屿化,把可行空间做映射变换是个解决方案
  • 多模态:存在少数几个甚至多个局部最优解,需要确保在搜索空间中探索了足够多的区域
  • 可区分性:可微函数==可以计算一阶二阶导数,可以使用梯度方法。但如果不可知则需要全局搜索(属于黑盒优化领域)
  • 评估时间:评估成本非常重要,可能需要分布式计算
  • 不确定性:通常假设目标函数和约束函数是确定性的。然而,如果一个或多个目标函数是不确定的,这会引入噪音,需要对不同的随机种子重复评估求期望。

2 单目标问题

2.1 Ackley

  • Ackley 函数广泛用于测试优化算法。如上图所示,在其二维形式中,它的特点是外部区域几乎平坦,中心有一个大孔。该函数有可能使优化算法,特别是爬山算法,陷入其众多局部最小值之一。
  • 公式推荐的参数值为:a = 20,b = 0.2 , c = 2π
  • 输入域: x_i ∈ [-32.768, 32.768]
  • 全局最小值:f(x^*)=0, at \ x^*=(0,...,0)
Ackley

2.2 Griewank

  • Griewank 函数有许多分布广泛的局部最小值,这些最小值是有规律分布的。复杂性显示在放大的图中。
  • 公式参数值:d 维度
  • 输入域:x_i ∈ [-600, 600], i=1,...,d
  • 全局最小值:f(x^*)=0, at \ x^*=(0,...,0)
Griewank

2.3 Zakharov

  • Zakharov 函数除了全局最小值之外没有局部最小值。它在此处以二维形式显示.
  • 公式参数值:d 维度
  • 输入域:x_i ∈ [-5, 10], i=1,...,d
  • 全局最小值:f(x^*)=0, at \ x^*=(0,...,0)
Zakharov

2.4 Rastrigin

  • Rastrigin 函数有几个局部最小值。它是高度多模态的,但最小值的位置是有规律的分布的。它以二维形式显示在上图中。
  • 公式参数值:d 维度
  • 输入域:x_i ∈ [-5.12, 5.12], i = 1, …, d.
  • 全局最小值:f(x^*)=0, at \ x^*=(0,...,0)
Rastrigin

2.5 rosenbrock

  • rosenbrock,定义可以在中找到。它是一个非凸函数,由 Howard H. Rosenbrock 于 1960 年引入,也称为 Rosenbrock 的 valley 或 Rosenbrock 的香蕉函数。
  • Rosenbrock 函数,也称为 Valley 或 Banana 函数,是基于梯度的优化算法的流行测试问题。它以二维形式显示在上图中。
  • 该函数是单峰的,全局最小值位于一个狭窄的抛物线谷中。然而,即使这个山谷很容易找到,收敛到最小值也很困难(Picheny et al., 2012)。
  • 公式参数值:d 维度
  • 输入域:x_i ∈ [-5, 10], i = 1, …, d.x_i ∈ [-2.048, 2.048], i = 1, …, d
  • 全局最小值:f(x^*)=0, at \ x^*=(1,...,1)
image.png

3 多目标问题

3.1 BNH

  • To Thanh Binh and Ulrich Korn. Mobes: a multiobjective evolution strategy for constrained optimization problems. In IN PROCEEDINGS OF THE THIRD INTERNATIONAL CONFERENCE ON GENETIC ALGORITHMS (MENDEL97, 176–182. 1997.
  • 帕累托最优解由解构成𝑥^∗_1=𝑥^∗_2∈[0,3]和𝑥^∗_1∈[3,5],𝑥^∗_2=3.这些解决方案使用粗体连续曲线标记。在问题中添加这两个约束不会使无约束的帕累托最优前沿中的任何解决方案都不可行。因此,约束可能不会给解决这个问题带来任何额外的困难。

3.2 ZDT

  • Eckart Zitzler, Kalyanmoy Deb, and Lothar Thiele. Comparison of multiobjective evolutionary algorithms: empirical results. Evolutionary Computation, 8(2):173–195, 2000.
  • 问题构建:min f_1(x),min f_2(x) = g(x)h(f_1(x),g(x))
  • 其中两个目标必须最小化。功能𝑔(𝑥)可以被认为是收敛的函数,通常𝑔(𝑥)=1适用于帕累托最优解(ZDT5 除外)
  • ZDT1:一个 30 变量问题 (𝑛=30) 具有凸帕累托最优集
  • ZDT2:一个 30 变量问题(𝑛=30) 具有非凸帕累托最优集:
  • ZDT3:一个 30 变量问题(𝑛=30) 有许多不连贯的帕累托最优前沿:
  • ZDT4:一个 10 变量 (𝑛=10) 具有凸帕累托最优集的问题。该问题存在多个局部帕累托最优解。因此,算法很容易陷入局部最优。
  • ZDT5:在 ZDT5 中,变量由比特环解码。总共使用了 11 个离散变量,其中𝑥1由 30 位表示,其余的𝑥2至𝑥11每个 5 位。功能𝑢(𝑥)除了数数1对应的变量。另外,请注意目标函数具有欺骗性,因为𝑣(𝑢(𝑥𝑖))随着 1 的数量减少,但当所有变量确实为 1 时具有最小值。
  • ZDT6:一个 10 变量 (𝑛=10) 具有非凸帕累托最优集的问题。整个帕累托最优区域的解决方案密度是不均匀的。

3.3 OSY

  • Osyczka 和 Kundu 使用了以下六变量测试问题
  • 帕累托最优区域是五个区域的串联。每个区域都存在一些限制。然而,对于整个帕累托最优区域,𝑥∗_4=𝑥∗_6=0. 下表显示了五个区域中每个区域中的其他变量值以及每个区域中有效的约束。

3.4 TNK

  • 自从f_1=x_1,f_2=x_2,可行目标空间也与可行决策变量空间相同。无约束的决策变量空间由正方形中的所有解组成0≤(𝑥1,𝑥2)≤𝜋. 因此,唯一不受约束的帕累托最优解是𝑥∗1=𝑥∗2=0. 但是,包含第一个约束使该解决方案不可行。受约束的帕累托最优解位于第一个约束的边界上。由于约束函数是周期性的,并且第二个约束函数也必须满足,所以不是第一个约束边界上的所有解都是帕累托最优的。帕累托最优集是断开的。由于帕累托最优解位于非线性约束曲面上,因此优化算法可能难以在所有不连续的帕累托最优集上找到解的良好分布。

3.5 DTLZ

  • DTLZ1问题的特点是存在(11^k − 1)个局部最优,所以MOGA不容易找到最优Pareto集。
  • DTLZ2 由于自定义M,该问题也可以被用于测试算法对大量目标函数的问题的性能。
  • DTLZ3 为了增加搜索全局最优的难度,建议在g函数等于Rastrigin的情况下使用上面的问题,即当g满足Rastrigin的最优化时,该问题才能找到全局最优
  • DTLZ4问题由DTLZ2修改而来,侧重于测试MOEA算法的解的分布性
  • DTLZ5问题将测试MOEA收敛到曲线的能力,还将允许一种更简单的方法(通过绘制FMFM和任何其他目标函数)来直观地演示MOEA的性能。由于这条Pareto-最优曲线附近的解有一个自然偏差,这个问题对于一个算法来说可能很容易解决。
  • DTLZ6问题基于DTLZ5进行修改,算法很难像DTLZ5那样收敛到真正的pareto最优前沿。
  • 该问题有2^{M-1}个不连通的最优Pareto 区域,用于测试算法在不同的Pareto区域里维持子种群的能力
DTLZ

3.6 DAS-CMOP

  • DAS-CMOP是个可调约束的多目标优化基准函数集。共9个基准函数,其中前1-6个是2目标的优化问题,7-9是3目标优化问题。
  • 其约束的强度和难度用:(η,ζ,γ)控制,η,ζ,γ∈[0,1],这个值可以自定义,也可以使用作者提供的16个参数组控制


    DAS-CMOP

参考

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,204评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,091评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,548评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,657评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,689评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,554评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,302评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,216评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,661评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,851评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,977评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,697评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,306评论 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,898评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,019评论 1 270
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,138评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,927评论 2 355

推荐阅读更多精彩内容