Ylisar 发表于 2022-7-16 14:31

【科研两三招】一文了解多目标优化(multi-objective ...

在无线通信的理论研究工作中,我们通常需要建立一个优化问题以实现资源分配。这个优化问题将包括优化目标以及约束条件。相比于单目标优化问题,多目标优化问题是系统性地同时优化一系列目标函数的过程,也被称为矢量优化(vector optimization)。
本文将首先介绍单目标优化问题,然后介绍多目标优化问题的基本形式和其基于性质的求解方法~仅供大家参考~
1. 单目标优化问题

许多无线资源分配问题可以被建模为约束优化问题,一般问题建模可表示为
https://www.zhihu.com/equation?tex=%5Cmathop+%7B%5Ctext%7BMinimize%7D+%7D%5Climits_%7B%5Cbf%7Bx%7D%7D+F%5Cleft%28+%7B%5Cbf%7Bx%7D%7D+%5Cright%29%5C%5C+s.t.+%5C+%7Bg_j%7D%5Cleft%28+%7B%5Cbf%7Bx%7D%7D+%5Cright%29+%5Cle+0%2C%5C+j+%3D+1%2C+2%2C%5Cldots+%2CJ%2C%5C%5C+%5Cqquad%7Bh_i%7D%5Cleft%28+%7B%5Cbf%7Bx%7D%7D+%5Cright%29+%3D+0%2C%5C+i+%3D+1%2C2%2C+%5Cldots+%2CL.
其中是需要优化的变量,例如功率、频谱等。表示优化目标,例如由香农公式定义的信道容量、数据速率、频谱效率等等。优化目标和优化变量都需要根据面向的场景和业务需求来定。约束条件中包含不等式约束和等式约束。的可行域由约束条件所确定。
因此,求解该单目标优化问题即在满足约束条件的情况下找到的最优解以最小化目标函数。如果点为最优解,那么将满足 https://www.zhihu.com/equation?tex=F%28%7B%5Cbf%7Bx%7D%7D%5E%2A%29%5Cleq+F%28%7B%5Cbf%7Bx%7D%7D%29%2C+%5Cforall+%7B%5Cbf%7Bx%7D%7D%5Cin%5Cbf%7BX%7D ,这里用 https://www.zhihu.com/equation?tex=%7B%5Cbf%7BX%7D%7D 表示的可行域。
特别地,如果该优化问题中不等式约束和等式约束都为关于参数的线性函数,那么该问题被称为线性规划。线性规划问题的一个重要特征是容易获得全局最优解。
2. 多目标优化问题

多目标优化问题的一般形式表示为:
https://www.zhihu.com/equation?tex=%5Cmathop+%7B%5Ctext%7BMinimize%7D+%7D%5Climits_%7B%5Cbf%7Bx%7D%7D+%5C+%7B%5Cbf%7BF%7D%7D%28%7B%5Cbf%7Bx%7D%7D%29%3D%5BF_1%28%7B%5Cbf%7Bx%7D%7D%29%2C+F_2%28%7B%5Cbf%7Bx%7D%7D%29%2C+%5Cldots%2C+F_K%28%7B%5Cbf%7Bx%7D%7D%29%5D%5ET%5C%5C+s.t.+%5C+g_j%28%7B%5Cbf%7Bx%7D%7D%29%5Cleq+0%2C+%5C+j%3D1%2C2%2C%5Cldots%2CJ%2C%5C%5C+%5Cqquad+h_i%28%7B%5Cbf%7Bx%7D%7D%29%3D0%2C+%5C+i%3D1%2C2%2C%5Cldots%2CL.
上式中, https://www.zhihu.com/equation?tex=K 表示目标函数的数量, https://www.zhihu.com/equation?tex=J 表示不等式约束的数量, https://www.zhihu.com/equation?tex=L 表示等式约束的数量。变量 https://www.zhihu.com/equation?tex=%7B%5Cbf%7Bx%7D%7D%5Cin+E%5EN 表示决策矢量(通常也被称为设计矢量/优化矢量),其中 https://www.zhihu.com/equation?tex=N 表示独立变量 https://www.zhihu.com/equation?tex=x_i 的个数。 https://www.zhihu.com/equation?tex=%7B%5Cbf%7BF%7D%7D%28%7B%5Cbf%7Bx%7D%7D%29%5Cin+E%5EK 表示目标函数的矢量。也被称为目标、标准、效用函数或损失函数等。约束中的不等式符号和等式符号将作用在对应的向量分量上。
可行设计空间(通常也被称为可行决策空间或约束集合)定义为

https://www.zhihu.com/equation?tex=%5Cqquad+%5Cqquad+%5Cqquad+%5C%7B%7B%5Cbf%7Bx%7D%7D%7Cg_i%28%7B%5Cbf%7Bx%7D%7D%29%5Cleq0%2C+j%3D1%2C2%2C%5Cldots%2CJ%3B+h_i%28%7B%5Cbf%7Bx%7D%7D%29%3D0%2C+i%3D1%2C2%2C%5Cldots%2C+L%5C%7D
可行标准空间(通常也被称为可行成本空间或可获得集合)定义为集合

https://www.zhihu.com/equation?tex=%5Cqquad+%5Cqquad+%5Cqquad+%5C%7B%7B%5Cbf%7BF%7D%7D%28%7B%5Cbf%7Bx%7D%7D%29%7C%7B%5Cbf%7Bx%7D%7D%5Cin%7B%5Cbf%7B%7DX%7D%5C%7D
概念区分:

[*]可行性(feasibility):意味着标准空间 满足所有约束;
[*]可获得性(attainability):标准空间中的一点能够映射到设计空间中的一点。这是因为设计空间中的每个点都对应标准空间中的一个点,但反之可能不成立,即标准空间中的每个点不一定对应设计空间中的唯一一点。
为不失一般性,接下来将考虑为feasible且attainable。
3. 基本概念和定义


[*]帕累托最优(Pareto optimality)
与单目标优化问题相比,多目标问题的解决方案更多的是一个概念,而不是一个定义。通常情况下,不存在单一的全局(global)解,通常需要确定一组点,这些点都符合预定的最优定义。定义最优点的主要概念是帕累托最优,其定义如下:
定义1:帕累托最优:点是帕累托最优,当且仅当不存在另外的点使得 https://www.zhihu.com/equation?tex=%7B%5Cbf%7BF%7D%7D%28%7B%5Cbf%7Bx%7D%7D%29%5Cleq%7B%5Cbf%7BF%7D%7D%28%7B%5Cbf%7Bx%7D%7D%5E%2A%29 且对于至少一个目标函数满足 https://www.zhihu.com/equation?tex=%7BF_i%7D%28%7B%5Cbf%7Bx%7D%7D%29%3C%7BF_i%7D%28%7B%5Cbf%7Bx%7D%7D%5E%2A%29 。根据定义可以看到,所有的帕累托最优点位于可行标准空间的边界。通常,算法提供的解决方案可能不是帕累托最优,但可能满足其他标准,这使得它们在实际应用中很重要。例如,弱帕累托最优(weakly Pareto optimal)定义如下:
定义2:弱帕累托最优:点是弱帕累托最优,当且仅当不存在另外的点使得 https://www.zhihu.com/equation?tex=%7B%5Cbf%7BF%7D%7D%28%7B%5Cbf%7Bx%7D%7D%29%3C%7B%5Cbf%7BF%7D%7D%28%7B%5Cbf%7Bx%7D%7D%5E%2A%29。如果没有其他点能同时改进所有目标函数,则该点为弱帕累托最优点。相反,如果没有其他点能改善至少一个目标函数而不损害另一个函数,那么这个点就是帕累托最优。帕累托最优点是弱帕累托最优点,但弱帕累托最优点不是帕累托最优点。
此外,所有的帕累托最优点可以被分为合适(proper)或不合适(improper),此处省略定义。
确定点 是否为帕累托最优的方法如下:
https://www.zhihu.com/equation?tex=%5Cmathop+%7B%5Ctext%7BMinimize%7D+%7D%5Climits_%7B%7B%5Cbf%7Bx%7D%7D%5Cin%7B%5Cbf%7BX%7D%7D%2C+%7B%5Cbf%7B%5Cdelta%7D%7D%5Cgeq0%7D+%5Csum_%7Bi%3D1%7D%5E%7BK%7D%7B%5Cdelta_i%7D%5C%5C+s.t.+F_i%28%7B%5Cbf%7Bx%7D%7D%29%2B%5Cdelta_i%3DF_i%28%7B%5Cbf%7Bx%7D%7D%5E%2A%29%2C+%5C+i%3D1%2C2%2C%5Cldots%2CK.
如果所有的 https://www.zhihu.com/equation?tex=%5Cdelta_i 都为0,那么即为帕累托最优点。
对于任何给定的问题,可能有无穷多个帕累托最优点构成帕累托最优集。因此,我们必须区分提供帕累托最优集或其中一部分的方法和真正寻求单一最优点的方法。

[*]必要充分条件(Necessary and sufficient conditions)
就全局标准 https://www.zhihu.com/equation?tex=F_g 而言,文献给出了帕累托最优点的充分条件,有助于评估一个标量化方法的有效性:
<blockquote data-pid="P4lNi15N">定理1:定义 https://www.zhihu.com/equation?tex=%7B%5Cbf%7BF%7D%7D%5Cin%7B%5Cbf%7BZ%7D%7D%2C%7B%5Cbf%7Bx%7D%7D%5E%2A%5Cin%7B%5Cbf%7BX%7D%7D+ 且 https://www.zhihu.com/equation?tex=%7B%5Cbf%7BF%7D%7D%5E%2A%3D%7B%5Cbf%7BF%7D%7D%28%7B%5Cbf%7Bx%7D%7D%5E%2A%29 。定义一个标量全局标准 https://www.zhihu.com/equation?tex=F_g%28%7B%5Cbf%7BF%7D%7D%29%3A+%7B%5Cbf%7BZ%7D%7D%5Crightarrow+R%5E1 为可微分的,且 https://www.zhihu.com/equation?tex=%5Cnabla_%7BF%7DF_g%28%7B%5Cbf%7BF%7D%7D%29%3E0+%5C+%5Cforall+%7B%5Cbf%7BF%7D%7D%5Cin%7B%5Cbf%7BZ%7D%7D 。假设 https://www.zhihu.com/equation?tex=F_g%28%7B%5Cbf%7BF%7D%7D%5E%2A%29%3D%5Cmin%5C%7BF_g%28%7B%5Cbf%7BF%7D%7D%29%3C%7B%5Cbf%7BF%7D%7D%5Cin%7B%5Cbf%7BZ%7D%7D%5C%7D ,那么

Mecanim 发表于 2022-7-16 14:36

多目标优化问题确实十分有意思!
由于篇幅原因,我在下篇中继续总结了其他多目标优化问题的求解方法,并举了个例子来说明多目标优化问题的具体求解过程~~感兴趣的朋友可以移步这里https://zhuanlan.zhihu.com/p/537958187
页: [1]
查看完整版本: 【科研两三招】一文了解多目标优化(multi-objective ...