论坛 › 技术讨论 Technology Answers › 《运筹学》,《线性规划》，《非线性规划》，《凸优化》，《最优化方法》这几门课程有什么区别和联系？

DomDomm 发表于 2021-9-15 09:47

我建议题主先从“凸优化”开始学习。只不过开始前建议你先把线性代数学好，尤其是matrix norm这样的重要概念。
一般来讲“凸优化”会包括线性规划和非线性规划的一些主要思想和概括，所以之后如果你感兴趣的话可以再深入学习这两本。
至于运筹学，那是一个更偏向具体实现的学科了，不建议先学。对于初学者来说admm具体怎么操作也并不是很重要
还是先把凸优化的一些基本概念学清楚，比如凸集，凸函数，epigraph，convex hull，Conic Programming，KKT/CQ 等等。首先要明白凸性质的重要性和必要性，再学懂朗格朗日对偶的推导，你也就基本入门了。

ChuanXin 发表于 2021-9-15 09:48

本质上都是凸规划。
线性规划就是在闭凸集上的。凸规划是线性规划的推广。但是两者算法不同。线性规划毕竟好找基底，还有多项式算法。凸规划就是逐步迭代，盲人下山。
难的可能还是最优控制，也就是搞变分法。

fwalker 发表于 2021-9-15 09:52

都非常简单 都非常无聊 而且机器学习的人做优化和运筹学的人做优化风格都不一样 运筹学大多数时候只考虑收敛 机器学习的人还得考虑复杂度和泛化律之类的
建议你看看定会这两年的优化文章 比看书大有裨益
优化离开了机器学习等于吃饭没有肉

查看完整版本: 《运筹学》,《线性规划》，《非线性规划》，《凸优化》，《最优化方法》这几门课程有什么区别和联系？