开篇：运筹优化，优化问题，优化算法，近似优化，启发 ...

Ylisar · 发表于 2021-11-15 21:53

APSchmidt · 发表于 2021-11-15 21:56

哈哈，欢迎加 @运筹OR帷幄学术群交流呀～

fwalker · 发表于 2021-11-15 22:01

挺好，简单明了，骨头都说了一遍

Baste · 发表于 2021-11-15 22:02

肉太多了，得一斤一斤涨[爱]下个不想看论文，不想写代码的夜晚，我在加[微笑]

RedZero9 · 发表于 2021-11-15 22:07

请教下大佬，我不是搞优化的，但我们学科经常有优化问题，我们现在都是算一些样本点，然后拟合一个近似模型，最后用遗传算法或者啥的去搜索这个模型的最优点。但这样的问题是，追求全局拟合精度需要计算大量的样本点，时间成本太大，而有些问题只需要预测极值点。我对您说的二步优化很感兴趣，您觉得有二步优化引入我们这种优化过程的话，有没有可能通过迭代方式减少样本点？这种二步优化方式需要了解的话，有什么书籍可以推荐？

jquave · 发表于 2021-11-15 22:12

您要是不说都没意识到自己在用小号，加入了。谢大佬!

ChuanXin · 发表于 2021-11-15 22:14

您好哈，感谢您的关注。不是很清楚您使用的方法，觉得您的问题更像是预测问题（数据挖掘）。从已知数据或者特征中预测极值的过程，再后把这个极值参与到其他环节中。如果我理解的正确，当然深度学习或者其他数据挖掘的算法在这方面更适合您的需求。如果您的模型（我想象是一个线性函数，而不单是神经网络）并对参数/权重进行优化，有一种可能是一些PSO或者其衍生的一些算法。当然针对凸优化的算法也可以试试看。
机学习需要大量的数据做输入。针对缺少数据的情况。就是您说的样本点计算成本太高。一方面，求解极值有些方式是通过约束松弛去降低问题维度，减少样本提取的成本，获得更多的样本量。再用这个这个模型为初始去训练完整模型。从近似优化算法方面，更合适的应该是一些有快速收敛能力的算法。或者expoiting更强的算法。（肯定还有其他方法，欢迎补充）。
上面的想法从二步优化上看有两个原因： 1）一个好的初始解能提提高整体优化算法的优化效率。2）收敛能力强的优化算法可以减少适应函数的调用次数。但是的确普遍来说增加了expoitation就会损失exploration。当然根据算法的模块和行为，是有都增强的空间的。但论文中都是对特定一类问题，包括规模，复杂度等等。对所有问题，  ”都要“ 似乎是一个伪命题。

作为第一篇文章的结尾，我落到了超启发算法，他的特点就是使用根据不同的环境使用最好的搜索行为。  是进10-20年的发展方向。但不带表超启发就是最好的，我之后会补充。 11年的时候有一次超启发算法比赛。  有趣的是我使用（LA）HC 和SA 与比赛前五名超期发算法做比较解决一维背包问题。发现单纯使用简单元启发算法的优化能力，超过这五个算法。结果比较意外。原因是超期发算法更为复杂，虽然通用性强，但是针对单一问题，并不一定高效。而且算法自身占用的计算资源也会更高。（等下会修改文章，或者以后再写一篇补充这点）。还有些想法，您看我可不可以把您的问题写到专栏里，我以后再展开。这里字数被限制了。

unityloverz · 发表于 2021-11-15 22:20

您好哈，感谢您的关注。不是很清楚您使用的方法，觉得您的问题更像是预测问题（数据挖掘）。从已知数据或者特征中预测极值的过程，再后把这个极值参与到其他环节中。如果我理解的正确，当然深度学习或者其他数据挖掘的算法在这方面更适合您的需求。如果您的模型（我想象是一个线性函数，而不单是神经网络）并对参数/权重进行优化，有一种可能是一些PSO或者其衍生的一些算法。当然针对凸优化的算法也可以试试看。

机学习需要大量的数据做输入。针对缺少数据的情况。就是您说的样本点计算成本太高。一方面，求解极值有些方式是通过约束松弛去降低问题维度，减少样本提取的成本，获得更多的样本量。再用这个这个模型为初始去训练完整模型。从近似优化算法方面，更合适的应该是一些有快速收敛能力的算法。或者expoiting更强的算法。（肯定还有其他方法，欢迎补充）。

上面的想法从二步优化上看有两个原因： 1）一个好的初始解能提提高整体优化算法的优化效率。2）收敛能力强的优化算法可以减少适应函数的调用次数。但是的确普遍来说增加了expoitation就会损失exploration。当然根据算法的模块和行为，是有都增强的空间的。但论文中都是对特定一类问题，包括规模，复杂度等等。对所有问题， ”都要“ 似乎是一个伪命题。

作为第一篇文章的结尾，我落到了超启发算法，他的特点就是使用根据不同的环境使用最好的搜索行为。是进10-20年的发展方向。但不带表超启发就是最好的，我之后会补充。 11年的时候有一次超启发算法比赛。有趣的是我使用（LA）HC 和SA 与比赛前五名超期发算法做比较解决一维背包问题。发现单纯使用简单元启发算法的优化能力，超过这五个算法。结果比较意外。原因是超期发算法更为复杂，虽然通用性强，但是针对单一问题，并不一定高效。而且算法自身占用的计算资源也会更高。（等下会修改文章，或者以后再写一篇补充这点）。还有些想法，您看我可不可以把您的问题写到专栏里，我以后再展开。这里字数被限制了。

ChuanXin · 发表于 2021-11-15 22:22

非常感谢回答，可以的。隔行如隔山，您的后半段解答我没怎么看懂[捂脸]，我再反复理解理解，期待您的后续文章～

rustum · 发表于 2021-11-15 22:24

你这态度有问题。学校刑满释放哈？拿着纳税人的钱上学是刑哈？难道上班996才是福报。

		自动登录	找回密码
密码			立即注册

开篇：运筹优化， 优化问题， 优化算法， 近似优化， 启发 ...

开篇：运筹优化，优化问题，优化算法，近似优化，启发 ...