有什么好的模型调参的方法么？网格搜索？贝叶斯优化？
七月在线金融就业班上有讲过，offks + (offks - devks) * 0.8 最大化。这个0.8自己来调整，看你是希望跨时间验证集上的KS更高，还是希望模型更稳定。然后模型内部的参数搜索建议贝叶斯优化，推荐原因是因为快一点。精度其实差别不大。然后精细化调参，一般都是千分位上的提升。
<hr/>文末免费送电子书：七月在线干货组最新 升级的《名企AI面试100题》免费送！
解析2
[*]简介
本文受 浅析 Hinton 最近提出的 Capsule 计划 启发，希望以更通俗的方式推广机器学习算法，让有数学基础和编程能力的人能够乐享其中。
目前人工智能和深度学习越趋普及，大家可以使用开源的Scikit-learn、TensorFlow来实现机器学习模型，甚至参加Kaggle这样的建模比赛。那么要想模型效果好，手动调参少不了，机器学习算法如SVM就有gamma、kernel、ceof等超参数要调，而神经网络模型有learning_rate、optimizer、L1/L2 normalization等更多超参数可以调优。
很多paper使用一个新的模型可以取得state of the art的效果，然后提供一组超参数组合方便读者复现效果，实际上这些超参数都是“精挑细选”得到的，背后有太多效果不好的超参数尝试过程被忽略，大家也不知道对方的超参数是如何tune出来的。因此，了解和掌握更好的超参数调优方法在科研和工程上是很有价值的，本文将介绍一种更好的超参数调优方式，也就是贝叶斯优化（Bayesian Optimization），以及开源调参服务Advisor的使用介绍。
[*]超参数介绍
首先，什么是超参数（Hyper-parameter）？这是相对于模型的参数而言（Parameter），我们知道机器学习其实就是机器通过某种算法学习数据的计算过程，通过学习得到的模型本质上是一些列数字，如树模型每个节点上判断属于左右子树的一个数，或者逻辑回归模型里的一维数组，这些都称为模型的参数。
那么定义模型属性或者定义训练过程的参数，我们称为超参数，例如我们定义一个神经网络模型有9527层网络并且都用RELU作为激活函数，这个9527层和RELU激活函数就是一组超参数，又例如我们定义这个模型使用RMSProp优化算法和learning rate为0.01，那么这两个控制训练过程的属性也是超参数。
显然，超参数的选择对模型最终的效果有极大的影响。如复杂的模型可能有更好的表达能力来处理不同类别的数据，但也可能因为层数太多导致梯度消失无法训练，又如learning rate过大可能导致收敛效果差，过小又可能收敛速度过慢。
那么如何选择合适的超参数呢，不同模型会有不同的最优超参数组合，找到这组最优超参数大家会根据经验、或者随机的方法来尝试，这也是为什么现在的深度学习工程师也被戏称为“调参工程师”。根据No Free Lunch原理，不存在一组完美的超参数适合所有模型，那么调参看起来是一个工程问题，有可能用数学或者机器学习模型来解决模型本身超参数的选择问题吗？答案显然是有的，而且通过一些数学证明，我们使用算法“很有可能”取得比常用方法更好的效果，为什么是“很有可能”，因为这里没有绝对只有概率分布，也就是后面会介绍到的贝叶斯优化。
[*]自动调参算法
说到自动调参算法，大家可能已经知道了Grid search（网格搜索）、Random search（随机搜索），还有Genetic algorithm（遗传算法）、Paticle Swarm Optimization（粒子群优化）、Bayesian Optimization（贝叶斯优化）、TPE、SMAC等。
y这里补充一个背景，机器学习模型超参数调优一般认为是一个黑盒优化问题，所谓黑盒问题就是我们在调优的过程中只看到模型的输入和输出，不能获取模型训练过程的梯度信息，也不能假设模型超参数和最终指标符合凸优化条件，否则的话我们通过求导或者凸优化方法就可以求导最优解，不需要使用这些黑盒优化算法，而实际上大部分的模型超参数也符合这个场景。其次是模型的训练过程是相对expensive的，不能通过快速计算获取大量样本，我们知道DeepMind用增强学习模型DQN来打Atari游戏，实际上每一个action操作后都能迅速取得当前的score，这样收集到大量样本才可以训练复杂的神经网络模型，虽说我们也可以用增强学习来训练超参数调优的模型，但实际上一组超参数要训练一个模型需要几分钟、几小时、几天甚至几个月的时间，无法快速获取这么多样本数据，因此需要有更“准确和高效”的方法来调优超参数。
像遗传算法和PSO这些经典黑盒优化算法，我归类为群体优化算法，也不是特别适合模型超参数调优场景，因为需要有足够多的初始样本点，并且优化效率不是特别高，本文也不再详细叙述。目前业界用得比较多的分别是Grid search、Random search和Bayesian Optimization。网格搜索很容易理解和实现，例如我们的超参数A有2种选择，超参数B有3种选择，超参数C有5种选择，那么我们所有的超参数组合就有2 * 3 * 5也就是30种，我们需要遍历这30种组合并且找到其中最优的方案，对于连续值我们还需要等间距采样。实际上这30种组合不一定取得全局最优解，而且计算量很大很容易组合爆炸，并不是一种高效的参数调优方法。
业界公认的Random search效果会比Grid search好，Random search其实就是随机搜索，例如前面的场景A有2种选择、B有3种、C有5种、连续值随机采样，那么每次分别在A、B、C中随机取值组合成新的超参数组合来训练。虽然有随机因素，但随机搜索可能出现效果特别差、也可能出现效果特别好，在尝试次数和Grid search相同的情况下一般最值会更大，当然variance也更大但这不影响最终结果。在实现Random search时可以优化，过滤随机可能出现过的超参数组合，不需要重复计算。
实际上Grid search和Random search都是非常普通和效果一般的方法，在计算资源有限的情况下不一定比建模工程师的个人经验要好，接下来介绍的Bayesian Optimization就是“很可能”比普通开发者或者建模工程师调参能力更好的算法。首先贝叶斯优化当然用到了贝叶斯公式，这里不作详细证明了，它要求已经存在几个样本点（同样存在冷启动问题，后面介绍解决方案），并且通过高斯过程回归（假设超参数间符合联合高斯分布）计算前面n个点的后验概率分布，得到每一个超参数在每一个取值点的期望均值和方差，其中均值代表这个点最终的期望效果，均值越大表示模型最终指标越大，方差表示这个点的效果不确定性，方差越大表示这个点不确定是否可能取得最大值非常值得去探索。因此实现贝叶斯优化第一步就是实现高斯过程回归算法，并且这里可以通过类似SVM的kernel trick来优化计算，在后面的开源项目Advisor介绍中我们就使用Scikit-learn提供的GaussianProgressRegressor，最终效果如下图，在只有3个初始样本的情况下我们（通过100000个点的采样）计算出每个点的均值和方差。
从曲线可以看出，中间的点均值较大，而且方差也比较大，很有可能这个点的超参数可以训练得到一个效果指标好的模型。那为什么要选均值大和方差大的点呢？因为前面提到均值代表期望的最终结果，当然是越大越好，但我们不能每次都挑选均值最大的，因为有的点方差很大也有可能存在全局最优解，因此选择均值大的点我们成为exploritation（开发），选择方差大的点我们称为exploration（探索）。那么究竟什么时候开发什么时候探索，并且开发和探索各占多少比例呢？不同的场景其实是可以有不同的策略的，例如我们的模型训练非常慢，只能再跑1组超参数了，那应该选择均值较大的比较有把握，如果我们计算力还能可以跑1000次，那么就不能放弃探索的机会应该选择方差大的，而至于均值和方差比例如何把握，这就是我们要定义的acquisition function了。acquisition function是一个权衡exploritation和exploration的函数，最简单的acquisition function就是均值加上n倍方差（Upper condence bound算法），这个n可以是整数、小数或者是正数、负数，更复杂的acquisition function还有Expected improvement、Entropy search等等。在原来的图上加上acquisition function曲线，然后我们求得acquisition function的最大值，这是的参数值就是贝叶斯优化算法推荐的超参数值，是根据超参数间的联合概率分布求出来、并且均衡了开发和探索后得到的结果。
因此如果我们使用贝叶斯优化，那么我们下一个点就取中间偏左的点，使用这个点代表的超参数来训练模型，并且得到这个模型在这住超参数组合下的效果指标。有了新的指标，贝叶斯优化模型的样本就从3个变成了4个，这样可以重新计算超参数之间的后验概率分布和acquisition function，效果如下图。
从均值和方差曲线看出，目前右边的点均值不低，并且方差是比较大，直观上我们认为探索右边区域的超参数是“很可能”有价值的。从acquisition function曲线我们也可以看出，右边的点在考虑了开发和探索的情况下有更高的值，因此我们下一个超参数推荐就是右边星号的点。然后我们使用推荐的超参数继续训练，得到新的模型效果指标，加入到高斯过程回归模型里面，得到新的均值-方差曲线和acquisition function曲线。
通过不断重复上述的步骤，我们的曲线在样本极少的情况下也可以毕竟最终真实的曲线。当然上面的图是在一个黑盒优化问题上模拟的，因此我们知道真实的曲线形状，现实的机器学习模型的超参数间不一定能画出完整的曲线，但通过符合联合高斯概率分布的假设，还有高斯过程回归、贝叶斯方程等数学证明，我们可以从概率上找到一个“很可能”更好的超参数，这是比Grid search或者Random search更有价值的方法。注意，前面提到的Bayesian Optimization等超参数优化算法也是有超参数的，或者称为超超参数，如acquisition function的选择就是可能影响超参数调优模型的效果，但一般而言这些算法的超超参数极少甚至无须调参，大家选择业界公认效果比较好的方案即可。
解析参考链接：
https://zhuanlan.zhihu.com/p/29779000
<hr/>帮助数千人成功上岸的《名企AI面试100题》书，电子版，限时免费送，评论区回复“100题”领取！
本书涵盖计算机语基础、算法和数据、机器学习、深度学习、应向 (CV、NLP、推荐 、融风控)等五章节，每段代码、每道题的解析都经过了反复审查或review，但不排除可能仍有部分题存在问题，如您发现，敬请通过官/APP七月在线 - 国内领先的AI职业教育平台 (http://julyedu.com)对应的题页留指出。
为了照顾家去官对应的题页参与讨论，故本册各个章节的题顺序和官/APP题库内的题展顺序 保持致。 只有100题，但实际笔试试不定局限于本100题，故更多烦请家移步七在线官或 七在线APP，上还有近4000道名企AI笔试试题等着家，刷题愉快
页:
[1]