优化器算法Optimizer

记： $g_t=\nabla{E(w_{t-1})}$

算法名称	算法公式	描述
BGD	$w_t=w_{t-1}-\eta\nabla{E(w_{t-1})}$	每次使用全部样本
SGD	$w_t=w_{t-1}-\eta\nabla{E(w_{t-1},x^{(i)},y^{(i)})}$	每次使用一个样本
MGD	$w_t=w_{t-1}-\eta\nabla{E(w_{t-1},x^{(i:i+m)},y^{(i:i+m)})}$	每次使用m个样本
Momentum	$v_t=\gamma{v_{t-1}}+g_t$ $w_t=w_{t-1}-\eta{v_t}$	指数累加梯度值， $\eta=0.01$
Nesterov	$v_t=\gamma{v_{t-1}}+\eta\nabla{E(w_{t-1}-\gamma{v_{t-1})}}$ $w_t=w_{t-1}-v_t$	以未来位置 $w_{t-1}-\gamma{v_{t-1}}$ 的梯度作为本次累加的梯度， $\gamma=0.9$
Adagrad	$w_t =w_{t-1}-\frac{\eta}{\sqrt{\sum_{i=1}^{t}g_i^2}+\epsilon}g_t$	对稀疏数据低频大更高频小更， $\eta=0.01$
RMSprop	$E[g^2]_t=\gamma{E[g^2]_{t-1}}+(1-\gamma)g_t^2$ $w_t=w_{t-1}-\frac{\eta}{\sqrt{E[g^2]_t}+\epsilon}g_t$	用指数平滑均值代替全梯度求和， $\gamma=0.9,\eta=0.001$
AdaDelta	$E[g^2]_t=\gamma{E[g^2]_{t-1}}+(1-\gamma)g_t^2$ $w_t =w_{t-1}-\frac{\sqrt{E[\Delta{w}]_{t-1}}}{\sqrt{E[g^2]_t}+\epsilon}g_t$ 或令 $RMS[g]_t=\sqrt{E[g^2]_t}$ $w_t=w_{t-1}-\frac{RMS[\Delta{w}]_{t-1}}{RMS[g]_t}g_t$	一阶方法逼近二阶牛顿法， $\gamma=0.9$
Adam(Adaptive Moment Estimation)	$m_t=\beta_1m_{t-1}+(1-\beta_1)g_t$ $v_t=\beta_2v_{t-1}+(1-\beta_2)g_t^2$ $\hat{m}_t=\frac{m_t}{1-\beta_1^t}$ $\hat{v}_t=\frac{v_t}{1-\beta_2^t}$ $w_t=w_{t-1}-\frac{\eta}{\sqrt{\hat{v}_t}+\epsilon}\hat{m}_t$	RMSprop + Momentum+偏差矫正， $\beta_1=0.9$ $\beta_2=0.999$ $\epsilon=10^{-8}$

梯度下降算法

系数更新公式为：
$w_t=w_{t-1}-\eta\nabla{E(w_{t-1})}$
不妨设 $\bar{y}^{(i)}=wx+b$ ，且损失函数为：
$E(w)=\frac{1}{2}\sum_{i=1}^n(y^{(i)}-\bar{y}^{(i)})^2$
则梯度为：
$\begin{align} \nabla{E(w)}&=\frac{1}{2}\sum_{i=1}^{n}\frac{\partial}{\partial{w}}(y^{(i)}-\bar{y}^{(i)})^2\\ &=\frac{1}{2}\sum_{i=1}^{n}\frac{\partial}{\partial{w}}(y^{(i)2}-2y^{(i)}\bar{y}^{(i)}+\bar{y}^{(i)2})\\ &=\frac{1}{2}\sum_{i=1}^{n}2(-y^{(i)}+\bar{y}^{(i)})\mathrm{x}\\ &=-\sum_{i=1}^{n}(y^{(i)}-\bar{y}^{(i)})\mathrm{x} \end{align}$
对于BGD，n为全体数据量；对于SGD，n为1；对于MGD，n为批量大小m。

牛顿二阶梯度优化法的推导

$f(x)$ 在 $f(x_k)$ 泰勒展开以及梯度为
$f(x)=f(x_k)+g_k(x-x_k)+\frac{1}{2}(x-x_k)^TH_k(x-x_k) \\ \nabla{f(x)}=g_k+H_k(x-x_k)$ 令 $\nabla{f(x)}=0$ 时 $x=x_{k+1}$ ，得
$\nabla{f(x_{k+1})}=g_k+H_k(x_{k+1}-x_k)=0$ 从而
$x_{k+1}=x_k-H_k^{-1}g_k$

牛顿二阶系数更新公式

系数更新公式为：
$w_t=w_{t-1}-H_t^{-1}\nabla{E(w_{t-1})}$
其中 $H$ 为参数二阶导矩阵，即Hessian矩阵。 $H_t^{-1}$ 代替了 $\eta$ ，不过计算复杂度为 $O(n^3)$ ，代价太高。

AdaDelta

使用一阶方法近似牛顿二阶，从而可以省去超参 $\eta$ 。记： $g_t=\nabla{E(w_{t-1})}$
由牛顿二阶法系数更新公式
$\Delta{w} \propto H_t^{-1}g_t$ 可得
$H_t^{-1} \propto \frac{\Delta{w}}{g_t} \approx \frac{RMS[\Delta{w}]_{t-1}}{RMS[g]_t}$ 从而
$w_t=w_{t-1}-\frac{RMS[\Delta{w}]_{t-1}}{RMS[g]_t}g_t$

最后编辑于：2018.10.09 18:08:37

人面猴
序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
沈念sama阅读 216,402评论 6赞 499
死咒
序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
沈念sama阅读 92,377评论 3赞 392
救了他两次的神仙让他今天三更去死
文/潘晓璐我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
开封第一讲书人阅读 162,483评论 0赞 353
道士缉凶录：失踪的卖姜人
文/不坏的土叔我叫张陵，是天一观的道长。经常有香客问我，道长，这世上最难降的妖魔是什么？我笑而不...
开封第一讲书人阅读 58,165评论 1赞 292
港岛之恋（遗憾婚礼）
正文为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
茶点故事阅读 67,176评论 6赞 388
恶毒庶女顶嫁案：这布局不是一般人想出来的
文/花漫我一把揭开白布。她就那样静静地躺着，像睡着了一般。火红的嫁衣衬着肌肤如雪。梳的纹丝不乱的头发上，一...
开封第一讲书人阅读 51,146评论 1赞 297
城市分裂传说
那天，我揣着相机与录音，去河边找鬼。笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。我是一名探鬼主播，决...
沈念sama阅读 40,032评论 3赞 417
双鸳鸯连环套：你想象不到人心有多黑
文/苍兰香墨我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
开封第一讲书人阅读 38,896评论 0赞 274
万荣杀人案实录
序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
沈念sama阅读 45,311评论 1赞 310
护林员之死
正文独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋以下内容为张勋视角年9月15日...
茶点故事阅读 37,536评论 2赞 332
白月光启示录
正文我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
茶点故事阅读 39,696评论 1赞 348
活死人
序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
沈念sama阅读 35,413评论 5赞 343
日本核电站爆炸内幕
正文年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
茶点故事阅读 41,008评论 3赞 325
男人毒药：我在死后第九天来索命
文/蒙蒙一、第九天我趴在偏房一处隐蔽的房顶上张望。院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
开封第一讲书人阅读 31,659评论 0赞 22
一桩弑父案，背后竟有这般阴谋
文/苍兰香墨我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。一阵脚步声响...
开封第一讲书人阅读 32,815评论 1赞 269
情欲美人皮
我被黑心中介骗来泰国打工，没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。一个月前我还...
沈念sama阅读 47,698评论 2赞 368
代替公主和亲
正文我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
茶点故事阅读 44,592评论 2赞 353

优化器算法Optimizer

梯度下降算法

牛顿二阶梯度优化法的推导

牛顿二阶系数更新公式

AdaDelta

推荐阅读更多精彩内容