作用：创建随着Step衰减的学习率
举个例子：
例子
decay step解释：走多少步就按照某个比率（衰减率）衰减一次学习率
什么叫steps？他是 梯度更新的次数，一般就是batch的数目。就是说每一个batch的数据会更新一次梯度。
所以decay steps又可以表达为，经过多少batch，才衰减一次学习率
比如decay steps是5，那么就是说，每计算5个batch的数据，更新5次梯度，衰减一次学习率，然后再输入5个batch，再更新5次梯度，再衰减第二次学习率......
tf.train.exponential_decay()
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。
推荐阅读更多精彩内容
- 加快学习算法的一个办法就是随时间慢慢减少学习率,我们将之称为学习率衰减(learning rate decay) ...
- 简介 在Tensorflow中，为解决设定学习率(learning rate)问题，提供了指数衰减法来解决。通过t...
- 一、概述 本文记录了自己探究batchSize, lr以及Performance之间关系这一问题时做的笔记，组...
