深度神经网络超参数调节

在深度网络中，需要调节的参数包括学习率α，动量参数β，网络层数，隐层节点数，学习率下降幅度，mini-batch等，其中最重要的超参数是学习率α，其次是隐层节点数，mini-batch和动量参数β。


深度神经网络需要调节的超参数

随机选点


搜索空间随机选取点

由粗到细的缩小搜索空间


在效果好的节点周围继续选点
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容