机器学习-深度学习优化技巧

既要训练的好(模型拟合的好的技巧)

样本数据准备:收集更多维度/更丰富/质量更好的训练样本

数据预处理:创建更多有意义特征/更丰富/质量更好的数据

模型结构:4大CNN(8/19/22/152),LSTM,RELU激活函数,集成学习

LOSS:连续L2,离散CE

优化算法:小批,自适应学习速率,动量

模型迭代:交叉验证

又要推理的好(防止过拟合的技巧)

样本数据准备:收集更多维度/更丰富/质量更好的训练样本

数据预处理:创建更多有意义特征/更丰富质量/更好的数据

模型结构:dropout,网络结构(CNN/RNN),集成学习

LOSS:正则化,权重衰减

优化算法:提前终止

模型迭代:交叉验证

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容