提升深度学习性能的几个方向
共分为4个层面，数据层面、算法层面、算法调优层面、模型融合层面
1、数据方向
收集或生成更多的数据；对数据进行缩放或变换；特征选择；重新定义问题
2、算法方向
算法的筛选；从文献中“窃取”思路；重采样的方法
3、算法调优方向
模型的可诊断性（只有知道为何模型的性能不再有提升了，才能达到最好的效果，一般情况下模型总是处于过拟合、欠拟合两种状态之间，只是程度不同罢了，如果训练集的效果好于验证集，可能存在过拟合的现象，试一试增加正则项，如果训练集和验证集的准确率都很低，说明可能存在欠拟合，如果训练集和验证集的曲线有一个焦点，可能需要用到early stopping的技巧了）；权重的初始化；学习率；激活函数；网络结构；batch and epoch（深度学习模型常常使用最小的batch和大的epoch以及反复多次的训练）；正则项；优化目标
4、模型融合方向
一般单一的模型很难达到好的效果，可以采用将各个模型的结果相融合或者stacking的方式
