过拟合
什么是过拟合？
过拟合（Overfit），是这样一种现象：一个假设在训练数据上能够获得比其他假设更好的拟合，但是在训练数据外的数据集 上却不能很好的拟合数据。此时我们就叫这个假设出现了overfit的现象。-
原因：
- 模型复杂度过强（参数多并且过训练）
- 数据中的噪声
- 数据量有限，模型无法真正了解数据的真实分布。
-
解决：
- 权制衰减
- 适当stopping criterion（验证集）?
- 正则化?
数据集不平衡
不平衡训练集会对结果造成很大的负面影响，而训练集在平衡的情况下，能够达到最好的performance。
- 训练数据分布情况对CNN结果产生很大影响；
- 平衡的训练集是最优的，数据越不平衡，准确率越差；
- 如何提升准确率（使用Oversampling）
