名称 说明 缺点
L0 让所有的权重w更有稀疏性，即w=0的数量尽量多 难以收敛
L1 让所有的权重w更有稀疏性，即w=0的数量尽量多，会学习地去掉这些没有信息的特征，也就是把这些特征对应的权重置为0
L2 L2范数是指向量各元素的平方和然后求平方根。我们让L2范数的规则项||W||2最小，可以使得W的每个元素都很小，都接近于0，但与L1范数不同，它不会让它等于0，而是接近于0。
正则化项
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。
推荐阅读更多精彩内容
- 正则化（Regularization） 机器学习中几乎都可以看到损失函数后面会添加一个额外项，常用的额外项一般有两...
- http://blog.csdn.net/jinping_shi/article/details/52433975...
- 1 正则化（Regularization） 奥卡姆剃刀定律。 机器学习中几乎都可以看到损失函数后面会添加一...
- p=0.5: we can only get large values of one parameter only...
