Deeplearning常用的损失函数

参考资料:
pytorch中文
pytorch官方doc

1.L1Loss= |x-y|
2.SmoothL1Loss



3.MSELoss均方损失函数 = (x-y)^2
4.CrossEntropyLoss


image.png

5.NLLLoss
loss(x,class)=−x[class]
*注意crossEntropyLoss相当于NLLLoss前加一个logsoftmax层
import torch
from torch.autograd import Variable
import torch.nn as nn
m = nn.LogSoftmax()
NLLLoss = nn.NLLLoss()
CrossEntrooyLoss = nn.CrossEntropyLoss()
input = Variable(torch.rand(3, 5), requires_grad=True)
target = Variable(torch.LongTensor().random_(5)) # random 0-4
crossentropyloss = CrossEntrooyLoss(input, target)
nllloss = NLLLoss(m(input), target)
print(crossentropyloss, nllloss)

结果是相同的

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 177,250评论 25 709
  • 首页 资讯 文章 资源 小组 相亲 登录 注册 首页 最新文章 IT 职场 前端 后端 移动端 数据库 运维 其他...
    Helen_Cat阅读 9,469评论 1 10
  • 沉下去的天色 浮现歌者奔腾的面容 自苍凉的尾音归来 血色的分贝漫过群山惨淡的倾听 手势浑圆,燃烧或沉沦曲折的脚印 ...
    子崖本人阅读 1,855评论 1 1
  • 其实我一直有颗文艺的心啊,奈何却踏上了工科的贼船回不来,天天和一群汉子一起蓬头垢面,越来越糙。可是还是喜欢笔墨书香...
    言不知午阅读 1,612评论 0 0
  • 有一种人,像极了寄居蟹,他永远需要寻找一处可以寄居肉体和灵魂的外壳,一直在寻找。。。。等时间久了,他自己都不会愿意...
    黄大仙_860c阅读 2,118评论 0 0

友情链接更多精彩内容