（1）交叉熵只关心对正确类别的预测概率，因为只要其值足够大，就可以确保分类正确
（2）最小化交叉熵损失函数等价于最大化训练数据集的所有标签类别的联合预测概率
困惑度
困惑度是对交叉熵损失函数做指数运算后得到的值，loss用的事ce loss，再求指数获取困惑度。
交叉熵损失函数
最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。
推荐阅读更多精彩内容
- 本文转载自：https://www.cnblogs.com/liuxiaochong/p/14354568.htm...
- 写在前面： 为了对比二分类和多分类对于模型训练结果的影响，首先需要对这两种损失函数有比较清晰的了解。 有空需要做一...
- 关于交叉熵在loss函数中使用的理解https://blog.csdn.net/tsyccnh/article/d...
