平方损失函数
其中N是样本数量 衡量的是模型预测的结果和标签之间的平方差 常用于回归类的问题
交叉熵损失函数
常用于分类问题 分类模型通常输出类别的概率分布 交叉熵衡量的是数据标签的真实分布与分类模型预测的概率分布之间的差异程度 损失值越小 他们之间的差异也就越小 模型就能够越精确的进行预测
其中p q分别表示数据标签的真实分布和模型预测给出的分布 如果样本xi的标签为ck 那么上式可以简化为
在这种情况下 最小化交叉熵损失的本质就是最大化样本标签的似然概率
平方损失函数
其中N是样本数量 衡量的是模型预测的结果和标签之间的平方差 常用于回归类的问题
交叉熵损失函数
常用于分类问题 分类模型通常输出类别的概率分布 交叉熵衡量的是数据标签的真实分布与分类模型预测的概率分布之间的差异程度 损失值越小 他们之间的差异也就越小 模型就能够越精确的进行预测
其中p q分别表示数据标签的真实分布和模型预测给出的分布 如果样本xi的标签为ck 那么上式可以简化为
在这种情况下 最小化交叉熵损失的本质就是最大化样本标签的似然概率