杂集

1 负的似然函数为何可做“损失函数”？

似然函数的本质就是衡量在某个参数下，训练集的估计和真实情况一样的概率，越大代表越相近。

设f(x)为预测样本x为1的概率，则P(f(x)=1|y=1)=f(x)
P(y=f(x))=P(y=1)P(f(x)=1|y=1)+P(y=0)P(f(x)=0|y=0) \ \ \ \ (*)函数f(x)是预测样本x为1的概率
从而(*)式改为
P(y=f(x))=P(y=1)f(x)+(1-P(y=1))(1-f(x))
则预测损失可用P(y \not= f(x))=1-P(y=f(x)) \propto -P(y=f(x))衡量，考虑到对数函数的单调递增，所以损失函数可改写为-ln \ P(y=f(x))

©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容

  • 机器学习笔记
    以西瓜书为主线，以其他书籍作为参考进行补充，例如《统计学习方法》，《PRML》等 第一章 绪论 1.2 基本术语 ...
    danielAck阅读 4,751评论 0赞 5
  • Objective-C知识点杂集三
    第六部分 #define、#undef 条件编译 #ifdef、#endif、#else、#ifndef #def...
    拧发条鸟xds阅读 460评论 0赞 3
  • Objective-C知识点杂集二
    第三部分 向对象发送消息时，如何选择正确的方法。 #import与@class指令的区别 多态 @try处理异常 ...
    拧发条鸟xds阅读 518评论 0赞 1
  • 空夜
    ————对联诗 半窗明月泄天语 一帘风影醉花香 ——————2019.12.01广州南站
    南山人信天阅读 382评论 4赞 16
  • 那朵春花
    已倦矣，嚱 疲惫袭来的时候 我的神志已溃不成军 晚风吹，晚风吹 吹来了困意，吹落了春花 春花覆上了我的眼 轻轻拨开...
    僭客阅读 213评论 1赞 4