Softmax回归

0-1回归的延拓,0-1回归是softmax回归输出个数为2的特殊情况

Paste_Image.png

其代价函数

Paste_Image.png

其梯度

Paste_Image.png

特点:
1.参数不独立
2.offset不变性,所有参数同时加一个常数值是不变的,这是指数函数性质,利用这点可以精确化计算(将值offset到)

关于使用softmax回归还是多个0-1回归问题
这要看结果是否是互斥的,若是互斥的,则使用softmax,否则用多个0-1回归

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容