softmax是逻辑回归的泛化算法
因为逻辑回归只能做二分类或者多个二分类
但是softmax可以直接做多分类
对于逻辑回归
h(w) = y_hat = sigmod(w) = 1/1+e^(-z)
对于softmax回归(因为多个二分类的概率和>1,softmax做了归一化,概率总和=1)
h(w) = y_hat = softmax(w)
实现方式
LogisticRegression(multi_class='multinomail', solver='sag')
multi_class:
ovr:多分类转换为多个二分类
multinomail:softmax