import numpy as np
def sigmoid(x):
return 1.0 / (1 + np.exp(-x))
def batch_grad_ascent(X_train, y_train, alpha, n_iter):
“”“批梯度下降”“”
X_train = np.mat(X_train)
y_train = np.mat(y_train).transpose()
m, n = shpae(X_train)
weighs = np.ones((n, 1))
for k in range(n_iter):
hx = sigmoid(weighs * X_train)
error = y_train - hx
weighs += alpha * X_train.transpose() * error
return weights
def stoc_grad_ascent(X_train, y_train, alpha):
“”“随机梯度下降”“”
m, n = shape(X_train)
weights = np.ones((n, 1))
for i in range(m):
h = sigmoid(np.sum(weights * X_train[i]))
error = y_train[i] - h
weights += alpha * error * X_train[i]
return weights
逻辑回归 批梯度下降和随机梯度下降 python实现
最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
相关阅读更多精彩内容
- 批量梯度下降和随机梯度下降是机器学习中很常用的学习方法,批量梯度下降更为准确,但是每一轮训练都要遍历全部的样本而随...
- 相同点 在GD和SGD中,都会在每次迭代中更新模型的参数,使得代价函数变小。 不同点 GD 在GD中,每次迭代都要...
- [5]:http://latex.codecogs.com/gif.latex?\mathbf{J(w)}=\fr...