求梯度的函数：
f是需要求梯度的函数，x是求梯度的点
image.png
def numerical_gradient(f, x): h = 1e-4 # 0.0001
grad = np.zeros_like(x) # 生成和x形状相同的数组
for idx in range(x.size): tmp_val = x[idx] # f(x+h)的计算
x[idx] = tmp_val + h fxh1 = f(x)
# f(x-h)的计算
x[idx] = tmp_val - h fxh2 = f(x)
grad[idx] = (fxh1 - fxh2) / (2*h) x[idx] = tmp_val # 还原值
return grad
