1、问题描述

逻辑回归是机器学习中的一种典型问题，本文结合莫凡的机器学习教程，跑了一下机器学习的基本流程。
问题的输入x是[1001]的一维向量，目标函数是y=xx的函数。具体数据声明如下

x=torch.unsqueeze(torch.linspace(-1,1,100),dim=1)
y=x.pow(2)+0.2*torch.rand(x.size())
x,y=Variable(x),Variable(y)

2、基于pytorth网络模型的创建

1. 首先声明类Net继承于torch.nn.Module
2. 对 def init(self,n_features,n_hidden,n_output)函数进行定义，主要功能是定义隐藏层的输入维度是n_features，输出维度是n_hidden
3. 对 def forward(self,x):函数进行定义，主要功能是将输入的数据x,按部就班的放到网络模型中，我们的x是1001的张量，hidden层是1100的运算，即输入1输出个数为100，在执行x=F.relu(self.hidden(x))后，x变成了100100，在 x=self.predict(x)后，x变成了1001的张量，刚好一个x对应一个y。

class Net(torch.nn.Module):
    # 定义网络的输入输出层的数据维度信息
    def __init__(self,n_features,n_hidden,n_output):
        super(Net,self).__init__()
        self.hidden=torch.nn.Linear(n_features,n_hidden)
        self.predict=torch.nn.Linear(n_hidden,n_output)
    # x为输入信息data,forward用来搭建网络
    def forward(self,x):
        x=F.relu(self.hidden(x))
        x=self.predict(x)
        return x

# 第二种方法搭建
net=torch.nn.Sequential(
    torch.nn.Linear(1,100),
    torch.nn.ReLU(),
    torch.nn.Linear(100,1)
)

3、定义网络、优化模型及损失函数

• net=Net(1,10,1)相当于c++中调用了类Net的构造函数__init__，定义输入的n_features=1，n_hidden=10，n_output=1，有10个隐藏层。
• optimizer=torch.optim.SGD(net.parameters(),lr=0.2)采用随机梯度下降进行优化，lr是学习速率，相当于梯度下降的幅度。
• loss_func=torch.nn.MSELoss()损失函数采用MSE均值误差来评估。

# 使用：定义一下我们网络
net=Net(1,10,1)
plt.ion() 
plt.show()
# 优化
# parameters神经网络中的所有训练信息，包括梯度值
optimizer=torch.optim.SGD(net.parameters(),lr=0.2)
loss_func=torch.nn.MSELoss()

4、开始训练

# 训练100次
for i in range(100):
    prediction=net(x)
    loss=loss_func(prediction,y)
    # 进行优化，先将上一次的梯度值清零
    optimizer.zero_grad()
    # 反向计算出各节点的梯度
    loss.backward()
    # 逐步进行梯度优化，更新权重
    optimizer.step()
    if i%5==0:
        plt.cla()
        plt.scatter(x.data.numpy(),y.data.numpy())
        plt.plot(x.data.numpy(),prediction.data.numpy(),'r-',lw=5)
        plt.pause(0.1)
plt.ioff()
plt.show()

5、最后结果图

image.png