Pytorch:七、多维输入


在面对多维输入时,σ函数的输入就变成了:

通常把那两个向量相乘记为z(i)

Mini-Batch (N samples)

pytorch的sigmoid函数是向量计算的,所以直接输入就好;

不直接降维的原因:因为直降1维没有足够神经元学习导致精确度低;

糖尿病病人的表格

前面8列代表了各种指标,最后的y对应着在解析来的一年里其病情是否会加重;

多维的流程图和代码
import torch

#普通的一维输入
class Model1(torch.nn.Module):
    #至少要实现下面这两个函数
    def __init__(self):
        super(Model, self).__init__()
        #代表了输入维度为8,输出维度为1
        self.linear = torch.nn.Linear(8, 1)
        self.sigmoid = torch.nn.Sigmoid()
        
    def forward(self, x):
        x = self.linear(x)
        return x
    #运用Module所构建的模型可以用其自带的backward函数来根据计算图进行逆向传播
    

#1. 读取数据
import numpy as np
#delimiter表示分隔符,dtype常用32位的浮点数
xy = np.loadtxt('diabetes.csv.gz', delimiter=',', dtype=np.float32)
x_data = torch.from_numpy(xy[:,:-1])
#-1的那个中括号是为了提取出来的结果是个矩阵,而非向量
y_data = torch.from_numpy(xy[:, [-1]])

#2. 设计新模型
class Model(torch.nn.Module):
    def __init__(self):
        super(Model, self).__init__()
        self.linear1 = torch.nn.Linear(8, 6)
        self.linear2 = torch.nn.Linear(6, 4)
        self.linear3 = torch.nn.Linear(4, 1)
        #注意这里用的是nn下的sigmoid,
        self.sigmoid = torch.nn.Sigmoid()

    def forward(self, x):
        x = self.sigmoid(self.linear1(x))
        x = self.sigmoid(self.linear2(x))
        x = self.sigmoid(self.linear3(x))
        return x

model = Model()

#3. 构造损失函数和优化器
#和之前一样
criterion = torch.nn.BCELoss(size_average=True)

optimizer = torch.optim.SGD(model.parameters(), lr=0.1)

#4. 
for epoch in range(100):
    for i, data in enumerate(train_loader, 0):
        # 1.Prepare data
        #直接把所有数据全都丢进去就行了
        inputs, labels = data
        print(inputs, labels)
        # 2.Forward
        y_pred = model(inputs)
        loss = criterion(y_pred, labels)
        print(epoch, i, loss.item())
        # 3.Backward
        optimizer.zero_grad()
        loss.backward()
        # 4.Update
        optimizer.step()

pytorch中提供了大量的激活函数:
torch.nn — PyTorch 1.13 documentation

只用把Model中的self.active改了就可以了;

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容