PyTorch 包含创建和实现神经网络的特殊功能。在本节实验中，将创建一个简单的神经网络，其中一个隐藏层开发一个输出单元。

通过以下步骤使用 PyTorch 实现第一个神经网络。

第1步

首先，需要使用以下命令导入 PyTorch 库。

In [1]:

import torch

import torch.nn as nn

第2步

定义所有层和批量大小以开始执行神经网络，如下所示。

In [2]:

# Defining input size, hidden layer size, output size and batch size respectively

n_in, n_h, n_out, batch_size = 10, 5, 1, 10

第3步

由于神经网络包含输入数据的组合以获取相应的输出数据，将遵循以下相同的程序。

In [3]:

# Create dummy input and target tensors (data)

x = torch.randn(batch_size, n_in)

y = torch.tensor([[1.0], [0.0], [0.0],

[1.0], [1.0], [1.0], [0.0], [0.0], [1.0], [1.0]])

第4步

借助内置函数创建顺序模型。使用下面的代码行，创建一个顺序模型。

In [4]:

# Create a model

model = nn.Sequential(nn.Linear(n_in, n_h),

    nn.ReLU(),

    nn.Linear(n_h, n_out),

    nn.Sigmoid())

第5步

在梯度下降优化器的帮助下构造损失函数，如下所示。

In [5]:

#Construct the loss function

criterion = torch.nn.MSELoss()

# Construct the optimizer (Stochastic Gradient Descent in this case)

optimizer = torch.optim.SGD(model.parameters(), lr = 0.01)

第6步

使用给定的代码行使用迭代循环实现梯度下降模型。

In [6]:

# Gradient Descent

for epoch in range(50):

    # Forward pass: Compute predicted y by passing x to the model

    y_pred = model(x)

​

    # Compute and print loss

    loss = criterion(y_pred, y)

    print('epoch: ', epoch,' loss: ', loss.item())

​

    # Zero gradients, perform a backward pass, and update the weights.

    optimizer.zero_grad()

​

    # perform a backward pass (backpropagation)

    loss.backward()

​

    # Update the parameters

    optimizer.step()

epoch:  0  loss:  0.26868727803230286

epoch:  1  loss:  0.2684982419013977

epoch:  2  loss:  0.2683093845844269

epoch:  3  loss:  0.2681207060813904

epoch:  4  loss:  0.267932265996933

epoch:  5  loss:  0.2677440345287323

epoch:  6  loss:  0.26755601167678833

epoch:  7  loss:  0.2673681080341339

epoch:  8  loss:  0.267180472612381

epoch:  9  loss:  0.2669930160045624

epoch:  10  loss:  0.2668057382106781

epoch:  11  loss:  0.2666186988353729

epoch:  12  loss:  0.2664318084716797

epoch:  13  loss:  0.2662450969219208

epoch:  14  loss:  0.2660585939884186

epoch:  15  loss:  0.2658722996711731

epoch:  16  loss:  0.2656860947608948

epoch:  17  loss:  0.26550015807151794

epoch:  18  loss:  0.26531440019607544

epoch:  19  loss:  0.2651287913322449

epoch:  20  loss:  0.264943391084671

epoch:  21  loss:  0.2647581398487091

epoch:  22  loss:  0.26457303762435913

epoch:  23  loss:  0.26438820362091064

epoch:  24  loss:  0.2642034590244293

epoch:  25  loss:  0.2640189528465271

epoch:  26  loss:  0.26383453607559204

epoch:  27  loss:  0.2636503577232361

epoch:  28  loss:  0.2634662687778473

epoch:  29  loss:  0.26329419016838074

epoch:  30  loss:  0.2631300091743469

epoch:  31  loss:  0.2629658579826355

epoch:  32  loss:  0.2628018260002136

epoch:  33  loss:  0.2626378536224365

epoch:  34  loss:  0.262474000453949

epoch:  35  loss:  0.2623102366924286

epoch:  36  loss:  0.26214656233787537

epoch:  37  loss:  0.2619829773902893

epoch:  38  loss:  0.2618195414543152

epoch:  39  loss:  0.26165610551834106

epoch:  40  loss:  0.2614927887916565

epoch:  41  loss:  0.2613295316696167

epoch:  42  loss:  0.26116639375686646

epoch:  43  loss:  0.2610033452510834

epoch:  44  loss:  0.26084035634994507

epoch:  45  loss:  0.2606774866580963

epoch:  46  loss:  0.26051464676856995

epoch:  47  loss:  0.2603519558906555

epoch:  48  loss:  0.2601892650127411

epoch:  49  loss:  0.2600266933441162

5. 神经网络到功能块

训练深度学习算法涉及以下步骤：

• 构建数据管道
• 构建网络架构
• 使用损失函数评估架构
• 使用优化算法优化网络架构权重

训练特定的深度学习算法是将神经网络转换为功能块的确切要求，如下所示。

关于上图，任何深度学习算法都涉及获取输入数据，构建各自的架构，其中包括嵌入其中的一堆层。

观察上图，使用损失函数对神经网络权重的优化进行评估。