1. 创作灵感
在创建大型网络的时候,如果使用nn.Sequential()将几个有紧密联系的运算组成一个序列,可以使网络的结构更加清晰。
2.应用举例
为了记录nn.Sequential()的用法,搭建以下测试网络:
2.1 方法一
把网络分成3个Sequential序列,分别实现:第一个是卷积序列,第二个是铺平成一维的操作,第3个包含了两个线性层。
class TestNet(nn.Module):def __init__(self, in_channels, mid_channels):super(TestNet,self).__init__()self.conv = nn.Sequential(nn.Conv2d(in_channels,in_channels*2,kernel_size=3,stride=2,padding=1),nn.BatchNorm2d(in_channels*2),nn.ReLU(inplace=True),nn.Conv2d(in_channels*2,in_channels*4,kernel_size=3,stride=2,padding=1),nn.BatchNorm2d(in_channels*4),nn.ReLU(inplace=True))self.flat = nn.Flatten()self.linaer = nn.Sequential(nn.Linear(49*4, 64),nn.Linear(64, 10),nn.Linear(10, 1))def forward(self,x):x = self.conv(x)print(x.shape)x = self.flat(x)print(x.shape)x = self.linaer(x)print(x.shape)return x
运行结果:
从维度上判断,网络符合预期。
2.2 方法二
第二种方法,在网络结构比较复杂且重复的单元比较多,为了自动化生成网络,通常会先定义一个列表,在列表中添加网络,再使用nn.Sequential()。
使用方法二所需要的代码如下:
class TestNet2(nn.Module):def __init__(self, in_channels):super(TestNet2,self).__init__()layer1 = []layer2 = []layer1.append(nn.Conv2d(in_channels,in_channels*2,kernel_size=3,stride=2,padding=1))layer1.append(nn.BatchNorm2d(in_channels*2))layer1.append(nn.ReLU(inplace=True))layer1.append(nn.Conv2d(in_channels*2,in_channels*4,kernel_size=3,stride=2,padding=1))layer1.append(nn.BatchNorm2d(in_channels*4))layer1.append(nn.ReLU(inplace=True))self.conv = nn.Sequential(*layer1)self.flat = nn.Flatten()layer2.append(nn.Linear(49*4, 64))layer2.append(nn.Linear(64, 10))layer2.append(nn.Linear(10, 1))self.linaer = nn.Sequential(*layer2)def forward(self,x):x = self.conv(x)print(x.shape)x = self.flat(x)print(x.shape)x = self.linaer(x)print(x.shape)return x
运行结果如下:
与第一种方法的结果相同。
参考文献:
nn.Sequential、nn.ModuleList、nn.ModuleDict区别及使用技巧-CSDN博客