【Pytorch神经网络理论篇】 12 卷积神经网络实现+卷积计算的图解

 

同学你好！本文章于2021年末编写，获得广泛的好评！

故在2022年末对本系列进行填充与更新，欢迎大家订阅最新的专栏，获取基于Pytorch1.10版本的理论代码(2023版)实现，

Pytorch深度学习·理论篇(2023版)目录地址为：

CSDN独家 | 全网首发 | Pytorch深度学习·理论篇(2023版)目录本专栏将通过系统的深度学习实例，从可解释性的角度对深度学习的原理进行讲解与分析，通过将深度学习知识与Pytorch的高效结合，帮助各位新入门的读者理解深度学习各个模板之间的关系，这些均是在Pytorch上实现的，可以有效的结合当前各位研究生的研究方向，设计人工智能的各个领域，是经过一年时间打磨的精品专栏！https://v9999.blog.csdn.net/article/details/127587345欢迎大家订阅(2023版)理论篇

以下为2021版原文~~~~

1 卷积神经网络接口

1.1 卷积接口介绍

  • torch.nn.functional.conv1d：实现按照1个维度进行的卷积操作，常用于处理序列数据。
  • torch.nn.functional.conv2d：实现按照2个维度进行的卷积操作，常用于处理二维平面图片。
  • torch.nn.functional.conv3d：实现按照3个维度进行的卷积操作，常用于处理三维图形数据。

1.2 卷积函数的定义

torch.nn.functional.conv2d(input, weight, bias=None, stride=1, padding=0, dilation=1, groups=1) 
  • input：输入图像的大小(minibatch，in_channels，H，W)，是一个四维tensor
  • filters：卷积核的大小(out_channels，in_channe/groups，H，W)，是一个四维tensor
  • bias：每一个channel的bias，是一个维数等于out_channels的tensor
  • stride：一个数或者一个二元组(SH，SW)，代表纵向和横向的步长
  • padding：一个数或者一个二元组(PH，PW )，代表纵向和横向的填充值
  • dilation：一个数，代表卷积核内部每个元素之间间隔元素的数目(不常用，默认为0)
  • groups：一个数，代表分组卷积时分的组数，特别的当groups = in_channel时，就是在做逐层卷积(depth-wise conv).

1.2 卷积函数的类实现

class torch.nn.Conv2d(in_channels, out_channels, kennel_size, stride=1, padding=0, dilation=1, groups=1, bias=true)
  • in_channels(int) 输入特征图的通道数
  • out_channels(int) 输出特征图的通道数
  • kenal_size(int or tuple) 卷积核大小
  • stride(int or tuple, optional) 卷积核的步长，默认为1
  • padding(int or tuple,optional) 输入的每一条边补充0的层数，默认为0
  • dilation(int or tuple, optional) 卷积核元素间的距离，默认为1
  • groups(int,optional)将原始输入通道划分成的组数，默认为1
  • bias(bool,optional) 默认为True，表示输出的bias可学习
     

1.3 两者区别

torch.nn.Conv2D是一个类，而torch.nn.functional.conv2d是一个函数，在Sequential里面只能放nn.xxx，而nn.functional.xxx是不能放入Sequential里面的。

nn.Module 实现的 layer 是由 class Layer(nn.Module) 定义的特殊类，nn.functional 中的函数是纯函数，由 def function(input) 定义。

nn.functional.xxx 需要自己定义 weight，每次调用时都需要手动传入 weight，而 nn.xxx 则不用。

1.4 卷积函数的操作步骤

1.5 卷积操作的类型

1.5.1 窄卷积(vaild卷积)

即生成的特征图比原来的原始图片小。它的步长是可变的。假如，滑动步长为S,原始图片的维度为N1×N1。卷积核的大小为卷积后图像大小为[(N1-N2)/S + 1]。


1.5.2 同卷积(same卷积)，

卷积后的图片尺寸与原始的一样大，同卷积的步长是固定的，滑动步长为1。一般操作时都要使用padding操作（在原始图片的外围补0，来确保生成的尺寸不变)。


1.5.3 全卷积(full卷积)，也称反卷积，主要用作反卷积网络中，用于图像的恢复与还原。

将原始图片里面的每个像素点都用卷积操作展开。如图7-16所示，白色的块是原始图片，浅色的是卷积核，深色的是正在卷积操作的像素点。在全卷积操作的过程中，同样需要对原有图片进行padding操作，生成的结果会比原有的图片尺寸大。步长固定为1，卷积核的大小为卷积后图像大小为[N1-N2-1]

2 卷积函数的使用

2.1 定义卷积输入变量 --- CNN_New.py(第01部分)

import torch### 1.1 定义输入变量
# [batch,in_channels,in_height,in_width]
# [训练时一个batch的图片数量，图像通道数，图片高度，图片宽度]
input1 = torch.ones([1,1,5,5])
input2 = torch.ones([1,2,5,5])
input3 = torch.ones([1,1,4,4])

2.2 验证卷积的补0规则 --- CNN_New.py(第02部分)

### 1.2 验证补0规则
# 设置padding为1，在输入数据上补1排0
padding1 = torch.nn.functional.conv2d(input1,torch.ones([1,1,1,1]),stride=1,padding=1)
print(padding1)
# 设置padding为1，在输入数据上补2行0
padding2 = torch.nn.functional.conv2d(input1,torch.ones([1,1,1,1]),stride=1,padding=(1,2))
print(padding2)

tensor([[[[0., 0., 0., 0., 0., 0., 0.],
          [0., 1., 1., 1., 1., 1., 0.],
          [0., 1., 1., 1., 1., 1., 0.],
          [0., 1., 1., 1., 1., 1., 0.],
          [0., 1., 1., 1., 1., 1., 0.],
          [0., 1., 1., 1., 1., 1., 0.],
          [0., 0., 0., 0., 0., 0., 0.]]]])
tensor([[[[0., 0., 0., 0., 0., 0., 0., 0., 0.],
          [0., 0., 1., 1., 1., 1., 1., 0., 0.],
          [0., 0., 1., 1., 1., 1., 1., 0., 0.],
          [0., 0., 1., 1., 1., 1., 1., 0., 0.],
          [0., 0., 1., 1., 1., 1., 1., 0., 0.],
          [0., 0., 1., 1., 1., 1., 1., 0., 0.],
          [0., 0., 0., 0., 0., 0., 0., 0., 0.]]]])

2.3 卷积核的定义 --- CNN_New.py(第03部分)

### 1.3 定义卷积核变量
# [out_channels,in_channels,filter_height,filter_width]
# [卷积核个数,图像通道数,卷积核的高度,卷积核的宽度
filter1 = torch.tensor([-1.0,0,0,-1]).reshape([1,1,2,2]) # 1通道输入和1通道输出的2X2矩阵
filter2 = torch.tensor([-1.0,0,0,-1,-1.0,0,0,-1]).reshape([2,1,2,2])# 1通道输入和2通道输出的2X2矩阵
filter3 = torch.tensor([-1.0,0,0,-1,-1.0,0,0,-1,-1.0,0,0,-1]).reshape([3,1,2,2])# 1通道输入和3通道输出的2X2矩阵
filter4 = torch.tensor([-1.0,0,0,-1,-1.0,0,0,-1,-1.0,0,0,-1,-1.0,0,0,-1]).reshape([2,2,2,2])# 2通道输入和2通道输出的2X2矩阵
filter5 = torch.tensor([-1.0,0,0,-1,-1.0,0,0,-1]).reshape([1,2,2,2]) # 2通道输入和1通道输出的2X2矩阵

2.4 卷积操作与其结果 --- CNN_New.py(第04部分)

### 1.4 卷积操作
## 1个通道输入，生成1个特征图(卷积核个数)
pl1 = torch.nn.functional.conv2d(input1,filter1,stride=2,padding=1)
print("p1",pl1)
## 1个通道输入，生成2个特征图(卷积核个数)
pl2 = torch.nn.functional.conv2d(input1,filter2,stride=2,padding=1)
print("p2",pl2)
## 1个通道输入，生成3个特征图(卷积核个数)
pl3 = torch.nn.functional.conv2d(input1,filter3,stride=2,padding=1)
print("p3",pl3)
## 2个通道输入，生成2个特征图(卷积核个数)
pl4 = torch.nn.functional.conv2d(input2,filter4,stride=2,padding=1)
print("p4",pl4)
## 2个通道输入，生成1个特征图(卷积核个数)====》对于卷积核对多通道输入的卷积处理，多通道的结果的叠加
pl5 = torch.nn.functional.conv2d(input2,filter5,stride=2,padding=1)
print("p5",pl5)
## padding不同，生成的结果也不同
pl6 = torch.nn.functional.conv2d(input1,filter1,stride=2,padding=0)
print("p6",pl6)

p1 tensor([[[[-1., -1., -1.],
          [-1., -2., -2.],
          [-1., -2., -2.]]]])
p2 tensor([[[[-1., -1., -1.],
          [-1., -2., -2.],
          [-1., -2., -2.]],

         [[-1., -1., -1.],
          [-1., -2., -2.],
          [-1., -2., -2.]]]])
p3 tensor([[[[-1., -1., -1.],
          [-1., -2., -2.],
          [-1., -2., -2.]],

         [[-1., -1., -1.],
          [-1., -2., -2.],
          [-1., -2., -2.]],

         [[-1., -1., -1.],
          [-1., -2., -2.],
          [-1., -2., -2.]]]])
p4 tensor([[[[-2., -2., -2.],
          [-2., -4., -4.],
          [-2., -4., -4.]],

         [[-2., -2., -2.],
          [-2., -4., -4.],
          [-2., -4., -4.]]]])
p5 tensor([[[[-2., -2., -2.],
          [-2., -4., -4.],
          [-2., -4., -4.]]]])
p6 tensor([[[[-2., -2.],
          [-2., -2.]]]])

Tip：多通道卷积的图解

2.5 代码汇总

import torch### 1.1 定义输入变量
# [batch,in_channels,in_height,in_width]
# [训练时一个batch的图片数量，图像通道数，图片高度，图片宽度]
input1 = torch.ones([1,1,5,5])
input2 = torch.ones([1,2,5,5])
input3 = torch.ones([1,1,4,4])### 1.2 验证补0规则
# 设置padding为1，在输入数据上补1排0
padding1 = torch.nn.functional.conv2d(input1,torch.ones([1,1,1,1]),stride=1,padding=1)
print(padding1)
# 设置padding为1，在输入数据上补2行0
padding2 = torch.nn.functional.conv2d(input1,torch.ones([1,1,1,1]),stride=1,padding=(1,2))
print(padding2)### 1.3 定义卷积核变量
# [out_channels,in_channels,filter_height,filter_width]
# [卷积核个数,图像通道数,卷积核的高度,卷积核的宽度
filter1 = torch.tensor([-1.0,0,0,-1]).reshape([1,1,2,2]) # 1通道输入和1通道输出的2X2矩阵
filter2 = torch.tensor([-1.0,0,0,-1,-1.0,0,0,-1]).reshape([2,1,2,2])# 1通道输入和2通道输出的2X2矩阵
filter3 = torch.tensor([-1.0,0,0,-1,-1.0,0,0,-1,-1.0,0,0,-1]).reshape([3,1,2,2])# 1通道输入和3通道输出的2X2矩阵
filter4 = torch.tensor([-1.0,0,0,-1,-1.0,0,0,-1,-1.0,0,0,-1,-1.0,0,0,-1]).reshape([2,2,2,2])# 2通道输入和2通道输出的2X2矩阵
filter5 = torch.tensor([-1.0,0,0,-1,-1.0,0,0,-1]).reshape([1,2,2,2]) # 2通道输入和1通道输出的2X2矩阵### 1.4 卷积操作
## 1个通道输入，生成1个特征图(卷积核个数)
pl1 = torch.nn.functional.conv2d(input1,filter1,stride=2,padding=1)
print("p1",pl1)
## 1个通道输入，生成2个特征图(卷积核个数)
pl2 = torch.nn.functional.conv2d(input1,filter2,stride=2,padding=1)
print("p2",pl2)
## 1个通道输入，生成3个特征图(卷积核个数)
pl3 = torch.nn.functional.conv2d(input1,filter3,stride=2,padding=1)
print("p3",pl3)
## 2个通道输入，生成2个特征图(卷积核个数)
pl4 = torch.nn.functional.conv2d(input2,filter4,stride=2,padding=1)
print("p4",pl4)
## 2个通道输入，生成1个特征图(卷积核个数)====》对于卷积核对多通道输入的卷积处理，多通道的结果的叠加
pl5 = torch.nn.functional.conv2d(input2,filter5,stride=2,padding=1)
print("p5",pl5)
## padding不同，生成的结果也不同
pl6 = torch.nn.functional.conv2d(input1,filter1,stride=2,padding=0)
print("p6",pl6)

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/469376.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

vim 函数列表插件

vim 函数列表插件

１．apt-get install exuberant-ctags ２．unzip taglist_42.zip　　把解压出来的文件放到 /home/weiqifa(自己的用户名)/.vim/　　资源下载： http://download.csdn.net/detail/weiqifa0/9137283３．s…
阅读更多...
【Pytorch神经网络实战案例】09 使用卷积提取图片的轮廓信息（手动模拟Sobel算子）

【Pytorch神经网络实战案例】09 使用卷积提取图片的轮廓信息（手动模拟Sobel算子）

1 载入图片并显示 import matplotlib.pyplot as plt import matplotlib.image as mpimg import torch import torchvision.transforms as transforms import os os.environ["KMP_DUPLICATE_LIB_OK"]"TRUE" ### 1 载入图片并显示 myimg mpimg.imread(img.…
阅读更多...
jquery深入学习

jquery深入学习

的转载于:https://www.cnblogs.com/lizhiwei8/p/6417798.html
阅读更多...
【Pytorch神经网络理论篇】 13 深层卷积神经网络介绍+池化操作+深层卷积神经网络实战

【Pytorch神经网络理论篇】 13 深层卷积神经网络介绍+池化操作+深层卷积神经网络实战

同学你好！本文章于2021年末编写，获得广泛的好评！ 故在2022年末对本系列进行填充与更新，欢迎大家订阅最新的专栏，获取基于Pytorch1.10版本的理论代码(2023版)实现， Pytorch深度学习理论篇(2023版)目录地址…
阅读更多...
gulp 系统教程

gulp 系统教程

移步: http://www.cnblogs.com/2050/p/4198792.html gulp外挂 加md5 版本号 自动合并图片并修改css的坐标 一个系统列子 gulp可以做哪些事情转载于:https://www.cnblogs.com/dhsz/p/6419383.html
阅读更多...
Android 广播接收

Android 广播接收

问题：写了一个应用来验证我按下音量键时发送出来的广播，可是老是提示出错， 原因：我的整个应用只继承吧BroadcastReceive，没有实际的继承Activity所以总是出现各种问题，现在修改好，上传代码 http…
阅读更多...
【Pytorch神经网络实战案例】10 搭建深度卷积神经网络

【Pytorch神经网络实战案例】10 搭建深度卷积神经网络

识别黑白图中的服装图案(Fashion-MNIST)https://blog.csdn.net/qq_39237205/article/details/123379997基于上述代码修改模型的组成 1 修改myConNet模型 1.1.1 修改阐述 将模型中的两个全连接层，变为全局平均池化层。 1.1.2 修改结果 ### 1.5 定义模型类 class m…
阅读更多...
Service Worker,Web Worker,WebSocket的对比

Service Worker,Web Worker,WebSocket的对比

Service Worker 处理网络请求的后台服务。适用于离线和后台同步数据或推送信息。不能直接和dom交互。通过postMessage方法交互。 Web Worker 模拟多线程，允许复杂计算功能的脚本在后台运行而不会阻碍到其他脚本的运行。适用于处理器占用量大而又不阻碍的情形。不能直…
阅读更多...
MTK 升级USB问题

MTK 升级USB问题

问题：我们的开发环境是ubuntu里面安装xp ,经常是xp下没有正常识别preload模式下的usb.这样肯定不能升级不了。 设置：MTK preload下的USB　vid:0e8d pid:2000 revion 0100 知道这几个值了，在usb配置里面增加这个筛选项就可以了。
阅读更多...
JAVA 8 StreamAPI 和 lambda表达式 总结（一）--lambda表达式

JAVA 8 StreamAPI 和 lambda表达式 总结（一）--lambda表达式

这些天看见另一本好书《给大忙人看的Java SE 8》，其中的新特性 StreamAPI 和 lambda表达式 是之前jdk没有提供的新特性，也是jdk8 重要的更新内容，我会总结一下它们的用法，更详细的参见书本。 lambda表达式的概念 人对一个概念的理…
阅读更多...
【Pytorch神经网络理论篇】 14 过拟合问题的优化技巧（一）：基本概念+正则化+数据增大

【Pytorch神经网络理论篇】 14 过拟合问题的优化技巧（一）：基本概念+正则化+数据增大

同学你好！本文章于2021年末编写，获得广泛的好评！ 故在2022年末对本系列进行填充与更新，欢迎大家订阅最新的专栏，获取基于Pytorch1.10版本的理论代码(2023版)实现， Pytorch深度学习理论篇(2023版)目录地址…
阅读更多...
MTK 8127平台使用busybox

MTK 8127平台使用busybox

一、什么是BusyBox ？ BusyBox 是标准 Linux 工具的一个单个可执行实现。BusyBox 包含了一些简单的工具，例如 cat 和 echo，还包含了一些更大、更复杂的工具，例如 grep、find、mount 以及 telnet。有些人将 BusyBox 称为 Linux 工具…
阅读更多...
医学影像分割领域常用数据集

医学影像分割领域常用数据集

阅读更多...
MediaPlayer 播放视频的方法

MediaPlayer 播放视频的方法

MediaPlayer mediaPlayer new MediaPlayer(); mediaPlayer.reset();//重置为初始状态 mediaPlayer.setAudioStreamType(AudioManager.STREAM_MUSIC); mediaPlayer.setDisplay(surfaceView.getHolder());//设置画面显示为surfaceView mediaPlayer.setDataSource("/mnt/sdc…
阅读更多...
Android bootchart分析

Android bootchart分析

1.首先确保编译的init被烧录到板子里面去了，源码的位置在system/core/init/ 2.第一次修改后，编译了system/core/init/然后又编译了./mkkernel 生成boot.img 但是烧录进去还是不成功 3.然后　发现有一个宏没有设置　在bootchart.h里面，BOOTCHART　修改后重新编译，烧了所有…
阅读更多...
【Pytorch神经网络理论篇】 15 过拟合问题的优化技巧（二）：Dropout()方法

【Pytorch神经网络理论篇】 15 过拟合问题的优化技巧（二）：Dropout()方法

同学你好！本文章于2021年末编写，获得广泛的好评！ 故在2022年末对本系列进行填充与更新，欢迎大家订阅最新的专栏，获取基于Pytorch1.10版本的理论代码(2023版)实现， Pytorch深度学习理论篇(2023版)目录地址…
阅读更多...
bzoj2435: [Noi2011]道路修建 树上dp

bzoj2435: [Noi2011]道路修建 树上dp

点击打开链接 RE了一辈子... 思路&#xff1a;树上dp&#xff0c;直接dfs找到每个点v的子节点有多少&#xff0c; 那么对答案的贡献是 w*abs((n-size[v])-size[v]); RE代码&#xff1a; 1 #include <bits/stdc.h>2 using namespace std;3 typedef long long ll;4 const i…
阅读更多...
android之APP模块编译

android之APP模块编译

原文地址&#xff1a;http://blog.csdn.net/yaphet__s/article/details/45640627 一&#xff0c;如何把app编进系统 a.源码编译&#xff0c;在packages/apps目录下有安卓原生的app&#xff0c;以Bluetooth为例&#xff0c;源码根目录下有Android.mk文件&#xff1a; packages\a…
阅读更多...
【Pytorch神经网络理论篇】 16 过拟合问题的优化技巧（三）：批量归一化

【Pytorch神经网络理论篇】 16 过拟合问题的优化技巧（三）：批量归一化

同学你好&#xff01;本文章于2021年末编写&#xff0c;获得广泛的好评&#xff01; 故在2022年末对本系列进行填充与更新&#xff0c;欢迎大家订阅最新的专栏&#xff0c;获取基于Pytorch1.10版本的理论代码(2023版)实现&#xff0c; Pytorch深度学习理论篇(2023版)目录地址…
阅读更多...
【Pytorch神经网络理论篇】 17 循环神经网络结构：概述+BP算法+BPTT算法

【Pytorch神经网络理论篇】 17 循环神经网络结构：概述+BP算法+BPTT算法

同学你好&#xff01;本文章于2021年末编写&#xff0c;获得广泛的好评&#xff01; 故在2022年末对本系列进行填充与更新&#xff0c;欢迎大家订阅最新的专栏&#xff0c;获取基于Pytorch1.10版本的理论代码(2023版)实现&#xff0c; Pytorch深度学习理论篇(2023版)目录地址…
阅读更多...
最新文章

Copyright @ 2022~2023