机器学习——典型的卷积神经网络

机器学习——典型的卷积神经网络

卷积神经网络(Convolutional Neural Networks,CNNs)是一类在图像处理领域应用广泛的深度学习模型。它通过卷积操作和池化操作来提取图像的特征,并通过全连接层来进行分类或回归任务。在本文中,我们将介绍三种典型的卷积神经网络:LeNet-5、AlexNet和ResNet,并用Python实现这些算法。

1. LeNet-5

LeNet-5是由Yann LeCun等人于1998年提出的用于手写数字识别的卷积神经网络,它是深度学习领域的先驱之一。LeNet-5主要由卷积层、池化层和全连接层组成。

网络结构

  1. 输入层:32x32的灰度图像
  2. 卷积层C1:6个5x5的卷积核,步长为1
  3. 池化层S2:2x2的最大池化,步长为2
  4. 卷积层C3:16个5x5的卷积核,步长为1
  5. 池化层S4:2x2的最大池化,步长为2
  6. 全连接层C5:120个神经元
  7. 全连接层F6:84个神经元
  8. 输出层:10个神经元,对应10个类别

参数数量

  • C1:(5x5+1) * 6 = 156
  • C3:(5x5x6+1) * 16 = 2416
  • C5:(400+1) * 120 = 48120
  • F6:(120+1) * 84 = 10164
  • 输出层:(84+1) * 10 = 850

总参数数量:156 + 2416 + 48120 + 10164 + 850 = 61906

Python实现

import torch
import torch.nn as nnclass LeNet5(nn.Module):def __init__(self):super(LeNet5, self).__init__()self.conv1 = nn.Conv2d(1, 6, kernel_size=5)self.conv2 = nn.Conv2d(6, 16, kernel_size=5)self.fc1 = nn.Linear(16*5*5, 120)self.fc2 = nn.Linear(120, 84)self.fc3 = nn.Linear(84, 10)def forward(self, x):x = torch.relu(self.conv1(x))x = torch.max_pool2d(x, kernel_size=2, stride=2)x = torch.relu(self.conv2(x))x = torch.max_pool2d(x, kernel_size=2, stride=2)x = x.view(-1, 16*5*5)x = torch.relu(self.fc1(x))x = torch.relu(self.fc2(x))x = self.fc3(x)return x# 创建LeNet-5模型实例
model = LeNet5()

2. AlexNet

AlexNet是由Alex Krizhevsky等人在2012年的ImageNet挑战赛上获胜的卷积神经网络,它是深度学习在计算机视觉领域应用的一个重要里程碑。AlexNet主要由卷积层、池化层和全连接层组成。

网络结构

  1. 输入层:227x227的RGB图像
  2. 卷积层C1:96个11x11的卷积核,步长为4
  3. 池化层S2:3x3的最大池化,步长为2
  4. 卷积层C3:256个5x5的卷积核,步长为1
  5. 池化层S4:3x3的最大池化,步长为2
  6. 卷积层C5:384个3x3的

卷积核,步长为1
7. 卷积层C6:384个3x3的卷积核,步长为1
8. 卷积层C7:256个3x3的卷积核,步长为1
9. 全连接层FC8:4096个神经元
10. 全连接层FC9:4096个神经元
11. 输出层:1000个神经元,对应1000个类别

参数数量

  • C1:(11x11x3+1) * 96 = 34944
  • C3:(5x5x96+1) * 256 = 614656
  • C5:(3x3x256+1) * 384 = 885120
  • C6:(3x3x384+1) * 384 = 1327488
  • C7:(3x3x384+1) * 256 = 884992
  • FC8:(9216+1) * 4096 = 37752832
  • FC9:(4096+1) * 4096 = 16781312
  • 输出层:(4096+1) * 1000 = 4097000

总参数数量:34944 + 614656 + 885120 + 1327488 + 884992 + 37752832 + 16781312 + 4097000 = 62083544

Python实现

import torch
import torch.nn as nnclass AlexNet(nn.Module):def __init__(self):super(AlexNet, self).__init__()self.features = nn.Sequential(nn.Conv2d(3, 96, kernel_size=11, stride=4),nn.ReLU(inplace=True),nn.MaxPool2d(kernel_size=3, stride=2),nn.Conv2d(96, 256, kernel_size=5, padding=2),nn.ReLU(inplace=True),nn.MaxPool2d(kernel_size=3, stride=2),nn.Conv2d(256, 384, kernel_size=3, padding=1),nn.ReLU(inplace=True),nn.Conv2d(384, 384, kernel_size=3, padding=1),nn.ReLU(inplace=True),nn.Conv2d(384, 256, kernel_size=3, padding=1),nn.ReLU(inplace=True),nn.MaxPool2d(kernel_size=3, stride=2),)self.avgpool = nn.AdaptiveAvgPool2d((6, 6))self.classifier = nn.Sequential(nn.Dropout(),nn.Linear(256 * 6 * 6, 4096),nn.ReLU(inplace=True),nn.Dropout(),nn.Linear(4096, 4096),nn.ReLU(inplace=True),nn.Linear(4096, 1000),)def forward(self, x):x = self.features(x)x = self.avgpool(x)x = torch.flatten(x, 1)x = self.classifier(x)return x# 创建AlexNet模型实例
model = AlexNet()

3. ResNet

ResNet是由Kaiming He等人在2015年提出的一个非常深的卷积神经网络,它采用了残差连接(Residual Connection)的方式来解决深层神经网络训练过程中的梯度消失问题。ResNet主要由卷积层、残差块和全连接层组成。

网络结构

  1. 输入层:224x224的RGB图像
  2. 卷积层:64个7x7的卷积核,步长为2,使用零填充
  3. 池化层:3x3的最大池化,步长为2
  4. 残差块(Residual Block):包含多个残差单元(Residual Unit)
  5. 全局平均池化层(Global Average Pooling)
  6. 全连接层:1000个神经元,对应1000个类别

参数数量

ResNet的参数数量取决于其深度,因为它的大部分层都是卷积层和残差块。具体参数数量可以根据网络

深度和残差块的数量进行计算。

Python实现

ResNet的实现较为复杂,可以使用PyTorch等深度学习框架提供的预训练模型来直接使用。

import torch
import torchvision.models as models# 加载预训练的ResNet模型
model = models.resnet50(pretrained=True)

总结

本文介绍了三种典型的卷积神经网络:LeNet-5、AlexNet和ResNet。这些网络在图像分类、目标检测和语义分割等计算机视觉任务中取得了巨大成功。它们的设计思想和结构各不相同,但都为深度学习在图像处理领域的发展做出了重要贡献。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/792425.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

开源项目-CSDN专栏

CSDN博主 单片机 毕业设计 物联网 嵌入式

基于单片机双路压力监测报警系统

**单片机设计介绍,基于单片机双路压力监测报警系统 文章目录 一 概要二、功能设计设计思路 三、 软件设计原理图 五、 程序六、 文章目录 一 概要 基于单片机双路压力监测报警系统是一个专门设计用于实时监测和报警两路压力变化的系统。它结合了单片机控制技术和压…

图DP

目录 有向无环图DP 力扣 329. 矩阵中的最长递增路径 力扣 2192. 有向无环图中一个节点的所有祖先 有向有环图DP 力扣 1306. 跳跃游戏 III 有向无环图DP 力扣 329. 矩阵中的最长递增路径 给定一个 m x n 整数矩阵 matrix ,找出其中 最长递增路径 的长度。 对…

【DA-CLIP】test.py解读,调用DA-CLIP和IRSDE模型复原计算复原图与GT图SSIM、PSNR、LPIPS

文件路径daclip-uir-main/universal-image-restoration/config/daclip-sde/test.py 代码有部分修改 导包 import argparse import logging import os.path import sys import time from collections import OrderedDict import torchvision.utils as tvutilsimport numpy as…

数学知识--(质数,约数)

本文用于个人算法竞赛学习,仅供参考 目录 一.质数的判定 二.分解质因数 三.质数筛 1.朴素筛法 2.埃氏筛法 3.线性筛法 四.约数 1.求一个数的所有约数 2.约数个数和约数之和 3.欧几里得算法(辗转相除法)-- 求最大公约数 一.质数的判定 …

新型智慧城市大数据解决方案(附下载)

随着云计算、大数据、移动互联网等技术的发展,由城市运行产生的交通、环境、市政、商业等各领域数据量巨大,这些数据经过合理的分析挖掘可产生大量传统数据不能反映的城市运行信息,已成为智慧城市的重要资产。 在大数据时代,数据信…

理解main方法的语法

由于JVM需要调用类的main()方法,所以该方法的访问权限必须是public,又因为JVM在执行main()方法时不必创建对象,所以该方法必须是static的,该方法接收一个String类型的数组参数,该数组中保存执行Java命令时传递给所运行…

问题解决:写CSDN博文时图片大小不适应,不清晰,没法排版

项目环境: Window10,Edge123.0.2420.65 问题描述: 当我在CSDN写博文的时候,会经常插入一些图片,但有时候我插入的图片太大了,影响了整体排版。 比如我加入了一张图片,就变成了下面这个样子&…

释放 ChatGPT4 的威力

原文:Unleashing the Power of ChatGPT-4: Strategies for Building a Personal Income Stream 译者:飞龙 协议:CC BY-NC-SA 4.0 I. 介绍 在当今快速发展的数字领域中,人工智能(AI)已经成为无数行业的重要…

Kubernetes探索-Deployment面试

1. 简述Deployment的升级策略 在Deployment的定义中,可以通过spec.strategy指定Pod更新的策略,目前支持两种策略:Recreate(重建)和RollingUpdate(滚动更新),默认值为RollingUpdate。…

PEFT-LISA

LISA是LoRA的简化版,但其抓住了LoRA微调的核心,即LoRA侧重更新LLM的底层embedding和顶层head。 根据上述现象,LISA提出两点改进: 始终更新LLM的底层embedding和顶层head随机更新中间层的hidden state 实验结果 显存占用 毕竟模型…

RAMS (Mesoscale Model System) 和 WRF 区别

历史和发展: RAMS:RAMS 最早于1970年代由美国科罗拉多州立大学开发,并在之后几十年不断发展壮大。它是最早用于模拟地区尺度大气动力学、热力学和降水过程的模型之一。WRF:WRF 是由美国国家大气研究中心(NCAR&#xff…

openstack云计算(一)————openstack安装教程,创建空白虚拟机,虚拟机的环境准备

1、创建空白虚拟机 需要注意的步骤会截图一下,其它的基本都是下一步,默认的即可 ----------------------------------------------------------- 2、在所建的空白虚拟机上安装CentOS 7操作系统 (1)、在安装CentOS 7的启动界面中…

RuoYi-Vue若依框架-集成mybatis-plus报错Unknown column ‘search_value‘ in ‘field list‘

报错信息 ### Error querying database. Cause: java.sql.SQLSyntaxErrorException: Unknown column search_value in field list ### The error may exist in com/ruoyi/sales/mapper/ZcSpecificationsMapper.java (best guess) ### The error may involve defaultParameter…

C++之STL的algorithm(6)之排序算法(sort、merge)整理

C之STL的algorithm(6)之排序算法(sort、merge)整理 注:整理一些突然学到的C知识,随时mark一下 例如:忘记的关键字用法,新关键字,新数据结构 C 的排序算法整理 C之STL的al…

Oracle数据库——分组函数四

12.1什么是分组函数 分组函数作用于一组数据,并对一组数据返回一个值。例如求平均数,最大值等等。 1.组函数类型 AVG :求平均数COUNT :COUNT(expr) 返回expr不为空的记录总数。 MAX 求最大值MIN

【简单讲解下WebSocket】

🌈个人主页:程序员不想敲代码啊 🏆CSDN优质创作者,CSDN实力新星,CSDN博客专家 👍点赞⭐评论⭐收藏 🤝希望本文对您有所裨益,如有不足之处,欢迎在评论区提出指正,让我们共…

Vue探索之Vue2.x源码分析(一)

一.响应式数据之数组的处理 <template><div><ul><li v-for"(item, index) in items" :key"index">{{ item }}<button click"removeItem(index)">Remove</button></li></ul><input v-model&…

Python卷积网络车牌识别系统(V2.0)

博主介绍&#xff1a;✌程序员徐师兄、7年大厂程序员经历。全网粉丝12w、csdn博客专家、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java技术领域和毕业项目实战✌ &#x1f345;文末获取源码联系&#x1f345; &#x1f447;&#x1f3fb; 精彩专栏推荐订阅&#x1f447;…

基于单片机的无线红外报警系统

**单片机设计介绍&#xff0c;基于单片机的无线红外报警系统 文章目录 一 概要二、功能设计设计思路 三、 软件设计原理图 五、 程序六、 文章目录 一 概要 基于单片机的无线红外报警系统是一种结合了单片机控制技术和无线红外传感技术的安防系统。该系统通过无线红外传感器实…