【机器学习合集】模型设计之卷积核设计 ->(个人学习记录笔记)

文章目录

  • 卷积核设计
    • 1. 基于参数压缩的卷积设计
      • 1.1 【1×1卷积】
      • 1.2 【1×1卷积典型应用】
      • 1.3 【小卷积的使用】
    • 2. 基于感受野的卷积设计
      • 2.1 膨胀卷积(带孔卷积,strous convolution)
      • 2.2 可变形卷积
      • 2.3 非局部卷积
    • 3. 基于卷积操作的优化
      • 3.1 移位网络
      • 3.2 加法网络

卷积核设计

  • 卷积核设计是深度学习模型设计中的关键部分,卷积核的大小、形状和数量等方面的选择直接影响了模型的性能和特征提取能力。以下是卷积核设计的一些重要考虑因素:
  1. 卷积核大小和形状
    • 卷积核的大小通常以高度(height)和宽度(width)来定义,通常表示为HxW。
    • 卷积核的大小决定了它在输入上滑动时涵盖的感受野大小。较小的卷积核可以捕获细节信息,而较大的卷积核可以捕获更大尺度的特征。
    • 常见的卷积核大小包括3x3、5x5和1x1。3x3卷积核是最常用的,因为它可以有效地捕获局部特征。
  2. 卷积核的数量
    • 卷积核的数量决定了网络中卷积层的复杂度和模型的表达能力。更多的卷积核意味着网络可以学习更多不同的特征。
    • 常见的卷积核数量包括16、32、64等。通常,随着网络深度的增加,卷积核数量也会逐渐增加。
  3. 步幅(Stride)
    • 步幅决定了卷积操作在输入上滑动的距离。较大的步幅会导致输出特征图的尺寸减小,而较小的步幅会保持尺寸。
    • 大步幅卷积可以减小输出尺寸,从而减小计算复杂度,适用于池化操作的替代。小步幅卷积可以保持输出尺寸,有助于保留更多的空间信息。
  4. 填充(Padding)
    • 填充决定了卷积操作在输入的边缘是否允许部分重叠。零填充(Zero-padding)是常见的,可以保持输出尺寸与输入尺寸相同。
    • 有效的填充可以防止输出特征图在卷积操作中缩小得太快,有助于保留边缘信息。
  5. 卷积核的初始化
    • 卷积核的初始化方式对模型的收敛速度和性能有重要影响。常见的初始化方法包括随机初始化、Xavier初始化和He初始化,选择适合任务的初始化方法非常重要。
  6. 多尺度卷积
    • 为了提取不同尺度的特征,可以使用多尺度的卷积核。这可以通过在同一层使用不同大小的卷积核来实现。
  7. 转移学习
    • 可以使用预训练的卷积核,如在ImageNet数据集上预训练的卷积核,然后微调它们以适应特定任务。这通常可以加速模型的训练并提高性能。
  • 在设计卷积核时,需要根据具体任务和数据集的需求进行权衡和实验,以找到最佳的配置。通常,模型设计是一个迭代的过程,需要不断尝试不同的卷积核大小、数量和结构,以找到最适合任务的模型架构。

1. 基于参数压缩的卷积设计

1.1 【1×1卷积】

  • 卷积核的尺寸等于1的特例,来自《Network in Network》
    在这里插入图片描述

1.2 【1×1卷积典型应用】

  • InceptionNet , Xception/MobileNet,SqueezeNet,ResNet/ResNext
    在这里插入图片描述

1.3 【小卷积的使用】

  • DC Ciresan等人在Flexible, high performance convolutional neural networks for image classification”中研究表明使用更小的卷积是有利的
    在这里插入图片描述

2. 基于感受野的卷积设计

2.1 膨胀卷积(带孔卷积,strous convolution)

  • Google在图像分割系列模型Deeplab中提出了膨胀卷积,不增加实际计算量,但拥有更大的感受野。
    在这里插入图片描述
  • 并行模型与串联模型
    在这里插入图片描述

2.2 可变形卷积

  • 更灵活的感受野(active convolution , deformable convolution)
    在这里插入图片描述

2.3 非局部卷积

  • Non-local卷积-全局感受野
    在这里插入图片描述

3. 基于卷积操作的优化

3.1 移位网络

  • ShiftNet使用移位操作来代替卷积操作,Depthwise Convolution的简化,大大降低了计算量
    在这里插入图片描述
    在这里插入图片描述

3.2 加法网络

  • AdderNet去除了卷积操作中的乘法,只使用加法
    在这里插入图片描述
    在这里插入图片描述

注意:部分内容来自阿里云天池

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/124965.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

场景交易额超40亿,海尔智家三翼鸟开始收获

文 | 螳螂观察 作者 | 余一 随着双十一的到来,国内的消费情绪再次被点燃。在这类大促之下,品牌们就像一个个天体,不断引动着市场潮汐,期待自己能触发更大的“海潮效应”。 所谓“海潮效应”是指,海水因天体的引力而…

YOLOv8如何添加注意力模块?

分为两种:有参注意力和无参注意力。 eg: 有参: import torch from torch import nnclass EMA(nn.Module):def __init__(self, channels, factor8):super(EMA, self).__init__()self.groups factorassert channels // self.groups > 0self.softmax …

RPA除了和OCR、NLP技术结合,还能和什么技术结合?

鉴于业内现在也经常把RPA称为数字员工,就虚拟一个人的形象来解答吧。 首先是头部,实现人的“听看说想”能力: 听:ASR(语音识别技术),主要用于听取和理解语音输入,让RPA能处理语音数…

教你用BeautifulSoup实现数据解析,并爬取豆瓣TOP250电影榜

5分钟使用Python爬取豆瓣TOP250电影榜 本视频的演示步骤: 使用requests爬取网页使用BeautifulSoup实现数据解析借助pandas将数据写出到Excel 这三个库的详细用法,请看我的其他视频课程 import requests from bs4 import BeautifulSoup import pandas…

ISO/IEC 25010 软件质量模型

ISO/IEC 软件质量模型(ISO/IEC 25010)是一种用于评估和描述软件质量特性的国际标准。该标准定义了 8 种主要的软件质量特性。 使用 ISO/IEC 软件质量模型可以帮助开发人员和测试人员更好地理解和评估软件质量,从而提高软件质量和用户满意度。…

JAVA发票管理的收货单订单创建发票详情介绍

本人详解 作者:王文峰,参加过 CSDN 2020年度博客之星,《Java王大师王天师》作者 公众号:山峯草堂,非技术多篇文章,专注于天道酬勤的 Java 开发问题、中国国学、传统文化和代码爱好者的程序人生,…

转化率的催化剂:网站客服机器人如何推动企业销售?

随着5G的推广,人工智能技术的普及程度越来越高,人机交互已经成为这个时代的常态,无论是在我们的日常生活中还是在企业服务中都非常常见。如今,无论是营销型企业还是客服型企业,都纷纷采用网站客服机器人服务&#xff0…

scrapy-redis分布式爬虫(分布式爬虫简述+分布式爬虫实战)

一、分布式爬虫简述 (一)分布式爬虫优势 1.充分利用多台机器的带宽速度 2.充分利用多台机器的ip地址 (二)Redis数据库 1.Redis是一个高性能的nosql数据库 2.Redis的所有操作都是原子性的 3.Redis的数据类型都是基于基本数据…

Python数据挖掘:入门、进阶与实用案例分析——基于非侵入式负荷检测与分解的电力数据挖掘

文章目录 摘要01 案例背景02 分析目标03 分析过程04 数据准备05 属性构造06 模型训练07 性能度量08 推荐阅读赠书活动 摘要 本案例将根据已收集到的电力数据,深度挖掘各电力设备的电流、电压和功率等情况,分析各电力设备的实际用电量,进而为电…

MATLAB——一维小波的多层分解

%% 学习目标:一维小波的多层分解 clear all; close all; load noissin.mat; xnoissin; [C,L]wavedec(x,3,db4); % 3层分解,使用db4小波 [cd1,cd2,cd3]detcoef(C,L,[1,2,3]); % 使用detcoef函数获取细节系数 ca3appcoef(C,L,db4,3); …

基于AliO Things和阿里云的智能环境监控系统。

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言一、实习内容二、实习方法2.1搭建开发环境并完成编译2.1.1 正常完成编译的标志2.1.2 编写实例烧录程序,并完成烧录 2.2按键实现流水灯2.2.1 HaaS ED…

1400*C. Team(模拟构造)

Problem - 401C - Codeforces 解析&#xff1a; 因为0不能相邻&#xff0c;所以0之间最少 n-1 个位置&#xff0c;最多 n1 个位置&#xff0c;如果 m<n-1显然不符题意。 并且1最多连续两个&#xff0c;所以 m>2*n2 同样不符题意。 其余情况构造即可 #include<bits/st…

python manage.py createsuperuser运行错误

我做思念作笺&#xff0c;随风而去&#xff0c;落在你常路过的那个街角… 错误复现 PS D:\教学文件\Django\djangoProject\webDemo02> python manage.py createsuperuser System check identified some issues:WARNINGS: ?: (urls.W005) URL namespace admin isnt unique…

MWeb Pro for Mac:博客生成编辑器,助力你的创作之旅

在当今数字化时代&#xff0c;博客已经成为了许多人记录生活、分享知识和表达观点的重要渠道。而要打造一个专业、美观且易于管理的博客&#xff0c;选择一款强大的博客生成编辑器至关重要。今天&#xff0c;我向大家推荐一款备受好评的Mac软件——MWeb Pro。 MWeb Pro是一款专…

【Python爬虫+可视化】解析小破站热门视频,看看播放量为啥会这么高!评论、弹幕主要围绕什么展开

大家早好、午好、晚好吖 ❤ ~欢迎光临本文章 如果有什么疑惑/资料需要的可以点击文章末尾名片领取源码 环境使用 Python 3.8 Pycharm 模块使用 import requests import csv import datetime import hashlib import time 一. 数据来源分析 明确需求 明确采集网站以及数…

OpenCV官方教程中文版 —— Hough 圆环变换

OpenCV官方教程中文版 —— Hough 圆环变换 前言Hough 圆环变换 前言 目标 • 学习使用霍夫变换在图像中找圆形&#xff08;环&#xff09; • 学习函数&#xff1a;cv2.HoughCircles() Hough 圆环变换 opencv_logo.png&#xff1a; # -*- coding: utf-8 -*- import cv2 …

Python 自动化详解(pyautogui)

文章目录 1 概述1.1 第三方库&#xff1a;pyautogui1.2 坐标说明 2 操作对象2.1 鼠标2.1.1 定位2.1.2 移动2.1.3 拖动2.1.4 滚动2.1.5 点击 2.2 键盘2.2.1 输入2.2.2 按键2.2.3 快捷键 2.3 屏幕2.3.1 截图2.3.2 分辨率 2.4 信息提示2.4.1 提示框2.4.2 选择框2.4.3 密码输入2.4.…

jsp 网上订餐Myeclipse开发mysql数据库web结构java编程计算机网页项目

选题目的 本设计课题为网上订餐系统设计与实现&#xff0c;提供无纸化点餐、支付&#xff0c;实现点餐快捷&#xff0c;方便管理。餐厅电子化是目前的潮流和趋势&#xff0c;大多数企业都将公司内部运营流程电子化。网上订餐管理系统应运而生&#xff0c;能够有效提高公司的管…

记一次老商家端应用内存突然飚高原因分析 | 京东物流技术团队

一、排查过程 问题发现是因为当时接到了内存UMP报警信息&#xff0c;如下&#xff1a; 通过查看PFinder发现内存一直在增长&#xff0c;没有停止迹象&#xff0c;触发fullGC也并没有下降趋势&#xff1a; 当机立断&#xff0c;先立即去NP上摘除了此台机器流量&#xff0c;然后…

发布一站式反电诈工具,合合信息商业大数据技术助力银行守护群众“钱袋子”

近期&#xff0c;电影《孤注一掷》在社交媒体上引起了广泛的讨论&#xff0c;社会各界对于电信网络诈骗案件的关注度日益提升。真实世界中的电诈涉及金额之大、团伙成员之多&#xff0c;往往比电影更甚。为此&#xff0c;国家不断加大对电信诈骗的打击力度&#xff0c;出台《反…