1×1卷积核【super star 卷积核】

一、1×1卷积的作用 

我们先来给出1×1卷积的一般作用,如下所示: 

跨通道的特征整合
特征通道的升维与降维
减少权重参数(卷积核参数) 简化模型

1.1 特征通道的升维与降维/跨通道的特征整合/简化模型 

输入数据:64×64@192,卷积核:1×1@192
输出数据:64×64@1

  • 特征通道的升维与降维

      从上图可以得知,对形式为64×64@192的输入数据使用1×1@192的卷积核进行卷积操作时,可以得到一个64×64@1的特征图,在这个过程中,在不影响特征图的结构大小的前提下降低了特征图的通道数,相当于大幅度降低了特征图的数量。
      当只有一个
1×1卷积核时,输出特征图的通道数为1,此时相当于特征通道降维;若有比输入数据的通道数多的卷积核时,则此时相当于特征通道的升维。

结论:每个1×1卷积核相当于在输入数据的通道上做了一个降维(经过一个神经元个数为1的全连接层),从而相当于大幅度降低了特征图的数量,但不影响特征图的结构。 

  • 跨通道的信息融合(特征整合)

1×1卷积用于跨通道整合特征,通过对每个像素点应用 1×1 大小的卷积核,来实现不同通道之间的线性组合。这种操作不会改变空间维度,但能有效地整合来自不同通道的信息,进而生成新的特征表示。它在减少计算量的同时,能够保留和处理通道间的复杂关系,是深度神经网络中常用的操作,特别是在轻量化模型如MobileNet中,用于特征融合。

1×1卷积核可以减少权重参数的原因是,它只在通道维度上进行操作,不会影响空间维度(宽度和高度)。相比标准的卷积核(如3×3或5×5),1×1卷积核不涉及空间范围内的特征提取,只是在每个像素位置跨通道进行线性组合。

  • 减少权重参数 

具体来说,假设输入特征图的大小为 H×W×M(高度、宽度、通道数),并且输出特征图的通道数为 N,那么:

  • 对于标准的3×3卷积核,权重参数的数量为 3×3×M×N=9MN。
  • 对于1×1卷积核,权重参数的数量为 1×1×M×N=MN。

因此,1×1卷积核的参数数量为标准3×3卷积核的九分之一,极大地减少了网络的权重参数,同时还能够通过跨通道操作保持一定的特征整合能力。这种特性使得1×1卷积在轻量化网络(如MobileNet)中被广泛使用,能够减少计算量和存储需求。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/53070.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Node.js 多版本安装与切换指南

一.使用nvm的方法 1. 卸载nodejs 如果你的电脑有安装nodejs,需要先卸载掉;若没有请直接下一步。 2. 前往官网下载nvm nvm:一个nodejs版本管理工具! 官网地址:nvm文档手册 - nvm是一个nodejs版本管理工具 - nvm中文…

Oracle数据恢复—Oracle数据库误删除表数据如何恢复数据?

删除Oracle数据库数据一般有以下2种方式:delete、drop或truncate。下面针对这2种删除oracle数据库数据的方式探讨一下oracle数据库数据恢复方法(不考虑全库备份和利用归档日志)。 1、delete误删除的数据恢复方法。 利用oracle提供的闪回方法…

Linux进阶 修改文件所在组

chgrp 修改文件所属组 chgrp用于修改文件所属组。 基本语法chgrp [-R] groupname filename # -R 可选 递归修改filename下所有文件的所属组示例:不使用 -Rtotal 4 drwxr-xr-x 62 root root 4096 Jun 15 20:56 etc [root@node1 muzihua]# chgrp muzihua etc/ [root@node1 muzi…

简单题21 - 合并两个有序链表(Java)20240917

问题描述: java代码: /*** Definition for singly-linked list.* public class ListNode {* int val;* ListNode next;* ListNode() {}* ListNode(int val) { this.val val; }* ListNode(int val, ListNode next) { this.val val…

【DAY20240918】03教你轻松配置 Git 远程仓库并高效推送代码!

文章目录 前言 git diff一、远程仓库?1、在 Gitee 上新建仓库:2、Git 全局设置:3、添加远程仓库:4、推送本地代码到远程仓库:5、输入用户名和密码:6、后续推送: 二、全情回顾三、参考 前言 git …

二十种编程语言庆祝中秋节

二十种编程语言庆祝中秋节 文章目录 二十种编程语言庆祝中秋节中秋快乐!家人们 🥳一 Python二 C三 C四 Java五 C#六 Perl七 Go八 Asp九 PHP十 JavaScript十一 JavaScript HTML十二 Visual Basic十三 早期 VB十四 Visual C十五 Delphi十六 Shell十七 Cobo…

【软件设计】常用设计模式--观察者模式

软件设计模式(四) 观察者模式一、观察者模式(Observer Pattern)1. 概念2. 模式结构3. UML 类图4. 实现方式C# 示例步骤1:定义观察者接口步骤2:定义主题接口步骤3:实现具体主题步骤4:…

从Prompt到创造:解锁AI的无限潜能

文章目录 🍊AI内容创作核心:提示词Prompt1 什么是提示词工程?1.1 提示词的原理是什么?1.2 提示词工程师:百万年薪的职业?1.3 谁都能成为提示词工程师吗? 2 提示词书写的基本技巧3 常见的提示词框架3.1 CO-…

场外个股期权通道商是什么业务?个人投资者可以参与场外期权吗?

今天带你了解场外个股期权通道商是什么业务?个人投资者可以参与场外期权吗?场外个股期权通道商在个股期权市场中起着重要的中介作用,提供定制化的交易服务和风险管理解决方案。 场外个股期权通道商 场外个股期权通道商是一种金融机构,主要…

15.10 在k8s部署grafana-deployment并导入k8s大盘

本节重点介绍 : grafana deployment部署k8s大盘导入 准备yaml 部署工作 1. 修改yaml中的节点选择器标签 k8s-node01改为你自己的节点 2. 在节点上创建数据目录 mkdir -pv /data/grafana3. 部署grafana # 部署 kubectl apply -f deployment.yaml # 检查 [rootprome-mast…

OpenCV高阶操作

在图像处理与计算机视觉领域,OpenCV(Open Source Computer Vision Library)无疑是最为强大且广泛使用的工具之一。从基础的图像读取、 1.图片的上下,采样 下采样(Downsampling) 下采样通常用于减小图像的…

经典sql题(一)求连续登录不少于三天用户

示例数据 假设我们的 test 表有以下数据: iddate12023-10-01 08:00:0012023-10-01 09:00:0012023-10-02 10:00:0012023-10-03 11:00:0022023-10-01 10:00:0022023-10-02 12:00:0022023-10-03 14:00:0022023-10-04 15:00:0032023-10-01 16:00:00 第一步&#xff1…

1. 运动控制指令概要(omron 机器自动化控制器)

机器自动化控制器——第一章 运动控制指令概要 1-1 运动控制指令PLCopen运动控制用功能块运动控制指令概要▶ 运动控制指令的种类▶ 状态变化▶ 运动控制指令的启动和状态▶ 异常处理▶ 执行运动控制指令时输入变量的变更(指令重启)▶ 通过选择缓存模式执行指令多重启动▶ 通过…

二进制读写文件

提示:文章 文章目录 前言一、背景二、 2.1 2.2 总结 前言 前期疑问: 本文目标: 一、背景 这个文章主要是针对二进制文件的读写 大概会分为c语言对二进制文件读写和c对二进制文件的读写 查找资料看到这篇文章:二进制文件的读…

python画图|中秋到了,尝试画个月亮(球体画法)

学习了一段时间的画图,已经掌握了一些3D图的画法,部分链接如下: python画图|极坐标下的3D surface-CSDN博客 python画图|3D参数化图形输出-CSDN博客 我们今天尝试一下月亮的画法。 【1】官网教程 首先还是到达官网教程学习: …

Java多线程3

1.有序性在并发编程中的含义。 有序性在并发编程中指的是在多线程环境下,程序的执行顺序应与单线程情况下保持一致,以避免出现不确定或错误的执行结果。 2.为何需要使用多线程进行程序设计? 使用多线程可以提高程序的效率,利用…

Mina protocol - 体验教程

Mina protocol - 体验教程 一、零知识证明( Zero Knowledge Proof )1、零知识证明(ZKP)的基本流程工作流程: 2、zkApp 的优势:3、zkApp 每个方法的编译过程: 二、搭建第一个zkapp先决条件1、下载或者更新 zkApp CLI​2…

黑神话悟空+云技术,游戏新体验!

近期,一款名为黑神话悟空的游戏因其独特的艺术风格和创新的技术实现在玩家中产生了不小的影响。 而云桌面技术作为一种新兴的解决方案,正在改变人们的游戏体验方式,使得高性能游戏可以在更多设备上流畅运行。 那么,黑神话悟空如…

Hazel 2024

不喜欢游戏的人也可以做引擎,比如 cherno 引擎的作用主要是有两点: 将数据可视化交互 当然有些引擎的功能也包含有制作数据文件,称之为资产 assets 不做窗口类的应用栈,可能要花一年才能做一个能实际使用的应用,只需…

游戏、网关等服务借助Docker容器化并使用Kubernetes部署、更新等

本文首发在这里 请先看完 实现负责消息转发、推送的网关服务负责网络、定时、坐下、站起、重连等,支持多类游戏的无锁房间 Docker容器化 Build and Push docker build -t panshiqu/game_server:latest -t panshiqu/game_server:1 -t panshiqu/game_server:1.0 -…