关于pytorch张量维度转换及张量运算

关于pytorch张量维度转换大全

  • 1 tensor.view()
  • 2 tensor.reshape()
  • 3 tensor.squeeze()和tensor.unsqueeze()
    • 3.1 tensor.squeeze() 降维
    • 3.2 tensor.unsqueeze(idx)升维
  • 4 tensor.permute()
  • 5 torch.cat([a,b],dim)
  • 6 torch.stack()
  • 7 torch.chunk()和torch.split()
  • 8 与tensor相乘运算
  • 9 与tensor相加运算
  • 10 tensor.expand()
  • 11 tensor.narrow(dim, start, len)
  • 12 tensor.resize_()
  • 13 tensor.repeat()
  • 14 unbind()
  • 参考：

tensor 乘
tensor 加
# view()    转换维度
# reshape() 转换维度
# permute() 坐标系变换
# squeeze()/unsqueeze() 降维/升维
# expand()   扩张张量
# narraw()   缩小张量
# resize_()  重设尺寸
# repeat(), unfold() 重复张量
# cat(), stack()     拼接张量

1 tensor.view()

view() 用于改变张量的形状，但不会改变张量中的元素值。
用法1：
例如，你可以使用view 将一个形状是（2，3）的张量变换成（3，2）的张量；

import torch
x = torch.tensor([[1, 2, 3], [4, 5, 6]])
y = x.view(3, 2)

上面的操作相当于，先把形状为**（2，3）的tensor展平，变成（1，6），然后再变成（3，2）.**

用法2：
转换前后张量中的元素个数不变。view()中若存在某一维的维度是-1，则表示该维的维度根据总元素个数和其他维度尺寸自适应调整。注意，view()中最多只能有一个维度的维数设置成-1。

z = x.view(-1,2)

image.png

举例子：
在卷积神经网络中，经常会在全连接层用到view进行张量的维度拉伸：
假设输入特征是BCH*W的4维张量，其中B表示batchsize，C表示特征通道数，H和W表示特征的高和宽，在将特征送入全连接层之前，会用.view将转换为B*(CHW)的2维张量，即保持batch不变，但将每个特征转换为一维向量。

2 tensor.reshape()

reshape()与view()使用方法相同。
image.png

3 tensor.squeeze()和tensor.unsqueeze()

3.1 tensor.squeeze() 降维

（1）若squeeze()括号内为空，则将张量中所有维度为1的维数进行压缩，如将1,2,1,9的张量降维到2,9维；若维度中无1维的维数，则保持源维度不变，如将234维的张量进行squeeze，则转换后维度不会变。
（2）若squeeze(idx)，则将张量中对应的第idx维的维度进行压缩，如1,2,1,9的张量做squeeze(2)，则会降维到1,2,9维的张量；若第idx维度的维数不为1，则squeeze后维度不会变化。
例如：
image.png

3.2 tensor.unsqueeze(idx)升维

在第idx维进行升维，将tensor由原本的维度n，升维至n+1维。如张量的维度维2*3，经unsqueeze(0)后，变为1,2,3维度的张量。
image.png

4 tensor.permute()

坐标系转换，即矩阵转置，使用方法与numpy array的transpose相同。permute()括号内的参数数字指的是各维度的索引值。permute是深度学习中经常需要使用的技巧，一般的会将BCHW的特征张量，通过转置转化为BHWC的特征张量，即将特征深度转换到最后一个维度，通过调用**tensor.permute(0, 2, 3, 1)**实现。
torch.transpose只能操作2D矩阵的转置，而permute()函数可以对任意高维矩阵进行转置；
简单理解：permute()相当于可以同时操作tensor的若干维度，transpose只能同时作用于tensor的两个维度。

image.png

permute和view/reshape虽然都能将张量转化为特定的维度，但原理完全不同，注意区分。view和reshape处理后，张量中元素顺序都不会有变化，而permute转置后元素的排列会发生变化，因为坐标系变化了。

5 torch.cat([a,b],dim)

在第dim维度进行张量拼接，要注意维度保持一致。
假设a为h1w1的二维张量，b为h2w2的二维张量，torch.cat(a,b,0)表示在第一维进行拼接，即在列方向拼接，所以w1和w2必须相等。torch.cat(a,b,1)表示在第二维进行拼接，即在行方向拼接，所以h1和h2必须相等。
假设a为c1h1w1的二维张量，b为c2h2w2的二维张量，torch.cat(a,b,0)表示在第一维进行拼接，即在特征的通道维度进行拼接，其他维度必须保持一致，即w1=w2，h1=h2。torch.cat(a,b,1)表示在第二维进行拼接，即在列方向拼接，必须保证w1=w2，c1=c2；torch.cat(a,b,2)表示在第三维进行拼接，即在行方向拼接，必须保证h1=h2，c1=c2；
image.png

6 torch.stack()

该函数在维度上连接若干个形状相同的张量，最终结果会升维；即若干个张量在某一维度上连接生成一个扩维的张量。 堆叠的感觉。
image.png

7 torch.chunk()和torch.split()

torch.chunk(input, chunks, dim)

**torch.chunk()**的作用是把一个tensor均匀分成若干个小tensor。input是被分割的tensor。chunks是均匀分割的份数，如果在进行分割的维度上的size不能被chunks整除，则最后一份tensor会略小（也可能为空）。dim是确定在某个维度上进行分割。该函数返回的是由小tensor组成的tuple。
image.png

**torch.split()**可以说是torch.chunk()的升级版，它不仅可以按份数均匀分割，还可以按特定的方案进行分割。

torch.split(input, split_size_or_sections, dim=0)

与torch.chunk()的区别就在于第二个参数上面。如果第二个参数是分割份数，这就和torch.chunk()一样了；第二种是分割方案，是一个list类型的数据，待分割的张量将会被分割为len(list)份，每一份的大小取决于list中的元素。
image.png

8 与tensor相乘运算

  • 元素积(element-wise)，即相同形状的矩阵对应元素相乘，得到的元素为结果矩阵中各个元素的值，对应函数为torch.mul()(和*的效果一样)。

image.png

  • 矩阵乘法，对应函数为torch.mm()(只能用于2d的tensor)或者torch.matmul()(和符号@效果一样)。对于torch.matmul()，定义其矩阵乘法仅在最后的两个维度上，前面的维度需要保持一致。如果前面的维度符合broadcast_tensor机制，也会自动扩展维度，保证两个矩阵前面的维度一致。

image.png
image.png

9 与tensor相加运算

遵循下面两点：

  • 当两个tensor的维度相同时，对应轴的值要一样（每个维度的大小相等），或者某些维度大小为1。相加时把所有为1的轴进行复制扩充得到两个维度完全相同的张量，然后对应位置相加即可。
  • 当两个相加的tensor维度不一致时，首先要把维度低的那个张量从右边和维度高的张量对齐，用1扩充维度至和高维度张量的维度一致，然后进行<1>的操作。

image.png

10 tensor.expand()

扩展张量，通过值复制的方式，将单个维度扩大为更大的尺寸。使用expand()函数不会使原tensor改变，需要将结果重新赋值。下面是具体的实例：
以二维张量为例：tensor是1n或n1维的张量，分别调用tensor.expand(s, n)或tensor.expand(n, s)在行方向和列方向进行扩展。
expand()的填入参数是size

image.png

11 tensor.narrow(dim, start, len)

narrow()函数起到了筛选一定维度上的数据作用.

torch.narrow(input, dim, start, length)->Tensor

input是需要切片的张量，dim是切片维度，start是开始的索引，length是切片长度，实际应用如下：

image.png

12 tensor.resize_()

尺寸变化，将tensor截断为resize_后的维度.
image.png

13 tensor.repeat()

tensor.repeat(a,b)将tensor整体在行方向复制a份，在列方向上复制b份

image.png

14 unbind()

torch.unbind()移除指定维后，返回一个元组，包含了沿着指定维切片的各个切片。

torch.unbind(input, dim=0)->seq

image.png

参考：

pytorch中与tensor维度变化相关的函数（持续更新） - weili21的文章 - 知乎
https://zhuanlan.zhihu.com/p/438099006

【pytorch tensor张量维度转换（tensor维度转换）】
https://blog.csdn.net/x_yan033/article/details/104965077

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/129691.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Unity中Shader的GI相关数据的准备

Unity中Shader的GI相关数据的准备

文章目录 前言一、把 Unity 中用到的 GI 的函数移植到我们自定义的 cginc 文件中二、开始使用和 GI 相关的方法1、了解 UnityGI 结构体的内容,并且准备 UnityGI 的数据2、了解 SurfaceOutput 结构体&#xff0c;并且准备数据3、了解并准备 UnityGIInput 结构体&#xff0c;并且…
阅读更多...
centos7安装oxidized备份软件

centos7安装oxidized备份软件

首先需要提前下载ruby&#xff0c;因为默认yum安装的版本太低 https://cache.ruby-lang.org/pub/ruby/3.1/ruby-3.1.0.tar.gz 1、yum remove ruby ruby-devel&#xff08;有就卸载&#xff0c;没有则忽略&#xff09; 2、将下载好的ruby包解压到/opt下 [rootoxidized ruby-…
阅读更多...
第6章_多表查询

第6章_多表查询

文章目录 多表查询概述1 一个案例引发的多表连接1.1 案例说明1.2 笛卡尔积理解演示代码 2 多表查询分类讲解2.1 等值连接 & 非等值连接2.1.1 等值连接2.1.2 非等值连接 自连接 & 非自连接内连接与外连接演示代码 3 SQL99语法实现多表查询3.1 基本语法3.2 内连接&#x…
阅读更多...
2023.11.03 homework

2023.11.03 homework

小学4年级数学 1 2 3 1936 1937 1938 1939 1940 1941 1942 1943 1944 1945 1946 1947 1948 1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965 1966 1967 1968 1969 1970 1971 1972 1973 1974 19…
阅读更多...
我的大语言模型微调踩坑经验分享

我的大语言模型微调踩坑经验分享

由于 ChatGPT 和 GPT4 兴起&#xff0c;如何让人人都用上这种大模型&#xff0c;是目前 AI 领域最活跃的事情。当下开源的 LLM&#xff08;Large language model&#xff09;非常多&#xff0c;可谓是百模大战。面对诸多开源本地模型&#xff0c;根据自己的需求&#xff0c;选择…
阅读更多...
【Midjourney入门教程1】Midjourney的注册、订阅

【Midjourney入门教程1】Midjourney的注册、订阅

文章目录 前言一、Midjourney是什么二、Midjourney注册三、新建自己的服务器四、开通订阅 前言 AI绘画即指人工智能绘画&#xff0c;是一种计算机生成绘画的方式。是AIGC应用领域内的一大分支。 AI绘画主要分为两个部分&#xff0c;一个是对图像的分析与判断&#xff0c;即“…
阅读更多...
Azure 机器学习 - 无代码自动机器学习的预测需求

Azure 机器学习 - 无代码自动机器学习的预测需求

了解如何在 Azure 机器学习工作室中使用自动化机器学习在不编写任何代码行的情况下创建时序预测模型。 此模型将预测自行车共享服务的租赁需求。 关注TechLead&#xff0c;分享AI全维度知识。作者拥有10年互联网服务架构、AI产品研发经验、团队管理经验&#xff0c;同济本复旦硕…
阅读更多...
Linux flock和fcntl函数详解

Linux flock和fcntl函数详解

文章目录 flock函数描述返回值和错误码笔记 fcntl函数描述复制文件描述符文件描述标志文件状态标志 咨询锁强制锁管理信号租赁文件和目录变更通知改变管道容量 返回值错误备注遗留问题 flock函数 主要功能是在已打开的文件应用或者删除共享锁或者独占锁。sys/file.h声明了这个…
阅读更多...
firefox浏览器添加自定义搜索引擎方法

firefox浏览器添加自定义搜索引擎方法

firefox浏览器添加自定义搜索引擎方法 1.在地址栏添加搜索引擎2.Mycroft Project 搜索引擎附加组件3.通过扩展插件添加自定义搜索引擎 Firefox这货居然不支持直接网址%s的搜索引擎定义方式&#xff0c;以下是添加方法。 firefox国际版119.0 1.在地址栏添加搜索引擎 &#xff…
阅读更多...
TrafficWatch 数据包嗅探器工具

TrafficWatch 数据包嗅探器工具

TrafficWatch 是一种数据包嗅探器工具&#xff0c;允许您监视和分析 PCAP 文件中的网络流量。它提供了对各种网络协议的深入了解&#xff0c;并可以帮助进行网络故障排除、安全分析等。 针对 ARP、ICMP、TCP、UDP、DNS、DHCP、HTTP、SNMP、LLMNR 和 NetBIOS 的特定于协议的数据…
阅读更多...
数据分析师的就业前景看好

数据分析师的就业前景看好

IT行业哪个方向比较好就业? 目前IT行业的发展速度非常的快&#xff0c;很多领域都已经开始和IT技术进行紧密的结合&#xff0c;这也带来了很多岗位的空缺。那么就一起来说说&#xff0c;IT行业里&#xff0c;哪些方向会更好就业。 大数据时代&#xff0c;呼唤数据分析师。 …
阅读更多...
Windows环境下使用VLC获取到大疆无人机的RTMP直播推流

Windows环境下使用VLC获取到大疆无人机的RTMP直播推流

1.环境准备 1.安装nginx 1.7.11.3 Gryphon 下载地址&#xff1a;http://nginx-win.ecsds.eu/download/ 下载nginx 1.7.11.3 Gryphon.zip&#xff0c;解压后修改文件夹名称为nginx-1.7.11.3-Gryphon&#xff1b; 2.安装nginx-rtmp-module 下载地址&#xff1a;GitHub - arut…
阅读更多...
xcode 安装及运行个人app编程应用

xcode 安装及运行个人app编程应用

1.xcode 介绍 Xcode 是运行在操作系统Mac OS X上的集成开发工具&#xff08;IDE&#xff09;&#xff0c;由Apple Inc开发。Xcode是开发 macOS 和 iOS 应用程序的最快捷的方式。Xcode 具有统一的用户界面设计&#xff0c;编码、测试、调试都在一个简单的窗口内完成 2.xcode 下…
阅读更多...
剑指offer --- 从尾到头打印链表

剑指offer --- 从尾到头打印链表

目录 前言 一、读懂题目 二、思路分析 三、代码呈现 总结 前言 当我们需要访问单向链表中特定位置值时&#xff0c;算法复杂度往往是O(n)&#xff0c;在得到靠后节点的值时不可避免地从前向后遍历访问链表&#xff0c;那么当应题目要求从尾到头打印链表时&#xff0c;至少…
阅读更多...
网络编程——以太网协议

网络编程——以太网协议

一&#xff0c;以太网格式 1.1目的地址 这个地址不是IP地址&#xff0c;而是网络中的另一套地址体系&#xff0c;mac 地址&#xff08;物理地址&#xff09;&#xff0c;这个地址的作用与IP地址有一定的重合。因为网络层协议与应用层协议是各自独立被开发的&#xff0c;所以地…
阅读更多...
sed 原地替换文件时遇到的趣事

sed 原地替换文件时遇到的趣事

哈喽大家好&#xff0c;我是咸鱼 在文章《三剑客之 sed》中咸鱼向大家介绍了文本三剑客中的 sed sed 全名叫 stream editor&#xff0c;流编辑器&#xff0c;用程序的方式来编辑文本 那么今天咸鱼打算讲一下我在用 sed 原地替换文件时遇到的趣事 sed 让文件属性变了&#xff…
阅读更多...
计算机视觉基础——基于yolov5-face算法的车牌检测

计算机视觉基础——基于yolov5-face算法的车牌检测

文章目录 车牌检测算法检测实现1.环境布置2.数据处理2.1 CCPD数据集介绍2.1.1 ccpd2019及20202.1.2 文件名字解析 2.2数据集处理2.2.1 CCPD数据处理2.2.2 CPRD数据集处理 2.3 检测算法2.3.1 数据配置car_plate.yaml2.3.2 模型配置2.3.3 train.py2.3.4 训练结果 2.4 部署2.4.1 p…
阅读更多...
约数之和 (普通快速幂求逆元做法）

约数之和 (普通快速幂求逆元做法）

假设现在有两个自然数 A 和 B&#xff0c;S 是 AB 的所有约数之和。 请你求出 Smod9901 的值是多少。 输入格式 在一行中输入用空格隔开的两个整数 A 和 B 。 输出格式 输出一个整数&#xff0c;代表 Smod9901 的值。 数据范围 0≤A,B≤5107 输入样例&#xff1a; …
阅读更多...
双链表详解(初始化、插入、删除、遍历)(数据结构与算法)

双链表详解(初始化、插入、删除、遍历)(数据结构与算法)

1. 单链表与双链表的区别 单链表&#xff08;Singly Linked List&#xff09;和双链表&#xff08;Doubly Linked List&#xff09;是两种常见的链表数据结构&#xff0c;它们在节点之间的连接方式上有所区别。 单链表&#xff1a; 单链表的每个节点包含两个部分&#xff1a;数…
阅读更多...
小程序使用echarts（超详细教程）

小程序使用echarts（超详细教程）

小程序使用echarts第一步就是先引用到小程序里面&#xff0c;可以直接从这里下载 文件很多&#xff0c;我们值下载 ec-canvas 就好&#xff0c;下载完成后&#xff0c;直接放在pages同级目录下 index.js 在我们需要的页面的 js 文件顶部引入 // pages/index/index.js impor…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023