3、线性代数

1、矩阵转置 A[i,j]=A[j,i]

2、对称矩阵 :A转置=A

[0,2,3]

[2 1 5]

[3,5,1]

3、三维矩阵 求和 axis=0 两个矩阵相加  axis=1 两个向量相加  ,axis=2 向量内部相加

keepdims=True 求和后维度保持不变

4、cumsum累加求和

5、torch.mm() 或 torch.bmm() 【矩阵乘法,前二维后三维,均不可广播】

torch.mm() 用于两个二维向量之间的矩阵乘法。如果 input1 是一个n×m张量,input2 是一个 m×p张量,将会输出一个 n×p 张量

    >>> a = torch.ones(3,4)
    >>> b = torch.ones(4,2)
    >>> torch.mm(a, b)   # torch.Size([3, 2])
    tensor([[4., 4.],
            [4., 4.],
            [4., 4.]])

而 torch.bmm() 是用于两个三维张量之间的批次矩阵乘法(其中第0维为批次大小)。由于神经网络训练一般采用mini-batch,经常输入的是三维带batch矩阵。如果 input1 是一个 b×n×m 张量,input2 是一个 b×m×p 张量,将会输出一个 b×n×p 张量

    >>> a = torch.ones(3,4,5)
    >>> b = torch.ones(3,5,6)
    >>> torch.bmm(a, b)    # torch.Size([3, 4, 6])
    tensor([[[5., 5., 5., 5., 5., 5.],
             [5., 5., 5., 5., 5., 5.],
             [5., 5., 5., 5., 5., 5.],
             [5., 5., 5., 5., 5., 5.]],
     
            [[5., 5., 5., 5., 5., 5.],
             [5., 5., 5., 5., 5., 5.],
             [5., 5., 5., 5., 5., 5.],
             [5., 5., 5., 5., 5., 5.]],
     
            [[5., 5., 5., 5., 5., 5.],
             [5., 5., 5., 5., 5., 5.],
             [5., 5., 5., 5., 5., 5.],
             [5., 5., 5., 5., 5., 5.]]])

另外,这两个函数都无法广播
6、torch.mv()【矩阵-向量乘法,不可广播】

torch.mv(input, vec) 只支持矩阵和向量之间的乘法。如果 input 为 n×m,vec向量的长度为m,那么输出为 n×1的向量。不支持广播机制

    In[1]: vec = torch.arange(4)
    In[2]: mat = torch.arange(12).reshape(3,4)
    In[3]: torch.mv(mat, vec)
    Out[1]: tensor([14, 38, 62])

torch.dot()【仅支持两个一维向量点积】

只能支持两个一维向量,两向量相乘相加得到一个标量

    与 np.dot() 不同,np.dot() 既能向量点积,又能矩阵乘法

    a = torch.tensor([2,3])
    b = torch.tensor([1,2])
    c = torch.dot(a,b)
    print('a:',a.shape)                 # a: torch.Size([2])
    print('b:',b.shape)                 # b: torch.Size([2])
    print('torch.dot:',c,c.shape)       # torch.dot: tensor(8) torch.Size([])

7、@【等价于 torch.dot() + torch.mv() + torch.mm()】

mat1 @ mat2

    若mat1和mat2都是一维向量,那么对应操作就是torch.dot()
    若mat1是二维向量,mat2是一维向量,那么对应操作就是torch.mv()
    若mat1和mat2都是二维向量,那么对应操作就是torch.mm()

    vec1 = torch.arange(4)
    vec2 = torch.tensor([4,3,2,1])
    mat1 = torch.arange(12).reshape(4,3)
    mat2 = torch.arange(12).reshape(3,4)
     
    print(vec1 @ vec2) # 两个一维向量
    print(mat2 @ vec1) # 一个二维和一个一维
    print(mat1 @ mat2) # 两个二维向量
     
    Output:
    tensor(10)
    tensor([14, 38, 62])
    tensor([[ 20,  23,  26,  29],
            [ 56,  68,  80,  92],
            [ 92, 113, 134, 155],
            [128, 158, 188, 218]])

torch.matmul() 【矩阵乘法,可高维,可广播】

torch.matmul() 与 @ 类似,但它不止局限于一维和二维,可以扩展到高维,且可以广播

    如果输入的两个张量都是一维的,那么返回点积,得到一个数,对应的操作就是torch.dot()
    如果输入的两个张量都是二维的,那么返回矩阵乘积,对应的操作就是torch.mm()
    如果输入的第一个张量是二维的,第二个张量是一维的,matrix第二维需要与 vector维度相同,返回矩阵向量乘积,对应的操作就是torch.mv()

8、L2 元素平方求和开根号

     L1 元素绝对值求和

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/25846.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

vivado HW_SERVER

HW_服务器 描述 硬件服务器管理到硬件目标的连接,例如硬件 板,包含一个或多个Xilinx FPGA设备的JTAG链,用于 编程和调试您的FPGA设计。 使用open_hw命令打开硬件管理器时,可以连接到 硬件服务器,本地或远程&#xff0c…

支持YUV和RGB格式两路视频同时播放

1.头文件&#xff1a; sdlqtrgb.h #pragma once #include <QtWidgets/QWidget> #include "ui_sdlqtrgb.h" #include <thread> class SdlQtRGB : public QWidget {Q_OBJECTpublic:SdlQtRGB(QWidget* parent Q_NULLPTR);~SdlQtRGB(){is_exit_ true;//等…

使用EFCore和Linq查询语句封装复杂的查询结果

这里举一个例子&#xff0c;用到了三个实体类&#xff0c;分别是 [Table("t_user")] public class User {[Key]public long Id { get; set; }public string UserName { get; set; }public string Password { get; set; }public string Email { get; set; }public Li…

Gradle和Maven都是广泛使用的项目自动化构建工具(二)

Gradle和Maven都是广泛使用的项目自动化构建工具&#xff0c;但它们在多个方面存在差异。以下是关于Gradle和Maven的详细对比&#xff1a; 一、构建脚本语言 Maven&#xff1a;使用XML作为构建脚本语言。XML的语法较为繁琐&#xff0c;不够灵活&#xff0c;对于复杂的构建逻辑…

十大排序

本文将以「 通俗易懂」的方式来描述排序的基本实现。 &#x1f9d1;‍&#x1f4bb;阅读本文前&#xff0c;需要一点点编程基础和一点点数据结构知识 本文的所有代码以cpp实现 文章目录 排序的定义 插入排序 ⭐ &#x1f9d0;算法描述 &#x1f496;具体实现 &#x1f…

LabVIEW硬件与仿真双模式设计液压系统

在实际项目中&#xff0c;结合LabVIEW与液压运动控制器&#xff0c;通过设计两种运行方式&#xff1a;硬件运行和仿真运行&#xff0c;使得系统既能进行实际操作又能进行仿真测试。此设计不仅方便了开发调试&#xff0c;也为教学培训和展示提供了极大的便利。本文将从项目背景、…

OBS与直播伴侣是什么关系,是否需要并用?

OBS相较于直播伴侣&#xff0c;提供了更为丰富和灵活的直播功能。OBS是一个免费开源的视频录制和视频实时交流软件&#xff0c;具有以下优势&#xff1a; 优化直播画面&#xff1a;OBS提供了包括卡通头像、卡通人物&#xff0c;以及美颜、特效、滤镜等多种功能&#xff0c;可以…

力扣2300.咒语和药水的成功对数

力扣2300.咒语和药水的成功对数 排序 二分 对于能整除的数 -1以后一起处理可以在原数组直接修改 class Solution {public:vector<int> successfulPairs(vector<int>& spells, vector<int>& potions, long long success) {sort(potions.begin(),p…

【机器学习】基于卷积LSTM的视频预测

1. 引言 1.1 LSTM是什么 LSTM&#xff08;Long Short-Term Memory&#xff09;是一种特殊的循环神经网络&#xff08;RNN&#xff09;变体&#xff0c;旨在解决传统RNN在处理长序列数据时遇到的梯度消失和梯度爆炸问题。LSTM通过引入门控机制和细胞状态的概念&#xff0c;使得…

QPS,平均时延和并发数

我们当前有两个服务A和B&#xff0c;想要知道哪个服务的性能更好&#xff0c;该用什么指标来衡量呢&#xff1f; 1. 单次请求时延 一种最简单的方法就是使用同一请求体同时请求两个服务&#xff0c;性能越好的服务时延越短&#xff0c;即 R T 返回结果的时刻 − 发送请求的…

【Python教程】4-字符串、列表、字典、元组与集合操作

在整理自己的笔记的时候发现了当年学习python时候整理的笔记&#xff0c;稍微整理一下&#xff0c;分享出来&#xff0c;方便记录和查看吧。个人觉得如果想简单了解一名语言或者技术&#xff0c;最简单的方式就是通过菜鸟教程去学习一下。今后会从python开始重新更新&#xff0…

HTTP参数污染漏洞

HTTP参数污染漏洞 1.HPP漏洞概述2.HPP漏洞利用手段3.参数解析&#xff1a;Flask vs PHP 1.HPP漏洞概述 HTTP参数污染攻击是指通过在HTTP请求中插入多个同名参数&#xff0c;混淆服务器对参数的处理逻辑&#xff0c;进而实现攻击目的。这种攻击可以在URL查询字符串、POST数据和…

AI大模型探索之路-实战篇16:优化决策流程:Agent智能数据分析平台中Planning功能实践

系列篇章&#x1f4a5; AI大模型探索之路-实战篇4&#xff1a;深入DB-GPT数据应用开发框架调研 AI大模型探索之路-实战篇5&#xff1a;探索Open Interpreter开放代码解释器调研 AI大模型探索之路-实战篇6&#xff1a;掌握Function Calling的详细流程 AI大模型探索之路-实战篇7…

MLM之GLM-4-9B:GLM-4-9B的简介、安装和使用方法、案例应用之详细攻略

MLM之GLM-4-9B&#xff1a;GLM-4-9B的简介、安装和使用方法、案例应用之详细攻略 背景痛点&#xff1a;目前主流的大语言模型如GPT-3等&#xff0c;在多轮对话能力、多语言能力、长文本理解能力以及对工具和代码调用能力等方面存在一定限制。 解决方案&#xff1a; >> 在…

现代x86汇编-环境安装

今天端午节&#xff0c;独自在家&#xff0c;翻阅了张银奎老师编写的《现代x86汇编语言程序设计》一书&#xff0c;前言部分说明书中示例代码都是用微软visual C工具编写并使用微软宏汇编&#xff08;著名的MASM&#xff09;编译的&#xff0c;好久没有用微软vc了&#xff0c;假…

详解FedProx:FedAvg的改进版 Federated optimization in heterogeneous networks

FedProx&#xff1a;2020 FedAvg的改进 论文&#xff1a;《Federated Optimization in Heterogeneous Networks》 引用量&#xff1a;4445 源码地址&#xff1a; 官方实现&#xff08;tensorflow&#xff09;https://github.com/litian96/FedProx 几个pytorch实现&#xff1a;…

基于STM32的595级联的Proteus仿真

文章目录 一、595级联1.题目要求2.思路3.仿真图3.1 未仿真时3.2 模式A3.2 模式B3.3 故障模式 二、总结 一、595级联 1.题目要求 STM32单片机&#xff0c;以及三个LED灯对应红黄绿灯&#xff0c;IIC的OLED显示屏&#xff0c;温湿度传感器DHT11&#xff0c;两个独立按键和两个5…

MySQL时间和日期类型详解(零基础入门篇)

目录 1. DATE 2. DATETIME 3. TIMESTAMP 4. TIME 5. YEAR 6. 日期和时间的使用示例 以下SQL语句的测试可以使用命令行&#xff0c;或是使用SQL工具比如MySQL Workbench或SQLynx等。 在 MySQL 中&#xff0c;时间和日期数据类型用于存储与时间相关的数据&#xff0c;如何…

Python数据分析与建模库-02科学计算库Numpy-3.矩阵属性

该视频主要讲述了线性回归算法的核心思想和应用。首先&#xff0c;回顾了线性回归的基本概念&#xff0c;即通过历史数据学习参数&#xff0c;使得参数与特征组合后拟合效果最佳。接着&#xff0c;介绍了误差项的假设和高斯分布的概念&#xff0c;并推导了如何找到使拟合效果最…

重温共射放大电路

1、放大概念 小功率信号变成一个大功率信号&#xff0c;需要一个核心器件做这件事&#xff0c;核心器件的能量由电源提供&#xff0c;通过核心器件用小功率的信号去控制大电源&#xff0c;来实现能量的转换和控制&#xff0c;前提是不能失真&#xff0c;可以用一系列正弦波进行…