Pytorch深度学习笔记

1、大于或等于三维的张量没有名称,统一叫张量。

·点-----标量(Scalar)----0阶张量是标量----只有数值大小,没有方向,部分有正负之分
·线-----向量(Vector)----1阶张量是向量----有大小和方向,如(3,4)。
·面-----矩阵(Matrix)----2阶张量是二维数组----  如[[1,2],[3,4]]
·体-----张量(Tensor)----3阶张量是三维数组
shape()  #0阶张量是标量
shape(3)  #1阶张量是向量
shape[2,3] # 2阶张量是二维数组
shape[2,1,3] # 3阶张量是三维数组

深度学习的基本原理

深度学习的框架是神经网络模型,但它研究多层隐藏层的深度神经网络。
神经网络的重要特性是他能够从环境中学习,神经网络是一个学习过程,在训练过程中,不断调整网络各层的权值矩阵。

卷积神经网络

卷积神经网络(Convolution Neutral Network) CNN。

常用的模型评估指标

·Confusion Matrix(混淆矩阵)
·Precision(精准率)
·Recall(召回率)
·F1-score
·PRC
·ROC和AUC
·IOU

Pytorch 入门1

Pytorch中的所有操作都是基于Tensor(张量)的。

自动求导

在训练神经网络的过程中,最常用的算法是反向传播算法。参数(模型权重)根据损失函数相对于给定参数的梯度进行调整。损失函数计算神经网络产生的期望输出和实际输出之间的差值,目标是使损失函数的结果尽可能接近零。该算法通过网络方向反向遍历来调整权重和偏差,以重新训练模型。

Pytorch神经网络

训练一个神经网络需要大量的数据,称为数据集。数据集一般分为3类。训练集(training set)、验证集(Validation set)、测试集(Test set)。
一个Epoch就等于使用训练集中的全部样本训练一次的过程,这个过程是指一次正向传播(Forward Pass)和一次反向传播(Backward Pass)。
当一个Epoch的样本(也就是训练集)数量太过庞大时。进行一次训练可能会消耗过多时间,并且每次训练都是用训练集的全部数据也不是必要的,因此我们需要把整个训练过程分成多个小块,也就是分成多个Batch进行训练。
一个Batch训练指使用一部分数据进行训练。

数据加载和处理
·dataset:加载数据集(Dataset对象)
·batch_size:batch大小
shuffle:是否每个Epoch都打乱数据。
num_workers:使用多进程加载的进程数,0表示不使用多线程。

迁移学习

模型保存和加载

在深度学习的训练过程中,我们经常需要保存模型的多个参数以便将来重新加载。这对于中断的训练恢复,或者用于模型的分享和部署都是非常重要的,Pytorch提供了简单的APi函数来保存和加载模型。最常见的方法是torch.save来保存模型的参数,然后通过torch.load加载模型的参数。

# 保存
torch.save(model.state_dict(),PATH)
# 加载
model = THEModelClass(*args, **kwargs(
model.load_state_dir(torch.load(PATH))
model.eval()

k近邻

如果一个样本附近的k个最近(特征空间中最邻近的k个)样本的大多数属于某一个类别,则该样本也附属这个类别。
即给定一个训练集,对于新输入实例,在训练集中找到与该实例最近的k个实例,这k个实例中的多数属于某个类,就把该输入实例分类到这个类中。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/888233.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

UIE与ERNIE-Layout:智能视频问答任务初探

内容来自百度飞桨ai社区UIE与ERNIE-Layout:智能视频问答任务初探: 如有侵权,请联系删除 1 环境准备 In [2] # 安装依赖库 !pip install paddlenlp --upgrade !pip install paddleocr --upgrade !pip install paddlespeech --upgrade In …

[代码随想录06]哈希表的使用,有效字母异位词,两数组交集,快乐数,两数之和

前言 哈希表是什么?一句话带你理解,简单来说我们对于杂乱的数据,怎么快速找到数据,如何做呢?一般的做法就是遍历复杂度为o(N)去找寻一个数据,但是吧,我们这样思考的话,还是花了大量时…

三维路径规划|基于黑翅鸢BKA优化算法的三维路径规划Matlab程序

三维路径规划|基于黑翅鸢BKA优化算法的三维路径规划Matlab程序 文章目录 前言三维路径规划|基于黑翅鸢BKA优化算法的三维路径规划Matlab程序基于黑翅鸢BKA优化算法的三维路径规划一、研究基本原理二、黑翅鸢BKA优化算法的基本步骤:三、详细流程四、总结 二、实验结果…

【问题】webdriver.Chrome()设置参数executable_path报不存在

场景1: 标红报错unresolved reference executable_path 场景2: 执行报错TypeError: __init__() got an unexpected keyword argument executable_path 原因: 上述两种场景是因为selenium4开始不再支持某些初始化参数。比如executable_path 解决: 方案…

Java - JSR223规范解读_在JVM上实现多语言支持

文章目录 1. 概述2. 核心目标3. 支持的脚本语言4. 主要接口5. 脚本引擎的使用执行JavaScript脚本执行groovy脚本1. Groovy简介2. Groovy脚本示例3. 如何在Java中集成 Groovy4. 集成注意事项 6. 与Java集成7. 常见应用场景8. 优缺点9. 总结 1. 概述 JSR223(Java Spe…

SpringCloud之Config:从基础到高级应用

目录 一、SpringCloud Config 简介1、SpringCloud Config 概述(1)核心概念(2)SpringCloud Config 的特点(3)应用场景(4)工作原理(5)优势(6&#x…

无序抓取系列(一)

文章目录 一 摘要 二 资源 三 内容 一 摘要 最近,已经提出了许多抓取检测方法,这些方法可用于直接从传感器数据中定位机器人抓取配置,而无需估计物体姿态。其基本思想是将抓握感知视作计算机视觉中的对象检测。这些方法将噪声和部分遮挡的…

论文阅读:Deep divergence-based approach to clustering

论文地址:main.pdf (sciencedirectassets.com) 摘要 深度学习研究中的一个有前景的方向是通过优化判别损失函数,学习表示并同时发现无标签数据中的聚类结构。与监督式深度学习不同,这一研究方向尚处于起步阶段,如何设计和优化合适…

docker build ubuntu ssh

dockerfile 构建镜像 为了使用Dockerfile构建Docker镜像,请遵循以下步骤: 创建一个名为Dockerfile的文件,并在其中定义镜像的构建指令。 FROM swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/ubuntu:24.04# 安装openssh-server和pas…

2024.12.2工作复盘

1.今天学了什么? 简单的写了一篇博客,是关于参数校验的问题,参数校验,一个是前后端校验到底一不一致,一个是绕过前端校验,看后台的逻辑到底能不能校验住。 2.今天解决了什么问题? 3.今天完成…

关于单片机的原理与应用!

成长路上不孤单😊😊😊😊😊😊 【14后😊///计算机爱好者😊///目前正在学习C😊///持续分享所学😊///如有需要欢迎收藏转发///😊】 今日分享关于单片…

【Vue3】【Naive UI】<n-upload>标签

【Vue3】【Naive UI】标签 基本设置 【VUE3】【Naive UI】<NCard> 标签 【VUE3】【Naive UI】<n-button> 标签 【VUE3】【Naive UI】<a> 标签 【VUE3】【Naive UI】<NDropdown> 标签…

Flink四大基石之CheckPoint(检查点) 的使用详解

目录 一、Checkpoint 剖析 State 与 Checkpoint 概念区分 设置 Checkpoint 实战 执行代码所需的服务与遇到的问题 二、重启策略解读 重启策略意义 代码示例与效果展示 三、SavePoint 与 Checkpoint 异同 操作步骤详解 四、总结 在大数据流式处理领域,Ap…

LeetCode Hot100 31~40

链表 31. K个一组翻转链表 题目不难理解 主要是怎么写出清晰易懂的代码 可以先分成K组 再排序 class Solution { public:ListNode* reverseKGroup(ListNode* head, int k) {ListNode* dummyHead new ListNode();dummyHead->next head;// 首先查看需要翻转几次int count…

字典树TRIE

模板 模板总共分为两部分 插入一个字符串查找一个字符串 int idx 0; int trie[3000010][150]; int ans[3000010];##原理 trie[上节点编号][下方连接的字母] 下方连接的字母的节点编号 trie[0][0]1;trie[0][1]5; trie[1][1]2; trie[2][1]4;trie[2][2]3; trie[5][2]6; tri…

Python学习第十五天--魔术方法

魔法方法就是可以给你的类增加魔力的特殊方法,它们总被双下划线所包围,像这种格式:"__方法名__",这些方法很强大,充满魔力,可以让你实现很多功能。 使用dir()查看类的所有属性和方法 class A:passprint(di…

支持JT1078和GB28181的流媒体服务器-LKM启动配置文件参数说明

流媒体服务器地址:https://github.com/lkmio/lkm GB28181信令,模拟多个国标设备工具:https://github.com/lkmio/gb-cms 文章目录 gop_cachegop_buffer_sizeprobe_timeoutwrite_timeoutmw_latencylisten_ippublic_ipidle_timeoutreceive_timeo…

【MySQL-6】MySQL的复合查询

1. 整体学习的思维导图 2. 回顾基本查询 使用scott数据库中的表,完成以下查询: 查询工资高于500或岗位为MANAGER的雇员,同时还要满足他们的姓名首字母为大写的J mysql> select * from emp where (sal>500 or jobMANAGER) and ename …

STL算法之其它算法_中

目录 lower_bound(应用于有序区间) upper_bound(应用于有序区间) binary_search(应用于有序区间) next_permutation prev_permutation lower_bound(应用于有序区间) 这是二分查找(binary search)的一种版本,试图在…

GEE教程——Google Earth Engine 处理和分析刚果民主共和国(DR Congo)地区的 Landsat 8 图像(NDVI和NDWI)

目录 简介 函数 sort(property, ascending) Arguments: Returns: Collection size() Arguments: Returns: Integer 代码解释 代码 结果 简介 GEE教程——Google Earth Engine 处理和分析刚果民主共和国(DR Congo)地区的 Landsat 8 图像(NDVI和NDWI) 函数 sor…