神经网路与深度学习

1 深度学习简述

机器学习:相当于把公式实现出来了而已。

深度学习:

(1)中的特征工程使机器学习更智能。

(2)真正能学什么样的特征才是最合适的。
(3)主要应用于计算机视觉和自然语言处理
(4)最大的问题在于参数太多,计算速度太慢了

深度学习与传统人工智能算法对比 

2 计算机视觉任务

2.1 图像表示

在计算机中一张图片被表示成三维数组的形式,每个像素点的值从0到255,例如:300*100*3【表示:图片高度为300像素(即有300个像素点),宽度为100像素,其中3表示有3个颜色通道,如RGB】

RGB:RGB颜色模式中,每个像素都由三个8位整数表示,分别代表红、绿、蓝三个通道的强度值。这三个通道可以分别控制图像中红色、绿色和蓝色部分的颜色强度和变化,从而实现对图像颜色的准确控制和调整。

2.2 计算机视觉面临的挑战

机器学习常规套路:

  1. 收集数据并给定标签
  2. 训练一个分类器
  3. 测试,评估

数据库推荐:CIFAR-10,这个数据库并不大,但分类多,数据量多,很适合用来测试。

K近邻算法(KNN)

假如我们对图像采用KNN算法进行识别,其中距离计算采用如下方式(test-image像素值减去pixel-wise absolute value differences像素值得到training image像素值

结果: 

问题在于图像中的背景起到了很大的干扰作用!

3.1 实例计算

3.1.1 引言

思考其他的距离函数?

考虑像素点的权重:W是权重参数,x表示输入图像像素值,b是偏置参数(微调)

10*1表示输入图像在10个类别中各自的得分

10*3072表示每个类别对于每个像素点的权重值

3072*1表示输入图像总的像素(注意不是像素值)

3.1.2 实际计算过程

神经网路做的事情

神经网络在整个生命周期中,就在做:什么样的W能更适合于咱们的数据去做当前这个任务,我就怎么样去改变这个W。

迭尔塔相当于容忍程度的意思。

Sj:其他错误类别 Syj:正确类别  +1:表示容忍程度为1,也就是说只有当正确类别至少比错误类别高1才能说这个结果是正确的。

例如第一组数据中,Sj:5.1   Syj:3.2

损失值为0表示无损失,计算结果正确。

很明显,模型A只关注某一个数据,这样偏差太大,这是变异的

正则化惩罚项:由权重参数所带来的损失,蓝色方框为计算公式,λ表示惩罚系数,系数越大表示我不要那些变异的;系数越小表示变异的数据我也能接受。

不希望模型复杂的原因:

神经网络的优点在于能解决的问题多,缺点也在于它过于强大了。

过拟合是指模型在训练数据上表现很好,但在未见过的测试数据上表现较差的情况。

如何分类呢?

回归任务是由得分值去计算损失,分类任务由概率值计算损失 

以上计算过程都是前向传播。反向传播是说得到的损失大的W该如何调整呢?(为了能让损失下降,即优化的过程)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/9599.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【探索Java编程:从入门到入狱】Day5

🍬 博主介绍👨‍🎓 博主介绍:大家好,我是 hacker-routing ,很高兴认识大家~ ✨主攻领域:【渗透领域】【应急响应】 【Java、PHP】 【VulnHub靶场复现】【面试分析】 🎉点赞➕评论➕收…

Python深度学习基于Tensorflow(4)Tensorflow 数据处理和数据可视化

文章目录 构建Tensorflow.data数据集TFRecord数据底层生成TFRecord文件数据读取TFRecord文件数据图像增强 数据可视化 构建Tensorflow.data数据集 tf.data.Dataset表示一串元素(element),其中每个元素包含一个或多个Tensor对象。例如&#xf…

XSS-Labs 靶场通过解析(上)

前言 XSS-Labs靶场是一个专门用于学习和练习跨站脚本攻击(XSS)技术的在线平台。它提供了一系列的实验场景和演示,帮助安全研究人员、开发人员和安全爱好者深入了解XSS攻击的原理和防御方法。 XSS-Labs靶场的主要特点和功能包括:…

【QT教程】QT6蓝牙编程 QT蓝牙编程

QT6蓝牙编程 使用AI技术辅助生成 QT界面美化视频课程 QT性能优化视频课程 QT原理与源码分析视频课程 QT QML C扩展开发视频课程 免费QT视频课程 您可以看免费1000个QT技术视频 免费QT视频课程 QT统计图和QT数据可视化视频免费看 免费QT视频课程 QT性能优化视频免费看 免费QT视…

Transformer模型详解03-Self-Attention(自注意力机制)

文章目录 简介基础知识什么是AttentionSelf Attention原理通俗易懂理解矩阵计算Q,K,V计算Self-Attention 的输出 优势 Multi-head self-attention原理通俗易懂理解矩阵计算代码实现 简介 下图是论文中 Transformer 的内部结构图,左侧为 Enco…

代码随想录算法训练营day20 | 110.平衡二叉树、 257. 二叉树的所有路径、404.左叶子之和

110.平衡二叉树 平衡二叉树需要看左右节点的深度是不是相差<1 未看题解前 class Solution:def isBalanced(self, root: Optional[TreeNode]) -> bool:if not root:return Trueif abs(self.depth(root.left) - self.depth(root.right)) > 1:return Falsereturn self…

哪里有视频素材可以用?全视频素材都在哪里找?

在这个数字化快速发展的世界中&#xff0c;高清和4K视频素材对于提升视觉故事的品质至关重要。以下是一系列全球知名的视频素材网站&#xff0c;它们提供的高质量素材能够满足您从商业广告到个人项目的所有需求。 1. 蛙学府 以其庞大的创意资源库著称&#xff0c;订阅者可以无…

【数据流图】用JointJs实现数据流图(一)

一、效果图 二、为什么选用JointJs&#xff1f; 节点是动态绘制的JointJs绘制流向线条时不会遮挡住下方的节点元素&#xff0c;方便绑定事件做拓展JointJs提供丰富的API&#xff0c;虽然比较底层但是拓展灵活连线不仅可以通过坐标点连接&#xff0c;还可直接根据节点连接 三、…

如何使用Vite快速构建vue项目

1、在自己定义的目录下打开cmd命令窗口&#xff1a;如文件夹目录上面输入cmd回车就可以打开 2、检查 node环境&#xff1a;通过node --version看版本号表示安装好了 3、 使用Vite 快速构建Vue项目 npm init vitelatest qiuqiu.admin 注意&#xff1a;如何你电脑没有装vite首…

PCIE协议-2-事务层规范---事务描述符

2.2.6.1 概览 事务描述符是请求者和完成器之间传输事务信息的机制。事务描述符由三个字段组成&#xff1a; 事务ID&#xff1a;标识未完成的事务属性字段&#xff1a;定义事务的特征流量类别&#xff08;TC&#xff09;字段&#xff1a;将事务与所需的服务类型关联起来 图2-…

EasyHPC - PyTorch入门教程【笔记】

内容来源&#xff1a;超算习堂 (easyhpc.net) 文章目录 01 Tensors环境要求1.1 Tensors1.1.1 直接创建tensor1.1.2 在现有tensor中创建tensor1.1.3 从NumPy中创建tensor 1.2 基本运算1.2.1 使用运算符1.2.2 调用方法 1.3 CUDA Tensors 02 Autograd2.1 Tensor2.2 Gradient 03 Ne…

实现流程化办公,可了解一下可视化报表开源

当前&#xff0c;实现流程化办公早已成为众多中小企业的发展目标和趋势。可以借助什么样的软件平台实现这一目标&#xff1f;低代码技术平台拥有可视化操作界面、够灵活、易维护等优势特点&#xff0c;在助力企业实现流程化办公、数字化转型方面具有重要的应用价值和推动作用。…

[华为OD] C卷 田忌赛马 DFS 200

题目&#xff1a; 给定两个只包含数字的数组a, b,调整数组a里面数字的顺序&#xff0c;使得尽可能多的a[i] >b[i]。 数组a和b中的数字各不相同。 输出所有可以达到最优结果的a数组的数量 输入描述 输入的第一行是数组a中的数字&#xff0c;其中只包含数字&#xff0c;每…

【0002day】HistCite的使用

HistCite是一个很好的软件&#xff0c;可以找出一个领域中具有代表性的几篇文章。同时使用也比较方便&#xff0c;因而我学习了一下它&#xff0c;并做一下记录。 分析过程 首先&#xff0c;需要选择核心数据库&#xff0c;然后依据关键字进行检索。 检索出来后&#xff0c;将…

Secure Transformer Inference Made Non-interactive

目录 1.概述2.Attention2.1 Matrix multiplication (ciphertext-plaintext).2.2 Matrix multiplication (ciphertext-ciphertext)2.3 Placement of bootstrapping3.SIMD密文压缩和解压缩4.SIMD槽折叠5.实验结果 1.概述 我们提出了NEXUS&#xff0c;这是第一个用于安全变压器推…

为什么要使用jvm,而不是直接启动类文件

JVM&#xff08;Java虚拟机&#xff09;是Java程序的运行环境&#xff0c;它负责将Java源代码编译成字节码&#xff0c;并在运行时负责解释和执行这些字节码。当你直接启动一个Java类时&#xff0c;实际上是启动了JVM&#xff0c;并指定了要执行的类。 以下是为什么要通过启动…

【QT教程】QT6与硬件接口编程 QT硬件编程

QT6与硬件接口编程 使用AI技术辅助生成 QT界面美化视频课程 QT性能优化视频课程 QT原理与源码分析视频课程 QT QML C扩展开发视频课程 免费QT视频课程 您可以看免费1000个QT技术视频 免费QT视频课程 QT统计图和QT数据可视化视频免费看 免费QT视频课程 QT性能优化视频免费看 免…

变老相机app

变老相机app 在手机上使用“变老相机”app&#xff0c;其中的时光穿梭功能可以生成10岁、20岁、50岁、70岁的照片 目的 得到未来自己的照片&#xff0c;能够更有效地督促我们为老年的自己存款。

为什么反射慢?

反射机制就是通过字节码文件对象获取成员变量、成员方法和构造方法&#xff0c;然后进一步获取它们的具体信息&#xff0c;如名字、修饰符、类型等。 反射机制的性能较低有很多原因&#xff0c;这里详细总结以下4点原因&#xff1a; &#xff08;1&#xff09;JIT优化受限&am…

记录minio的bug(Object name contains unsupported characters.)

场景是我将后端服务从121.xxx.xxx.xxx服务器上转移到了另一台服务器10.xxx.xxx.xxx 但图片都还在121.xxx.xxx.xxx服务器上&#xff0c;同样我10.xxx.xxx.xxx也安装了minio并且我的后端服务配置的minio地址也是10.xxx.xxx.xxx 此时有一个业务通过minio客户端获取图片&#xf…