计算机视觉（五）深度学习基础

文章目录

  • 深度学习基础
    • 卷积神经网络与传统神经网络区别
      • 深度学习与神经网络的区别
    • 目标函数
      • 选择合适的目标函数
      • Softmax层
    • 改进的梯度下降
      • 梯度消失的直观解释
      • 激活函数
      • 学习步长
      • SGD的问题
        • Momentum动量
        • Nesterov Momentum
        • Adagrad
        • RMSprop
        • Adam
      • 各种梯度下降算法比较
      • 关于算法选择的建议
      • Batch Normalization的由来
    • 避免过适应
        • 早期停止训练
        • 权重衰减
        • Dropout
          • 测试时权重应减小
  • CNN初步介绍
    • CNN的基本组件
      • CNN卷积层
      • CNN池化层
      • CNN-Softmax层
    • 池化层的误差反向传播
      • 卷积层计算![在这里插入图片描述](https://img-blog.csdnimg.cn/be682bd439e04b999fe2448259bf47e5.png)
      • 卷积层运算的展开表示
    • 卷积层的误差反向传播

深度学习基础

卷积神经网络与传统神经网络区别

深度学习与神经网络的区别

在这里插入图片描述

目标函数

选择合适的目标函数

在这里插入图片描述
在这里插入图片描述

Softmax层

在这里插入图片描述

改进的梯度下降

梯度消失的直观解释

在这里插入图片描述

激活函数

在这里插入图片描述
在这里插入图片描述

学习步长

在这里插入图片描述

SGD的问题

在这里插入图片描述
存在马鞍面，使我们的训练卡住，于是提出下面方法：

Momentum动量

在这里插入图片描述

Nesterov Momentum

在这里插入图片描述
先利用“惯性”，“走”一步。避免一开始，就被当前梯度带偏。

Adagrad

为不同的参数设置不同的学习步长。
在这里插入图片描述

RMSprop

改进的Adagrad。使：
小的可以变大，大的可以变小。
在这里插入图片描述

Adam

在这里插入图片描述

各种梯度下降算法比较

在这里插入图片描述
在这里插入图片描述

关于算法选择的建议

在这里插入图片描述

Batch Normalization的由来

在这里插入图片描述
在这里插入图片描述
量纲不同，需要进行归一化处理。

避免过适应

在这里插入图片描述

早期停止训练

在这里插入图片描述

权重衰减

在这里插入图片描述

Dropout

在这里插入图片描述

测试时权重应减小

在这里插入图片描述

CNN初步介绍

CNN的基本组件

在这里插入图片描述

CNN卷积层

在这里插入图片描述在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

CNN池化层

在这里插入图片描述
通道数没变，尺度大小变了。

CNN-Softmax层

在这里插入图片描述

池化层的误差反向传播

在这里插入图片描述
在这里插入图片描述在这里插入图片描述

卷积层计算在这里插入图片描述

卷积层运算的展开表示

在这里插入图片描述
与全连接是有区别的。

卷积层的误差反向传播

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
转了180度

在这里插入图片描述
在这里插入图片描述
下面是残差在这里插入图片描述

下面是梯度·在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/16995.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

【Code审查工作经验之谈】

【Code审查工作经验之谈】

作为居住在软件开发行业的从业人员，我们都知道Code审查是一个必要的过程，用来确保团队的代码质量、减少bug、提高应用程序的可维护性等等。今天我将分享一下我个人的Code审查工作经验，希望能对大家有所帮助。 确定Code审查的目的 在开始Cod…
阅读更多...
Adobe Camera Raw 常用快捷键

Adobe Camera Raw 常用快捷键

戳下方链接，后台回复“230707PS插件”获取相关插件应用 回复“230708PS插件教程”获取教学链接; 回复“230730camera快捷键”获取快捷键链接。 原文链接：https://mp.weixin.qq.com/s/tVNDBPUtKrUtfGmPKJ0Tdw 目标调整工具 作用WindowsmacOS选取目标调整工…
阅读更多...
【Python】Web学习笔记_flask(1)——模拟登录

【Python】Web学习笔记_flask(1)——模拟登录

安装flask pip3 install flask 第一部分内容&#xff1a; 1、主页面输出hello world 2、根据不同用户名参数输出用户信息 3、模拟登录 from flask import Flask,url_for,redirectappFlask(__name__)app.route(/) def index():return hello worldapp.route(/user/<uname…
阅读更多...
【Mysql 】8.0 窗口函数

【Mysql 】8.0 窗口函数

Mysql 窗口函数 窗口函数概述
阅读更多...
实际开发中，React应用常见问题【持续更新中】

实际开发中，React应用常见问题【持续更新中】

实际开发中&#xff0c;React应用常见问题【持续更新中】 实际开发中&#xff0c;React应用常见问题【持续更新中】 一、路由相关 “react-router-dom”: “^6.14.2”, “react”: “^18.2.0”, 1、监听路由 import { useLocation } from react-router-domexport default func…
阅读更多...
Shell学习脚本-if多分支结构

Shell学习脚本-if多分支结构

语法&#xff1a; if 条件then指令集 else指令集 fi特殊写法&#xff1a; if [ -f "$file1" ]; then echo 1; else echo 0; fi 相当于&#xff1a; [ -f "$file1" ] && echo 1 || echo 0 多分支结构&#xff1a; if 条件then指令 elif 条件th…
阅读更多...
python爬虫(三)_HTTP的请求和响应

python爬虫(三)_HTTP的请求和响应

HTTP和HTTPS HTTP(HyperText Transfer Protocol&#xff0c;超文本传输协议)&#xff1a;是一种发布和接收HTML页面的方法 HTTPS(HyperText Transfer Protocol over Secure Socket Layer)简单讲是HTTP的安全版&#xff0c;在HTTP下加入SSL层。 SSL(Secure Socket Layer安全套…
阅读更多...
【云计算知识库】什么是云？什么是云计算？计算的是什么？openstack是什么？nova计算组件？【持续更新中】

【云计算知识库】什么是云？什么是云计算？计算的是什么？openstack是什么？nova计算组件？【持续更新中】

一、云计算常识科普 1.什么是云&#xff0c;什么是云计算&#xff0c;计算是指计算什么 云计算中的云不是天空中的云&#xff0c;在计算机的世界里&#xff0c;可以将它理解为一个群组&#xff0c;汇集在一起&#xff0c;只不过天上的云是雨水的群组&#xff0c;而云计算是计…
阅读更多...
Windows 环境Kubernetes安装

Windows 环境Kubernetes安装

目录 前言 安装 Docker 安装 Kubernetes Windows 安装 kubectl 介绍 安装 开启 Kubernetes 前言 Docker作为当前最流行的容器化平台&#xff0c;为Kubernetes提供了强大的容器化技术基础。Kubernetes与Docker的结合&#xff0c;使得容器化应用程序在大规模集群中得以简…
阅读更多...
计算机视觉实验：图像处理综合-路沿检测

计算机视觉实验：图像处理综合-路沿检测

目录 实验步骤与过程 1. 路沿检测方法设计 2. 路沿检测方法实现 2.1 视频图像提取 2.2 图像预处理 2.3 兴趣区域提取 2.4 边缘检测 ​​​​​​​2.5 Hough变换 ​​​​​​​2.6 线条过滤与图像输出 3. 路沿检测结果展示 4. 其他路沿检测方法 实验结论或体会 实…
阅读更多...
Linux CentOS 8 编译安装Apache Subversion

Linux CentOS 8 编译安装Apache Subversion

前言 距离上一篇发表已经过去了5年零2个多月&#xff0c;这次重新开始写技术博客&#xff0c;理由和原来一样&#xff0c;也就是想把自己学习和工作中遇到的问题和知识记录下来&#xff0c;今天记录一下Linux CentOS 8通过编译安装svn的过程。 下载SVN 下载地址&#xff1a;…
阅读更多...
【WebRTC---源码篇】（二十二）WebRTC的混音处理

【WebRTC---源码篇】（二十二）WebRTC的混音处理

音频混音主力 音频混音主体主要通过（重采样） + （混音）为主 音频重采样 内容实现是在webrtc::voe中实现的，下面来对重采样全流程逐一分析 。 void RemixAndResample(const AudioFrame& src_frame,//源音频数据帧PushResampler<int16_t>* resampler,//重采样对…
阅读更多...
内存分析工具之Mat

内存分析工具之Mat

自定义类MatClazz内存个数为9521。当前对象占用内存为16个字节。不包括其属性bytes的字节数。 通过查看MatClazz引用的类之byte数组之bytes。其单个数组占用的字节数为10256。整个内存MatClazz中属性bytes占用的byte[]字节数为97746376&#xff0c;与直方图统计趋近。 通过选…
阅读更多...
猴子吃桃(c++题解)

猴子吃桃(c++题解)

题目描述 一只小猴买了若干个桃子。第一天他刚好吃了这些桃子的一半&#xff0c;又贪嘴多吃了一个&#xff1b;接下来的每一天它都会吃剩余的桃子的一半外加一个。第 n 天早上起来一看&#xff0c;只剩下 1 个桃子了。请问小猴买了几个桃子&#xff1f; 输入格式 输入一个正…
阅读更多...
基于YOLOv8开发构建蝴蝶目标检测识别系统

基于YOLOv8开发构建蝴蝶目标检测识别系统

在前面的一篇博文中已经很详细地描述了如何基于YOLOv8开发构建自己的个性化目标检测模型&#xff0c;感兴趣的话可以看下&#xff1a; 《基于YOLOv8开发构建目标检测模型超详细教程【以焊缝质量检测数据场景为例】》 本文的主要目的就是基于YOLOv8来开发构建细粒度的蝴蝶目标…
阅读更多...
前端与后端请求数据缓存的四种方式

前端与后端请求数据缓存的四种方式

前端与后端请求数据缓存的四种方式: 1,Cache-control 2,Expires 3,Etag/if-None-match 4,Last-modified/ if-Modified-Since 1,Cache-control 服务端再相响应中设置 Cache-Control:max-age 来告诉浏览器&#xff0c;再有效时间内max-age内重复请求&#xff0c;无需再次访…
阅读更多...
MD-MTSP：斑马优化算法ZOA求解多仓库多旅行商问题MATLAB（可更改数据集，旅行商的数量和起点）

MD-MTSP：斑马优化算法ZOA求解多仓库多旅行商问题MATLAB（可更改数据集，旅行商的数量和起点）

一、斑马优化算法ZOA 斑马优化算法&#xff08;Zebra Optimization Algorithm&#xff0c;ZOA&#xff09;Eva Trojovsk等人于2022年提出&#xff0c;其模拟斑马的觅食和对捕食者攻击的防御行为。斑马优化算法&#xff08;Zebra Optimization Algorithm&#xff0c;ZOA&#x…
阅读更多...
spring总结

spring总结

1.spring framework有哪些不同功能 轻量级&#xff1a;Spring 在代码量和透明度方面都很轻便IOC&#xff1a;控制反转 。通过控制反转实现了松散耦合&#xff0c;对象们给出了他们的依赖&#xff0c;而不是创建或查找依赖的对象们AOP&#xff1a;面向切面编程可以将应用业务逻…
阅读更多...
高等数学教材啃书汇总难点（一）函数与极限

高等数学教材啃书汇总难点（一）函数与极限

教材为理工科标配的同济大学第七版&#xff0c;本系列为一轮啃书&#xff0c;将必会的全部重难点悉数总结——尤其是各种晦涩的理论证明部分&#xff0c;考研数学一的选手&#xff0c;想冲击高分的话必须掌握。对于考研证明题部分&#xff0c;熟练掌握定义是必不可少的底层基础…
阅读更多...
网络是怎样连接的

网络是怎样连接的

文章目录 概述英语缩略语一、Web浏览器二、协议栈、网卡三、集线器、交换机、路由器四、接入网、网络运营商五、防火墙、缓存服务器六、Web服务器总结 概述 从在浏览器中输入网址&#xff0c;到屏幕上显示出网页的内容&#xff0c;在这个只有几秒钟的过程中&#xff0c;很多硬…
阅读更多...
最新文章

Copyright @ 2022~2023