6.深度卷积神经网络

目录

    • 1.深度卷积神经网络ALexNet 2012
      • AlexNet
      • AlexNet架构
      • AlexNet与LeNet复杂度对比
      • 总结
      • 代码实现
    • 2.使用块的网络VGG 2014 image竞猜第二
      • VGG架构
      • 进度
      • 总结
      • 代码实现
    • 3.网络中的网络NiN
      • 全连接层的问题
      • NiN块
      • NiN架构
      • 总结
      • 代码实现
    • 4.含并行连结的网络(GoogLeNet)2014 image竞猜第一
      • 最好的卷积层超参数?
      • Inception块:小学生才做选择题,我全要
      • GoogLeNet网络结构
        • Stage1 & Stage2
        • Stage3
        • Stage4 & 5
      • Inception有各种后续变种
      • 总结
      • 代码实现
    • 5.批量归一化(Batch Normalization) 为了更快的拟合
      • 训练神经网络时出现的挑战
      • 核心思想
      • 批量归一化在做什么?
      • 总结
      • 批量归一化从零实现
      • 简明实现
    • 6.残差网络 ResNet
      • 问题:随着神经网络的不断加深,一定会带来好处吗?
      • 核心思想
      • 残差块
      • ResNet块细节
      • ResNet架构
      • 总结
      • 代码实现
    • 7.ResNet为什么能训练出1000层的模型
      • 如何避免梯度消失?
      • Residual如何处理梯度消失?

1.深度卷积神经网络ALexNet 2012

  • 在深度学习之前的网络
    • 机器学习(SVM) 2010年之前
      • 提取特征
      • 选择核函数来计算相关性
      • 凸优化问题
      • 漂亮的定理(优点:有一套完整的数学定理支持)
    • 几何学 2000年
      • 抽取特征
      • 描述几何(例如多相机)
      • (非)凸优化
      • 漂亮定理
      • 如果假设满足了,效果非常好
    • 特征工程
      • 特征工程是关键
      • 特征描述子:SIFT SURF(特征提取算法)
      • 最后使用SVM

  • 深度神经网络能再起,数据和运算起到关键作用

    • ImageNet(2010)
      • 图片:自然物体的彩色图片
      • 大小:469 * 387
      • 样本数 1200000
      • 类数:1000

AlexNet

  • AlexNet 赢了2012年Image竞赛
  • 更深更大的LeNet
  • 主要改进:
    • 丢弃法ÿ

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/29280.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

总结CSS 实现新手引导效果的六种方式

前言 我们在平常做业务中,在功能变更,或者有大的改动时,经常会用到新手引导功能, 虽然有很多库可以使用, 但是有时候很简单的需求,没必要引入库, 本文用最简化代码,实现一下新手引导…

这些常用 MySQL 用法,99% 的人都不知道!

本文首发于公众平台:腐烂的橘子 MySQL 对于后端程序员来讲是最熟悉不过了,不过 MySQL 有一些基本用法,99% 的人都不知道,考验技术基本功的时候到了,快来看看有没有你不知道的: select select 0,2,3,4; 会…

大数据开发语言Scala(一) - Scala入门

引言 在当今的大数据时代,数据量和数据处理的复杂性不断增加,传统的编程语言已经难以满足需求。Scala作为一门新兴的编程语言,以其简洁、强大和高效的特性,迅速成为大数据开发的热门选择。本文将详细介绍Scala语言的基础知识&…

react中useEffect函数的详细用法

1、函数介绍 useEffect 是 React 中的一个 Hook,用于在函数组件中处理副作用(如数据获取、订阅、手动更改 DOM 等)。与类组件中的生命周期方法(如 componentDidMount、componentDidUpdate 和 componentWillUnmount)类…

Java面试题之MySQL事务详解

事务是什么 MySQL中的事务(Transaction)是数据库管理系统执行的一个逻辑操作单元,它是由一系列数据库操作组成的逻辑工作单元。事务是并发控制的单位,也是用户定义的一个操作序列。事务的主要目的是确保数据的完整性和一致性&…

new char(20)和new char[20]区别

这两个语句都是用于动态分配内存并返回指向该内存的指针,但它们之间有一些重要的区别。 char* p new char(20);: 这条语句分配了一个char类型的内存块,只包含一个元素,其值初始化为20。这意味着p是一个指向包含单个char值的内存块的指针。在…

JAVA小知识23:set与HashSet

一、Set 1.1、Set的基本知识 set也是单列集合的一种,用于存储一组不重复的元素。它是一种集合数据类型,常用于需要确保元素唯一性和快速查找的场景。他有如下特点: 无序性:Set 中的元素是无序的,没有特定的顺序。唯…

【JVM】类的⽣命周期和类加载的过程

在Java中,类的生命周期和类加载过程是Java虚拟机(JVM)管理的核心部分。类的生命周期包括从类被加载到内存直到类被卸载的整个过程。类加载过程可以细分为多个阶段:加载、链接(包括验证、准备、解析)、初始化…

代码签名证书申请指南

申请代码签名证书的具体流程可以归纳为以下几个步骤: 1、确定证书类型: 根据您的需求选择合适的代码签名证书类型。常见的有OV(Organization Validation,组织验证)代码签名证书和EV(Extended Validation&am…

Elasticsearch-ES查询单字段去重

ES 语句 整体数据 GET wkl_test/_search {"query": {"match_all": {}} }结果: {"took" : 123,"timed_out" : false,"_shards" : {"total" : 1,"successful" : 1,"skipped" : 0…

R语言自定义vlookup函数

############################################################## #######自定义函数integrate_and_match_values用于提取数据 ############################################################# integrate_and_match_values <- function(target_data,target_id_col,target_…

(一)Kafka 安全之使用 SSL 的加密和身份验证

目录 一. 前言 二. 使用 SSL 的加密和身份验证 2.1. 为每个 Kafka Broker 生成 SSL 密钥和证书 2.1.1. 主机名验证&#xff08;Host Name Verification&#xff09; 2.1.2. 注意&#xff08;Note&#xff09; 一. 前言 SSL&#xff08;Secure Sockets Layer&#xff09;是…

Oracle数据库面试题-14

81. 解释RAC&#xff08;Real Application Clusters&#xff09;的工作原理。 RAC&#xff08;Real Application Clusters&#xff09;是Oracle Corporation开发的高可用性解决方案&#xff0c;它允许用户将多个数据库实例集群在一起&#xff0c;以提高数据库系统的可用性和性…

【Java】已解决java.lang.IllegalAccessException异常

文章目录 一、问题分析背景二、可能出错的原因三、错误代码示例四、正确代码示例五、注意事项 已解决java.lang.IllegalAccessException异常 一、问题分析背景 在Java开发中&#xff0c;java.lang.IllegalAccessException是一个常见的运行时异常&#xff0c;它通常发生在尝试…

【人工智能】人工智能就业岗位发展方向有哪些?

人工智能领域的岗位多样&#xff0c;涵盖了从技术研发到应用实施、从产品设计到市场运营等各个方面&#xff0c;以下是人工智能就业岗位的主要发展方向 研发与应用岗位&#xff1a; 机器学习工程师&#xff1a;负责开发和实施机器学习算法&#xff0c;解决各种问题&#xff0c…

CDA二级(Level II)数据分析师——考试内容梳理二

逻辑回归&#xff1a;Ln(P/(1-P)-30.06X0.05X2-0.02X3X1 岭回归的扰动性越大&#xff0c;模型越不容易受到共线性的影响&#xff1b; LOSSO只是缓解了由于共线性导致的估计误差的问题&#xff0c;而不是解决共线性 &#xff1b; AUC值接近0.5时&#xff0c;我们认为这个模型…

ARM32开发--FreeRTOS-事件组

系列文章目录 知不足而奋进 望远山而前行 目录 系列文章目录 文章目录 前言 目标 内容 概念 事件标志位 开发流程 功能介绍 创建事件组 触发事件 等待事件触发 同步 清理事件 案例 总结 前言 在嵌入式系统开发中&#xff0c;任务之间的同步和通信是至关重要的…

智慧矿山项目建设整体解决方案(938页 )

智慧矿山&#xff0c;究竟是什么&#xff1f; 在深入探讨之前&#xff0c;让我们先来提出一个深刻的问题&#xff1a;我们能否借助科技的力量&#xff0c;让矿山作业不仅安全、高效&#xff0c;还能做到环保可持续&#xff1f;答案是肯定的。智慧矿山&#xff0c;正是这一理念…

支撑每秒 600 万订单无压力,SpringBoot + Disruptor 太猛了!

一、背景 工作中遇到项目使用Disruptor做消息队列,对你没看错,不是Kafka,也不是rabbitmq;Disruptor有个最大的优点就是快,还有一点它是开源的哦,下面做个简单的记录. 二、Disruptor介绍 Disruptor 是英国外汇交易公司LMAX开发的一个高性能队列&#xff0c;研发的初衷是解决内存…

【postgresql初级使用】条件表达式触发器,兼顾DML执行性能,又能执行复杂逻辑,只在结帐时计算总帐

条件触发器 ​专栏内容&#xff1a; postgresql使用入门基础手写数据库toadb并发编程 个人主页&#xff1a;我的主页 管理社区&#xff1a;开源数据库 座右铭&#xff1a;天行健&#xff0c;君子以自强不息&#xff1b;地势坤&#xff0c;君子以厚德载物. 文章目录 条件触发器概…