吴恩达DeepLearning 2023学习目录

课程链接:https://space.bilibili.com/253734135/channel/collectiondetail?sid=2022897
笔记下载:https://github.com/QueenJuliaZxx/deeplearning_ai_books

L1 神经网络和深度学习

第一周 深度学习概论:

学习驱动神经网络兴起的主要技术趋势,了解现今深度学习在哪里应用、如何应用。

1.1 欢迎来到深度学习工程师微专业

1.2 什么是神经网络?

1.3 用神经网络进行监督学习

1.4 为什么深度学习会兴起?

1.5 关于这门课

1.6 课程资源

  • 吴恩达《深度学习》L1W1没有编程作业~

第二周 神经网络基础:

学习如何用神经网络的思维模式提出机器学习问题、如何使用向量化加速你的模型。

2.1 二分分类

2.2 logistic 回归

2.3 logistic 回归损失函数

2.4 梯度下降法

2.5 导数

2.6 更多导数的例子

2.7 计算图

2.8 计算图的导数计算

2.9 logistic 回归中的梯度下降法

2.10 m 个样本的梯度下降

2.11 向量化

2.12 向量化的更多例子

2.13 向量化 logistic 回归

2.14 向量化 logistic 回归的梯度输出

2.15 Python 中的广播

2.16 关于 python / numpy 向量的说明

2.17 Jupyter / Ipython 笔记本的快速指南

2.18 (选修)logistic 损失函数的解释

  • 吴恩达《深度学习》L1W2作业1 知识点:numpy入门,函数向量化实现
  • 吴恩达《深度学习》L1W2作业2 知识点:用神经网络思想实现逻辑回归

第三周 浅层神经网络:

学习使用前向传播和反向传播搭建出有一个隐藏层的神经网络。

3.1 神经网络概览

3.2 神经网络表示

3.3 计算神经网络的输出

3.4 多样本向量化

3.5 向量化实现的解释

3.6 激活函数

3.7 为什么需要非线性激活函数?

3.8 激活函数的导数

3.9 神经网络的梯度下降法

3.10 (选修)直观理解反向传播

3.11 随机初始化

  • 吴恩达《深度学习》L1W3作业 知识点:1层隐藏层的神经网络

第四周 深层神经网络:

理解深度学习中的关键计算,使用它们搭建并训练深层神经网络,并应用在计算机视觉中。

4.1 深层神经网络

4.2 深层网络中的前向传播

4.3 核对矩阵的维数

4.4 为什么使用深层表示

4.5 搭建深层神经网络块

4.6 前向和反向传播

4.7 参数 VS 超参数

4.8 这和大脑有什么关系?

  • 吴恩达《深度学习》L1W4作业1 知识点:深度神经网络的实现,初始化,正向传播,反向传播
  • 吴恩达《深度学习》L1W4作业2 知识点:深度神经网络的应用——图像分类

L2 改善深层神经网络:超参数调试、正则化以及优化

第一周 深度学习的实用层面

1.1 训练/开发/测试集

1.2 偏差/方差

1.3 机器学习基础

1.4 正则化

1.5 为什么正则化可以减少过拟合?

1.6 Dropout 正则化

1.7 理解 Dropout

1.8 其他正则化方法

1.9 正则化输入

1.10 梯度消失与梯度爆炸

1.11 神经网络的权重初始化

1.12 梯度的数值逼近

1.13 梯度检验

1.14 关于梯度检验实现的注记

  • 吴恩达《深度学习》L2W1作业1 知识点:深度神经网络的初始化
  • 吴恩达《深度学习》L2W1作业2 知识点:深度神经网络的正则化
  • 吴恩达《深度学习》L2W1作业3 知识点:深度神经网络的梯度检验

第二周 优化算法

2.1 Mini-batch 梯度下降法

2.2 理解 mini-batch 梯度下降法

2.3 指数加权平均

2.4 理解指数加权平均

2.5 指数加权平均的偏差修正

2.6 动量梯度下降法

2.7 RMSprop

2.8 Adam 优化算法

2.9 学习率衰减

2.10 局部最优的问题

  • 吴恩达《深度学习》L2W2作业 知识点:梯度下降的优化

第三周 超参数调试、Batch正则化和程序框架

3.1 调试处理

3.2 为超参数选择合适的范围

3.3 超参数训练的实践:Pandas VS Caviar

3.4 正则化网络的激活函数

3.5 将 Batch Norm 拟合进神经网络

3.6 Batch Norm 为什么奏效?

3.7 测试时的 Batch Norm

3.8 Softmax 回归

3.9 训练一个 Softmax 分类器

3.10 深度学习框架

3.11 TensorFlow

  • 吴恩达《深度学习》L2W3作业 知识点:TensorFlow

L3 结构化机器学习项目

第一周 机器学习(ML)策略(1)

1.1 为什么是ML策略

1.2 正交化

1.3 单一数字评估指标

1.4 满足和优化指标

1.5 训练/开发/测试集划分

1.6 开发集合测试集的大小

1.7 什么时候该改变开发/测试集和指标

1.8 为什么是人的表现

1.9 可避免偏差

1.10 理解人的表现

1.11 超过人的表现

1.12 改善你的模型的表现

第二周 机器学习(ML)策略(2)

2.1 进行误差分析

2.2 清楚标注错误的数据

2.3 快速搭建你的第一个系统,并进行迭代

2.4 在不同的划分上进行训练并测试

2.5 不匹配数据划分的偏差和方差

2.6 定位数据不匹配

2.7 迁移学习

2.8 多任务学习

2.9 什么是端到端的深度学习

2.10 是否要使用端到端的深度学习

  • L3没有编程作业~

L4卷积神经网络

第一周 卷积神经网络

1.1 计算机视觉

1.2 边缘检测示例

1.3 更多边缘检测内容

1.4 Padding

1.5 卷积步长

1.6 卷积为何有效

1.7 单层卷积网络

1.8 简单卷积网络示例

1.9 池化层

1.10 卷积神经网络示例

1.11 为什么使用卷积?

  • 吴恩达《深度学习》L4W1作业1 知识点:卷积神经网络的实现
  • 吴恩达《深度学习》L4W1作业2 知识点:卷积神经网络的应用

第二周 深度卷积网络:实例探究

2.1 为什么要进行实例探究

2.2 经典网络

2.3 残差网络

2.4 残差网络为什么有用?

2.5 网络中的网络以及 1×1 卷积

2.6 谷歌 Inception 网络简介

2.7 Inception 网络

2.8 使用开源的实现方案

2.9 迁移学习

2.10 数据扩充

2.11 计算机视觉现状

  • 吴恩达《深度学习》L4W2RN作业 知识点:残差网络 Residual Networks
  • 吴恩达《深度学习》L4W2KT作业 知识点:Keras

第三周 目标检测

3.1 目标定位

3.2 特征点检测

3.3 目标检测

3.4 卷积的滑动窗口实现

3.5 Bounding Box预测

3.6 交并比

3.7 非极大值抑制

3.8 Anchor Boxes

3.9 YOLO 算法

3.10 RPN网络

  • 吴恩达《深度学习》L4W3作业 知识点:自动驾驶——汽车检测

第四周 特殊应用:人脸识别和神经风格转换

4.1 什么是人脸识别?

4.2 One-Shot 学习

4.3 Siamese 网络

4.4 Triplet 损失

4.5 面部验证与二分类

4.6 什么是神经风格转换?

4.7 什么是深度卷积网络?

4.8 代价函数

4.9 内容代价函数

4.10 风格代价函数

4.11 一维到三维推广

  • 吴恩达《深度学习》L4W4作业1 知识点:人脸识别
  • 吴恩达《深度学习》L4W4作业2 知识点:深度学习与艺术 - 神经风格迁移

L5 序列模型

第一周 循环序列模型

本周的知识点是循环神经网络。这种类型的模型已经被证明在时间数据上表现非常好,它有几个变体,包括 LSTM、GRU 和双向神经网络,本周的课程中也都包括这些内容。

1.1 为什么选择序列模型

1.2 数学符号

1.3 循环神经网络模型

1.4 通过时间的反向传播

1.5 不同类型的循环神经网络

1.6 语言模型和序列生成

1.7 对新序列采样

1.8 带有神经网络的梯度消失

1.9 GRU 单元

1.10 长短期记忆(LSTM)

1.11 双向神经网络

1.12 深层循环神经网络

  • 吴恩达《深度学习》L5W1作业1 知识点:手把手实现RNN
  • 吴恩达《深度学习》L5W1作业2 知识点:字符级语言模型
  • 吴恩达《深度学习》L5W1作业3 知识点:用LSTM网络创作一首爵士小歌

第二周 自然语言处理与词嵌入

自然语言处理与深度学习是特别重要的组合。使用词向量表示和嵌入层,可以训练在各种行业中表现出色的循环神经网络。应用程序示例包括情绪分析、物体识别和机器翻译。

2.1 词汇表征

2.2 使用词嵌入

2.3 词嵌入的特性

2.4 嵌入矩阵

2.5 学习词嵌入

2.6 Word2Vec

2.7 负采样

2.8 GloVe 词向量

2.9 情绪分类

2.10 词嵌入除偏

  • 吴恩达《深度学习》L5W2作业1 知识点:Emoji表情情感分类器
  • 吴恩达《深度学习》L5W2作业2 知识点:词向量的基本操作

第三周 序列模型和注意力机制

注意力机制可以增强序列模型。这个算法将帮助你的模型理解,在给出一系列的输入时,它应该把注意力放在什么地方。本周,你还将学习语音识别以及如何处理音频数据。 3.1 基础模型

3.2 选择最可能的句子

3.3 定向搜索

3.4 改进定向搜索

3.5 定向搜索的误差分析

3.6 Bleu 得分(选修)

3.7 注意力模型直观理解

3.8 注意力模型

3.9 语音辨识

3.10 触发字检测

3.11 结论和致谢

  • 吴恩达《深度学习》L5W3作业1 知识点:机器翻译
  • 吴恩达《深度学习》L5W3作业2 知识点:语音识别关键字

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/598453.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如果PostgreSQL有两层nginx代理,会发生什么事?

转载说明:如果您喜欢这篇文章并打算转载它,请私信作者取得授权。感谢您喜爱本文,请文明转载,谢谢。 1. 前言 PostgreSQL默认只能本机连接,若要在别的客户端远程连接pgsql,则需要修改配置文件pg_hba.conf&a…

Flutter中的StatelessWidget和StatefulWidget简介与使用

Flutter是一款流行的跨平台移动应用开发框架,它使用Dart语言编写。在Flutter中,StatelessWidget和StatefulWidget是两个重要的概念,用于构建用户界面。 1. StatelessWidget 什么是StatelessWidget? StatelessWidget是Flutter中…

如何将ElementUI组件库中的时间控件迁移到帆软报表中

需求:需要将ElementUI组件库中的时间控件迁移到帆软报表中,具体为普通报表的参数面板中,填报报表的组件中,决策报表的组件与参数面板中。 这三个场景中分别需要用到帆软报表二开平台的ParameterWidgetOptionProvider,FormWidgetOptionProvider,CellWidgetOptionProvider开…

无心剑小诗《银婚颂》

银婚颂 二十五个春秋共一轮 你是岁月赠予我最亮的星辰 从青春燃烧到岁月沉稳 你的笑颜,我永恒的晨昏 春花烂漫是你眼里的璀璨 夏日蝉鸣是彼此故事的和弦 秋叶纷飞诉说漫天情缘 冬雪纯洁见证温暖的牵绊 月光洒满每段共享小径 星光点染每个深情的夜晚 风雨同舟铸就铜墙铁壁 携…

书生·浦语大模型实战1

书生浦语大模型全链路开源体系 视频链接:书生浦语大模型全链路开源体系_哔哩哔哩_bilibili 大模型之所以能收到这么高的关注度,一个重要原因是大模型是发展通用人工智能的重要途径 深度信念网络: (1)又被称为贝叶斯网…

科技助力教育:数字化如何改变家校社协同育人?

近年来,随着社会的快速发展,教育的责任已不再仅局限于学校。家庭、学校和社会协同育人理念,正成为促进教育高质量发展的关键要素。 2023年初,教育部等十三部门联合印发《关于健全学校家庭社会协同育人机制的意见》,提出到“十四五”时期末,形成更加完善的由“学校积极主导、家…

Elasticsearch零基础实战

分享后可优化点(待完成) java es8 查询如何打印查询入参 ?(直接执行的json) es自定义分词器 如何实现? kibana 监控jvm分子分母是什么 ? es如何 改索引结构? 修改数据原理 分享…

【动态规划】C++算法:115.不同的子序列

作者推荐 【动态规划】【字符串】扰乱字符串 本文涉及的基础知识点 动态规划 LeetCode115 不同的子序列 给你两个字符串 s 和 t ,统计并返回在 s 的 子序列 中 t 出现的个数,结果需要对 109 7 取模。 示例 1: 输入:s “rab…

Baumer工业相机堡盟工业相机如何通过NEOAPI SDK设置相机本身的数据保存(CustomData)功能(C++)

Baumer工业相机堡盟工业相机如何通过NEOAPI SDK设置相机本身的数据保存(CustomData)功能(C) Baumer工业相机Baumer工业相机的数据保存(CustomData)功能的技术背景CameraExplorer如何使用图像剪切&#xff0…

服务器执行rm命令时自动记录到审计日志中

目的 当在服务器上执行类似于 rm 命令时,自动记录该命令执行的时间,在哪里执行的,删除的什么文件,记录到审计日志中,能够查找到某些文件丢失原因 配置 # 需要root权限,sudo不行,这里假设执行…

VUE3结合mqtt解决多页面使用需重复连接等问题(封装)

场景 在做的一个项目中多个页面都需要使用到mqtt接收消息,但这样的话每个页面就都需要连接一次mqtt,并且要再次配置options信息、订阅主题、接收消息,非常的不方便,因此琢磨将mqtt封装到vuex中,使其可以多页面通用&am…

工具网站DefiLlama全攻略:从零学习链上数据使用与发现

DefiLlama 是一个 DeFi(去中心化金融)信息聚合器,其主要功能是提供各种 DeFi 平台的准确、全面数据。DefiLlama 致力于在不受广告或赞助内容影响的情况下为用户提供这些数据,以确保信息内容的透明度和公正性,该平台聚合来自多个区块链的数据,让用户能够全面了解 DeFi 格局…

探索Elasticsearch内存应用的关键因素

了解Elasticsearch内存模型 Elasticsearch的内存使用主要包括堆内存和操作系统缓存。堆内存是Elasticsearch用来存储数据结构的内存,例如文档索引、倒排索引等。操作系统缓存则是Elasticsearch缓存磁盘上的数据块以加速读取操作的一种机制,通常被称为OS…

docker安装-在linux下的安装步骤

#切换到root用户 su yum安装jcc相关 yum -y install gcc yum -y install gcc-c 安装yum-utils sudo yum install -y yum-utils 设置stable镜像仓库 sudo yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo 更新yum软件包索…

conda操作使用教程

一 conda介绍 Conda 是一个开源的包管理系统和环境管理系统,用于在 Linux、Windows 和 macOS 上管理 Python 包和依赖项,java有maven, python有conda,它是python开发者的最爱。 Conda 的核心功能: 包管理:安装、更新、删除 Pytho…

【PHP】json_decode的第二个参数是什么意思

json_decode() 函数的第二个参数 $associative 是一个布尔值,用于控制 JSON 对象在 PHP 中的解码方式。当将其设置为 true 时,JSON 对象将被解码为关联数组;当设置为 false 时,JSON 对象将被解码为 stdClass 对象。默认值为 false…

nginx配置图片服务器

目录 一:访问流程 二:缓存服务器配置 三:上传图片直接上传到图片服务器 四:加快图片访问 一:访问流程 访问缓存服务器(上面安装nginx反向代理到图片服务器,对外提供服务)->图片服务器 二&#xff1…

【本科生通信原理】【实验报告】【北京航空航天大学】实验二:AM、DSB调制/解调

一、实验目的 二、实验内容 三、实验程序 1、 function q1() N 1024; %采样点数 A 2; %直流分量 t0 5; %信号时长 dt t0 / N; %时间分辨率 fs 1 / dt; %系统采样频率…

C++ arpa/inet.h

头文件 <arpa/inet.h> 主要包含了一些用于IPv4和IPv6地址转换的函数&#xff0c;以及与网络字节序相关的函数。以下是其中一些主要的函数&#xff1a; 地址转换函数&#xff1a; inet_addr: 将点分十进制的IPv4地址转换为网络字节序的32位整数。inet_aton: 将点分十进制的…

深入理解可变参数

目录 1.C语言方式 1.1.宏介绍 1.2.原理详解 1.3.案例分析 1.4.其他实例 2.C之std::initializer_list 2.1.简介 2.2.原理详解 2.3.案例分析 3.C之可变参数模版 3.1.简介 3.2.可变参数个数 3.3.递归包展开 3.4.逗号表达式展开 3.5.Lambda 捕获 3.6.转发参数包 4…