学习深度学习需要哪些知识_您想了解的有关深度学习的所有知识

学习深度学习需要哪些知识

有关深层学习的FAU讲义 (FAU LECTURE NOTES ON DEEP LEARNING)

Corona was a huge challenge for many of us and affected our lives in a variety of ways. I have been teaching a class on Deep Learning at Friedrich-Alexander-University Erlangen Nuremberg, Germany for several years now. This summer, our university decided to go “virtual” completely. Therefore, I started recording my lecture in short clips fo 15 minutes each.

对我们许多人而言,电晕是一个巨大的挑战,它以多种方式影响着我们的生活。 几年来,我一直在德国的弗里德里希-亚历山大大学纽伦堡大学教授深度学习课程。 今年夏天,我们的大学决定完全走向“虚拟”。 因此,我开始以每段15分钟的短片记录我的演讲。

Image for post
X-ray projections. Image by courtesy of Bastian Bier.X射线投影中使用 。 图片由Bastian Bier提供。

For a topic such as “Deep Learning”, you have to update the content of a lecture every semester. Therefore, I was not able to provide lecture notes so far. However, with video recordings and the help of automatic speech recognition, I was able to transcribe the entire lecture. This is why I decided to post a corresponding, manually corrected transcript for every video here on Medium. I was very glad that “Towards Data Science” published all of them in their esteemed publication. They even asked me to create a column “FAU Lecture Notes”. So, I’d like to take this opportunity to thank Towards Data Science for their great support of this project!

对于诸如“深度学习”之类的主题,您必须每学期更新一次演讲的内容。 因此,到目前为止,我无法提供讲义。 但是,借助视频记录和自动语音识别的帮助,我可以转录整个讲座。 这就是为什么我决定为Medium上的每个视频发布一个相应的,手动更正的成绩单。 我很高兴《 迈向数据科学 》在他们尊敬的出版物中发表了所有这些文章。 他们甚至要求我创建一列“ FAU讲义 ”。 因此,我想借此机会感谢Towards Data Science对这个项目的大力支持!

Image for post
AlphaStar playing Serral. The full video can be found here. Image generated using gifify.
AlphaStar玩Serral。 完整的视频可以在这里找到。 使用gifify生成的图像 。

To streamline the creation of the blog posts, I create a small tool chain “autoblog” that I also make available free of charge. All content here is also released unter CC BY 4.0 unless stated otherwise. So, you are also free to reuse this content.

为了简化博客文章的创建,我创建了一个小的工具链“ autoblog ”,我也免费提供它。 除非另有说明,否则此处所有内容也将在CC BY 4.0下发布。 因此,您也可以自由地重用此内容。

In the following, I list the individual posts grouped by Chapter with a link to the respective videos. In case, you prefer the video, you can also watch the entire lecture as playlist. Note that I upgraded my recording equipment twice this semester. You should see that the video quality improve from Chapter 7— Architectures and Chapter 9 — Visualization & Attention.

在下文中,我列出了按章节分组的各个帖子,以及指向相应视频的链接。 如果您喜欢视频,还可以将整个演讲作为播放列表观看 。 请注意,本学期我两次升级了录音设备。 您应该看到视频质量从第7章“体系结构”和第9章“可视化与注意”得到改善。

So, I hope you find these posts and videos useful. I case you like, them please leave a comment, or recommend this project to your friends.

因此,我希望您发现这些帖子和视频有用。 如果您喜欢,他们请留下评论,或将此项目推荐给您的朋友。

第一章简介 (Chapter 1 — Introduction)

Image for post
Example sequence showing Yolo’s capabilities. The full sequence can be found here. Image generated using gifify.
展示Yolo功能的示例序列。 完整的序列可以在这里找到。 使用gifify生成的图像 。

In these videos, we introduce the topic of Deep Learning and show some highlights in terms of literature and applications

在这些视频中,我们介绍了深度学习的主题,并在文学和应用方面展示了一些亮点

Part 1: Motivation & High Profile Applications (Video)Part 2: Highlights at FAU (Video)Part 3: Limitations of Deep Learning and Future Directions (Video)Part 4: A short course in Pattern Recognition (Video)Part 5: Exercises & Outlook (Video)

第1部分: 动机和高调应用 ( 视频 )第2部分: FAU的要点 ( 视频 )第3部分: 深度学习的局限性和未来方向 ( 视频 )第4部分: 模式识别短期课程 ( 视频 )第5部分: 练习和Outlook ( 视频 )

第2章-前馈网络 (Chapter 2 — Feedforward Networks)

Image for post
CC BY 4.0 from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

Here, we present the basics of pattern recognition, and simple feedforward networks included the concept of layer abstraction.

在这里,我们介绍了模式识别的基础,简单的前馈网络包括了层抽象的概念。

Part 1: Why do we need Deep Learning? (Video)Part 2: How can Networks actually be trained? (Video)Part 3: The Backpropagation Algorithm (Video)Part 4: Layer Abstraction (Video)

第1部分: 为什么我们需要深度学习? ( 视频 )第2部分: 如何实际训练网络? ( 视频 )第3部分: 反向传播算法 ( 视频 )第4部分: 层抽象 ( 视频 )

第三章损失与优化 (Chapter 3 — Loss & Optimization)

Image for post
CC BY 4.0from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

Some background on loss functions and the relation of deep learning to classical methods such as the Support Vector Machine (SVM).

关于损失函数以及深度学习与经典方法(例如支持向量机(SVM))的关系的一些背景。

Part 1: Classification and Regression Losses (Video)Part 2: Do SVMs beat Deep Learning? (Video)Part 3: Optimization with ADAM and beyond… (Video)

第1部分: 分类和回归损失 ( 视频 )第2部分: SVM是否击败了深度学习? ( 视频 )第3部分: 使用ADAM和其他功能进行优化… ( 视频 )

第4章-激活,卷积和池化 (Chapter 4 — Activations, Convolution & Pooling)

Image for post
CC BY 4.0 from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

In this chapter, we discuss classical activation functions, modern versions, the concept of convolutional layers as well as pooling mechanisms.

在本章中,我们讨论经典的激活函数,现代版本,卷积层的概念以及池化机制。

Part 1: Classical Activations (Video)Part 2: Modern Activations (Video)Part 3: Convolutional Layers (Video)Part 4: Pooling Mechanisms (Video)

第1部分: 经典激活 ( 视频 )第2部分: 现代激活 ( 视频 )第3部分: 卷积层 ( 视频 )第4部分: 池化机制 ( 视频 )

第五章正则化 (Chapter 5 — Regularization)

Image for post
CC BY 4.0 from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

This chapter looks into the problem of overfitting and discusses several common methods to avoid it.

本章探讨了过度拟合的问题,并讨论了避免这种情况的几种常用方法。

Part 1: The Bias-Variance Trade-off (Video)Part 2: Classical Techniques (Video)Part 3: Normalization & Dropout (Video)Part 4: Initialization & Transfer Learning (Video)Part 5: Multi-task Learning (Video)

第1部分: 偏差-偏差权衡 ( 视频 )第2部分: 经典技巧 ( 视频 )第3部分: 标准化和辍学 ( 视频 )第4部分: 初始化和转移学习 ( 视频 )第5部分: 多任务学习 ( 视频 )

第6章-常规做法 (Chapter 6 — Common Practices)

Image for post
CC BY 4.0 from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

This chapter is dedicated to common problems that you will face in practice ranging from hyperparameters to performance evaluation and significance testing.

本章专门讨论您将在实践中遇到的常见问题,从超参数到性能评估和重要性测试。

Part 1: Optimizers & Learning Rates (Video)Part 2: Hyperparameters and Ensembling (Video)Part 3: Class Imbalance (Video)Part 4: Performance Evaluation (Video)

第1部分: 优化器和学习率 ( 视频 )第2部分:超参数和集合 ( 视频 )第3部分: 类不平衡 ( 视频 )第4部分: 性能评估 ( 视频 )

第7章-体系结构 (Chapter 7 — Architectures)

Image for post
CC BY 4.0 from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

In this chapter, we present the most common and popular architectures in deep learning.

在本章中,我们介绍了深度学习中最常见和最受欢迎的架构。

Part 1: From LeNet to GoogLeNet (Video)Part 2: Deeper Architectures (Video)Part 3: Residual Networks (Video)Part 4: The Rise of the Residual Connections (Video)Part 5: Learning Architectures (Video)

第1部分: 从LeNet到GoogLeNet ( 视频 )第2部分: 更深的体系结构 ( 视频 )第3部分: 残留网络 ( 视频 )第4部分: 残留连接的兴起 ( 视频 )第5部分: 学习体系结构 ( 视频 )

第8章递归神经网络 (Chapter 8 — Recurrent Neural Networks)

Image for post
here. Image under 这里 。 CC BY 4.0 from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

Recurrent neural networks allow the processing and generation of time-dependent data.

递归神经网络允许处理和生成时间相关的数据。

Part 1: The Elman Cell (Video)Part 2: Backpropagation through Time (Video)Part 3: A Tribute to Schmidhuber — LSTMs (Video)Part 4: Gated Recurrent Units (Video)Part 5: Sequence Generation (Video)

第1部分: Elman单元 ( 视频 )第2部分: 通过时间的反向传播 ( 视频 )第3部分: 向Schmidhuber致敬-LSTM ( 视频 )第4部分: 门控循环单元 ( 视频 )第5部分: 序列生成 ( 视频 )

第9章-可视化和注意 (Chapter 9 — Visualization & Attention)

Image for post
CC BY 4.0 from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

Visualization methods are used to explore weaknesses of deep nets and to provide better ways of understanding them.

可视化方法用于探索深层网络的弱点并提供更好的理解它们的方式。

Part 1: Architecture & Training Visualization (Video)Part 2: Confounders & Adversarial Attacks (Video)Part 3: Direct Visualization Methods (Video)Part 4: Gradient and Optimisation-based Methods (Video)Part 5: Attention Mechanisms (Video)

第1部分: 体系结构和培训可视化 ( 视频 )第2部分: 混杂因素和对抗攻击 ( 视频 )第3部分: 直接可视化方法 ( 视频 )第4部分: 基于梯度和基于优化的方法 ( 视频 )第5部分: 注意机制 ( 视频 )

第十章强化学习 (Chapter 10 — Reinforcement Learning)

Image for post
Agent-based organ segmentation. Image by courtesy of Xia Zhong.基于主体的器官分割 。 图片由夏忠提供。

Reinforcement learning allows training of agent systems that can act on their own and control games and processes.

强化学习允许培训可以独立执行并控制游戏和流程的代理系统。

Part 1: Sequential Decision Making (Video)Part 2: Markov Decision Processes (Video)Part 3: Policy Iteration (Video)Part 4: Alternative Approaches (Video)Part 5: Deep Q-Learning (Video)

第1部分: 顺序决策 ( 视频 )第2部分: Markov决策过程 ( 视频 )第3部分: 策略迭代 ( 视频 )第4部分: 替代方法 ( 视频 )第5部分: 深度Q学习 ( 视频 )

第十一章—无监督学习 (Chapter 11 — Unsupervised Learning)

Image for post
CC BY 4.0 from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

Unsupervised learning does not require training data and can be used to generate new observations.

无监督学习不需要训练数据,可以用来产生新的观察结果。

Part 1: Motivation & Restricted Boltzmann Machines (Video)Part 2: Autoencoders (Video)Part 3: Generative Adversarial Networks — The Basics (Video)Part 4: Conditional & Cycle GANs (Video)Part 5: Advanced GAN Methods (Video)

第1部分: 动机和受限制的Boltzmann机器 ( 视频 )第2部分:自动编码器 ( 视频 )第3部分: 生成对抗网络-基础 ( 视频 )第4部分: 有条件和循环GAN ( 视频 )第5部分: 高级GAN方法 ( 视频 )

第十二章—分段与对象检测 (Chapter 12 — Segmentation & Object Detection)

Image for post
Detecting mitoses on a histological slice image is a classical detection task. Image courtesy of Marc Aubreville. Access full video here.
在组织切片图像上检测有丝分裂是经典的检测任务。 图片由Marc Aubreville提供。 在此处访问完整视频 。

Segmentation and Detection are common problems in which deep learning is used.

分割和检测是使用深度学习的常见问题。

Part 1: Segmentation Basics (Video)Part 2: Skip Connections & More (Video)Part 3: A Family of Regional CNNs (Video)Part 4: Single Shot Detectors (Video)Part 5: Instance Segmentation (Video)

第1部分: 分段基础知识 ( 视频 )第2部分: 跳过连接及更多内容 ( 视频 )第3部分: 区域CNN系列 ( 视频 )第4部分: 单发检测器 ( 视频 )第5部分: 实例分段 ( 视频 )

第十三章—弱者和自我监督学习 (Chaper 13 — Weakly and Self-supervised Learning)

Image for post
CC BY 4.0 from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

Weak supervision tries to minimize required label effort while self-supervision tries to get rid of labels completely.

弱监督试图最大程度地减少所需的标签工作量,而自我监督则试图完全摆脱标签问题。

Part 1: From Class to Pixels (Video)Part 2: From 2-D to 3-D Annotations (Video)Part 3: Self-Supervised Labels (Video)Part 4: Contrastive Losses (Video)

第1部分: 从类到像素 ( 视频 )第2部分: 从2D到3D注释 ( 视频 )第3部分: 自我监督的标签 ( 视频 )第4部分: 对比损失 ( 视频 )

第十四章图深度学习 (Chapter 14 — Graph Deep Learning)

Image for post
CC BY 4.0 from the 深度学习讲座中 Deep Learning Lecture.CC BY 4.0下的图像。

Graph deep learning is used to process data available in graphs and meshes.

图深度学习用于处理图和网格中可用的数据。

Part 1: Spectral Convolutions (Video)Part 2: From Spectral to Spatial Domain (Video)

第1部分: 谱卷积 ( 视频 )第2部分: 从谱域到空间域 ( 视频 )

第十五章—已知的操作员学习 (Chapter 15 — Known Operator Learning)

Image for post
Twitter. Image under 推特 CC BY 4.0CC BY 4.0下的图像

Known operators allow the insertion of prior knowledge into deep networks reducing the number of unknown parameters and improving generalization properties of deep networks.

已知的运算符允许将先验知识插入到深度网络中,从而减少未知参数的数量并改善深度网络的泛化特性。

Part 1: Don’t re-invent the Wheel (Video)Part 2: Boundaries on Learning (Video)Part 3: CT Reconstruction Revisited (Video)Part 4: Deep Design Patterns (Video)

第1部分: 不要重新发明轮子 ( 视频 )第2部分: 学习的边界 ( 视频 )第3部分:重新研究CT重建 ( 视频 )第4部分: 深层设计模式 ( 视频 )

致谢 (Acknowledgements)

Many thanks to Katharina Breininger, Weilin Fu, Tobias Würfl, Vincent Christlein, Florian Thamm, Felix Denzinger, Florin Ghesu, Yan Xia, Yixing Huang Christopher Syben, Marc Aubreville, and all our student tutors for their support in this and the last semesters, for creating these slides and corresponding exercises, teaching the class in presence and virtually, and the great team work over the last few years!

非常感谢Katharina Breininger,Weilin Fu,TobiasWürfl,Vincent Christlein,Florian Thamm,Felix Denzinger,Florin Ghesu,Yan Xia,Yixing Huang Christopher Syben,Marc Aubreville,以及我们所有的学生导师在本学期和上学期的支持,制作这些幻灯片和相应的练习,在场和虚拟授课,以及过去几年中出色的团队合作!

In case, you are not a subscriber to Medium, and have trouble accessing the material, we also host all of the blog posts on the Pattern Recognition Lab’s Website.

如果您不是Medium的订户,并且在访问材料时遇到问题,我们还将在Pattern Recognition Lab的网站上托管所有博客文章。

If you liked this post, you can find more essays here, more educational material on Machine Learning here, or have a look at our Deep Learning Lecture. I would also appreciate a follow on YouTube, Twitter, Facebook, or LinkedIn in case you want to be informed about more essays, videos, and research in the future. This article is released under the Creative Commons 4.0 Attribution License and can be reprinted and modified if referenced. If you are interested in generating transcripts from video lectures try AutoBlog.

如果你喜欢这篇文章,你可以找到这里更多的文章 ,更多的教育材料,机器学习在这里 ,或看看我们的深入 学习 讲座 。 如果您希望将来了解更多文章,视频和研究信息,也欢迎关注YouTube , Twitter , Facebook或LinkedIn 。 本文是根据知识共享4.0署名许可发布的 ,如果引用,可以重新打印和修改。 如果您对从视频讲座中生成成绩单感兴趣,请尝试使用AutoBlog 。

翻译自: https://towardsdatascience.com/all-you-want-to-know-about-deep-learning-8d68dcffc258

学习深度学习需要哪些知识

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/392071.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

html5--3.16 button元素

html5--3.16 button元素 学习要点 掌握button元素的使用button元素 用来建立一个按钮从功能上来说,与input元素建立的按钮相同button元素是双标签,其内部可以配置图片与文字,进行更复杂的样式设计不仅可以在表单中使用,还可以在其…

如何注册鸿蒙id,鸿蒙系统真机调试证书 和 设备ID获取

鸿蒙系统真机调试创建项目创建项目创建应用创建鸿蒙应用(注意,测试阶段需要发邮件申请即可)关联应用项目进入关联 添加引用准备调试使用的 p12 和证书请求 csr使用以下命令// 别名"test"可以修改,但必须前后一致,密码请自行修改key…

读zepto核心源码学习JS笔记(3)--zepto.init()

上篇已经讲解了zepto.init()的几种情况,这篇就继续记录这几种情况下的具体分析. 1. 首先是第一种情况,selector为空 既然是反向分析,那我们先看看这句话的代码; if (!selector) return zepto.Z() 这里的返回值为zepto.Z();那我们继续往上找zepto.Z()函数 zepto.Z function(dom…

置信区间估计 预测区间估计_估计,预测和预测

置信区间估计 预测区间估计Estimation implies finding the optimal parameter using historical data whereas prediction uses the data to compute the random value of the unseen data.估计意味着使用历史数据找到最佳参数,而预测则使用该数据来计算未见数据的…

鸿蒙系统还会推出吗,华为明年所有自研设备都升级鸿蒙系统,还会推出基于鸿蒙系统的新机...

不负期许,华为鸿蒙OS手机版如期而至。今日(12月15日),鸿蒙OS 2.0手机开发者Beta版本正式上线,支持运行安卓应用,P40、Mate 30系列可申请公测。国内媒体报道称,华为消费者业务软件部副总裁杨海松表示,按照目…

C#中将DLL文件打包到EXE文件

1:在工程目录增加dll目录,然后将dll文件复制到此目录,例如: 2:增加引用,定位到工程的dll目录,选中要增加的dll文件 3:修改dll文件夹下面的dll文件属性 选中嵌入式资源,不…

Oracle VM Virtual Box的安装

安装Oracle VM Virtual Box安装扩展插件 选择"管理""全局设定" 在设置对话框中,选择"扩展" 选择"添加包" 找到"Oracle_VM_VirtualBox_Extension_Pack-4.1.18-78361",点击"打开" 5&#x…

python 移动平均线_Python中的SMA(短期移动平均线)

python 移动平均线With the evolution of technology rapidly evolving, so do strategies in the stock market. In this post, I’ll go over how I created a SMA(Short Moving Average) strategy.随着技术的飞速发展,股票市场的策略也在不断发展。 在本文中&…

angular中的href=unsafe:我该怎么摆脱你的溺爱!!

解决方法:angular.module加入下面这行:(依据Angular changes urls to “unsafe:” in extension page) .config(function($compileProvider){//注:有些版本的angularjs为$compileProvider.urlSanitizationWhitelist(/^\s*(https?…

android view gesturedetector,如何在Android中利用 GestureDetector进行手势检测

如何在Android中利用 GestureDetector进行手势检测发布时间:2020-11-26 16:15:21来源:亿速云阅读:92作者:Leah今天就跟大家聊聊有关如何在Android中利用 GestureDetector进行手势检测,可能很多人都不太了解&#xff0c…

Java系列笔记(4) - JVM监控与调优【转】

Java系列笔记(4) - JVM监控与调优【转】 目录 参数设置收集器搭配启动内存分配监控工具和方法调优方法调优实例 光说不练假把式,学习Java GC机制的目的是为了实用,也就是为了在JVM出现问题时分析原因并解决之。通过学习,我觉得JVM监控与调…

地图 c-suite_C-Suite的模型

地图 c-suiteWe’ve all seen a great picture capture an audience of stakeholders.我们所有人都看到了吸引利益相关者听众的美好画面。 Let’s just all notice that the lady in the front right is not captivated by the image on the board (Photo by Christina wocin…

动态链接库.so和静态链接库.a的区别

静态链接库: •扩展名:.a  •编译行为:在编译的时候,将函数库直接整合到执行程序中(所以利用静态库编译生成的文档会更大) •独立执行的状态:编译成功的可执行文件可以独立运行,不…

华为鸿蒙系统封闭,谷歌正式“除名”华为!“亲儿子”荣耀表示:暂不考虑,鸿蒙OS处境尴尬...

我们都知道,目前智能手机最常用操作系统就是IOS和安卓,占据手机系统超过99%的市场份额。由于IOS系统的封闭性,国内手机厂商基本上都是使用谷歌的开源安卓系统。当然华为也不例外,一直使用的都是安卓系统。可以说,安卓系…

使用vue-cli脚手架搭建简单项目框架

1.首先已经安装了node,最好版本6以上。 2.安装淘宝镜像 大家都知道国内直接使用 npm 的官方镜像是非常慢的,这里推荐使用淘宝 NPM 镜像。这样就可以直接使用cnpm了。 npm install -g cnpm --registryhttps://registry.npm.taobao.org如果过程出差,是否安…

sap中泰国有预扣税设置吗_泰国餐厅密度细分:带有K-means聚类的python

sap中泰国有预扣税设置吗Hi! I am Tung, and this is my first stories for my weekend project. What inspired this project is that I have studied to become data scientist for almost two years now mostly from Youtube, coding sites and of course, Medium ,but my l…

Java—简单的注册页面

根据所提供的界面&#xff0c;编写 register.html 文件 源代码 empty.jsp <% page contentType"text/html;charsetUTF-8" language"java" %> <html> <head><title>error</title> </head> <body> <H1><…

【深度学习系列】用PaddlePaddle和Tensorflow实现经典CNN网络AlexNet

上周我们用PaddlePaddle和Tensorflow实现了图像分类&#xff0c;分别用自己手写的一个简单的CNN网络simple_cnn和LeNet-5的CNN网络识别cifar-10数据集。在上周的实验表现中&#xff0c;经过200次迭代后的LeNet-5的准确率为60%左右&#xff0c;这个结果差强人意&#xff0c;毕竟…

图片获取像素坐标html,HTML5画布Canvas图片抽取、像素信息获取、命中检测

今天主要介绍canvas中比较强大的功能比如将画布内容抽取为图片获取、修改画布的像素信息以及画布的命中检测首先我仍然需要创建画布图片抽取首先要明确的一点是toDataURL()是canvas对象自身的方法而不是环境对象的这个方法会将canvas的内容抽取为一张图片(base64编码)我们来看一…

CentOS6 下Samba服务器的安装与配置

原地址&#xff1a;http://www.cnblogs.com/mchina/archive/2012/12/18/2816717.html 一、简介 Samba是一个能让Linux系统应用Microsoft网络通讯协议的软件&#xff0c;而SMB是Server Message Block的缩写&#xff0c;即为服务器消息块 &#xff0c;SMB主要是作为Microsoft的网…