国科大深度学习期末历年试卷

本文借鉴
国科大深度学习复习
深度学习期末

深度学习2020

一．名词解释（每个2分，共10分）

深度学习，稀疏自编码器，正则化，集成学习，Dropout

二．简答题（每题5分，共30分）

1．请简述你对误差反向传播算法的理解。
2．请列出卷积神经网络的主要结构模块，以及各个模块完成的功能。
3．请简述你对LSTM的理解，并解释为什么它能够解决长时依赖问题。
4．请简述深度学习中常见的避免过拟合的方法。
5．请简述你对生成对抗网络的理解，并简述其训练过程。
6．请简述你对胶囊网络的理解。

三．计算题（每题10分，共20分）

1．请使用卷积神经网络中的Full卷积、Same卷积和Valid卷积分别计算下图所示输入矩阵和卷积核对应的特征图，卷积步长为1，激活函数采用ReLU。

在这里插入图片描述

2．多分类任务中，某个样本的期望输出为（0，0，0，1），两个模型A和B都采用交叉熵作为损失函数，针对该样本的实际输出分别为（In20，In40，In60，In80）、（In10，In30，ln50，In90），采用Softmax 函数对输出进行归一化并计算两个模型的交叉熵，说明哪个模型更好。提示：lg2≈0.301，lg3≈0.477。

四．设计题（每题20分，共40分）

1．请给出对大量图像进行目标检测的设计方案，要求有自己的新思路和新观点。
2．请给出机器阅读理解模型的设计方案，要求有自己的新思路和新观点。

深度学习2021

一.名词解释（每个2分，共10分）

卷积神经网络，循环神经网络，奇异值外解，交叉熵，深度信念网络

二、简答题（每题5分，共30分）

1. 请简述反向传播算法的思想，并用图和公式说明其过程。
2. 什么是过拟合和欠拟合？如何解决这两种问题？
3. 请简述 Yolo 算法的主要思想和实现过程。
4. 请简述GRU网络的主要思想，并用图和公式表达其计算过程.
5. 请简述胶囊网络的主要思想，并用图和公式表达其计算过程。
6. 请简述生成对抗网络的主要原理，并用公式表达其目标函数.

三，计算题（每题10分，共20分）

1， 请使用卷积神经网络中的Full卷积、Same卷积和Valid卷积分别计算下图所示输入矩阵和卷积核对应的特征图，卷积步长为1，激活函数采用ReLU.

在这里插入图片描述

2. 二分类任务中，样本（5个）的期望输出（类标签）如下图左侧矩阵所示，对应的实际输出下图右侧矩阵所示，模型采用交叉熵作为损失函数，计算：

在这里插入图片描述

（1） 模型的交叉熵损失；
（2） 模型的焦点损失（Focal loss），其中y= 2， a = 0.4.

提示：Ig2≈0.301，Ig3≈0.477.

四．设计题（每题20分，共40分）

1．请给出姿态估计模型的设计方案，要求有自己的新思路和新观点。
import tensorflow as tfinput_x = tf.constant([[[[5, 6, 0, 1, 8, 2],[0, 9, 8, 4, 6, 5],[2, 6, 5, 3, 8, 4],[6, 3, 4, 9, 1, 0],[7, 5, 9, 1, 6, 7],[2, 5, 9, 2, 3, 7]]]])
filters = tf.constant([[[[0, -1, 1], [1, 0, 0], [0, -1, 1]]]
])input_x=tf.reshape(input_x,(1,6,6,1))
filters=tf.reshape(filters,[3,3,1,1])res = tf.nn.conv2d(input_x, filters, strides=1, padding='VALID')
print('Valid 无激活函数下的输出',res)
res=tf.squeeze(res)
print('Valid 条件下可视化的输出：',res)# print('Valid 激活函数下输出',tf.nn.relu(res))
print('Valid 激活函数下可视化输出：',tf.squeeze(tf.nn.relu(res)))
#在full卷积下，TF中没有这个参数，可以手动加0实现
input_x = tf.constant([[[[0,0,0,0,0,0,0,0],[0,5,6,0,1,8,2,0],[0,2,5,7,2,3,7,0],[0,0,7,2,4,5,6,0],[0,5,3,6,9,3,1,0],[0,6,5,3,1,4,6,0],[0,5,2,4,0,8,7,0],[0,0,0,0,0,0,0,0]
]]])
input_x=tf.reshape(input_x,(1,8,8,1))res = tf.nn.conv2d(input_x, filters, strides=1,padding='SAME')
print('Full（加0）未使用激活之前的输出',res)print('Full(加0）未使用激活函数之前的可视化输出，',tf.squeeze(res))out = tf.nn.relu(res)
print('Full 激活的输出',out)
print('Full 激活之后的可视化输出，',tf.squeeze(out))
2．请给出图像描述模型的设计方案，要求有自己的新思路和新观点。
import torch
import torch.nn as nncriterion = nn.BCELoss()#默认是求均值，数据需要是浮点型数据
pre=torch.tensor([0.1,0.2,0.3,0.4]).float()
tar=torch.tensor([0,0,0,1]).float()
l=criterion(pre,tar)
print('二分类交叉熵损失函数计算（均值）',l)pre=torch.tensor([0.2,0.8,0.4,0.1,0.9]).float()
tar=torch.tensor([0,1,0,0,1]).float()pre=torch.tensor([0.1,0.2,0.3,0.4]).float()
tar=torch.tensor([0,0,0,1]).float()
criterion = nn.BCELoss(reduction="sum")#求和
l=criterion(pre,tar)
print('二分类交叉熵损失函数计算（求和）',l)loss=nn.BCELoss(reduction="none")#reduction="none"得到的是loss向量#对每一个样本求损失
l=loss(pre,tar)
print('每个样本对应的loss',l)
criterion2=nn.CrossEntropyLoss()
import numpy as np
pre1=torch.tensor([np.log(20),np.log(40),np.log(60),np.log(80)]).float()
# soft=nn.Softmax(dim=0)
# pre=soft(pre).float()#bs*label_nums
pre1=pre1.reshape(1,4)
tar=torch.tensor([3])
loss2=criterion2(pre1,tar)
print('多分类交叉熵损失函数pre1条件下',loss2)pre2=torch.tensor([np.log(10),np.log(30),np.log(50),np.log(90)]).float()
pre2=pre2.reshape(1,4)
tar=torch.tensor([3])
loss2=criterion2(pre2,tar)
print('多分类交叉熵损失函数pre2条件下',loss2)

深度学习2022

一．名词解释（每个2分，共10分）

深度学习，相对熵，欠拟合，深度森林，降噪自编码器

二．简答题（每题5分，共20分）

1．请简述Dropout的实现方式，并阐述你理解的它对于解决过拟合问题的原因。
2．请简述你对Batch Normalization的理解，并说明其在训练和测试阶段如何实现？
3．请简述你对生成对抗网络的理解，并简述其训练过程。
4．请简述你对残差网络的理解，并解释为什么它能够解决梯度消失问题。

三．计算题（每题15分，共30分）

1．如下图卷积神经网络所示：卷积层C1为3x3大小的卷积核，卷积层深度为5，Stride＝1，卷积层C2为5x5大小的卷积核，卷积层深度为2，stride＝1，卷积方式均为Valid卷积；池化层P1为2x2大小的均值池化，stride＝2；输出层是10x1的向量；请计算输出特征图F1、F2和F3的大小（宽x高x通道数），特征图F3的感受野大小，并分别计算卷积层和全连接层的参数量（其中卷积和全连接操作均不考虑偏置参数，提示：注意卷积层深度的概念）。

在这里插入图片描述

2．根据表格中的数据使用ID3算法构建决策树，预测西瓜好坏，给出每步的计算过程（信息熵计算以2为底数）。

在这里插入图片描述

在这里插入图片描述

四．设计题（每题20分，共40分）

1．请给出图像描述的设计方案，要求有自己的新思路和新观点。
2．请给出视频超分辨率模型的设计方案，要求有自己的新思路和新观点。

深度学习2023

一．名词解释（每个2分，共10分）

深度信念网络，胶囊网络，深度可分离卷积，目标检测，焦点损失（Focal loss）

二．简答题（每题5分，共30分）

请写出对矩阵Amxn（m≠n）进行奇异值分解的过程。请图示说明卷积神经网络的主要组成部分及其功能。请给出GRU的主要思想，并用图和公式说明。请简述神经网络模型中Dropout正则化方法的主要思想并图示说明。请简述随机梯度下降法的基本思想并图示说明。请简述Transformer的主要思想，并用图和公式说明。

三．计算题（20分）

1.（12分）如下图所示，请计算输入矩阵输入卷积层之后得到的特征图，分别使用Same和Valid卷积，卷积步长为1，激活函数为ReLU。
在这里插入图片描述

2.（8分）有一个5分类任务，输入一个样例后，得到输出logits＝［0.01，—0.01，—0.05，0.02，0.1］，请计算其SoftMax分类概率；如其one—hot标签label＝［0，0，0，0，1］，请计算其交叉熵损失。（可使用电脑上或手机在这里插入图片描述
上的计算器，结果保留小数点后4位）
四．设计题（每题20分，共40分）

1．请给出图像分割的设计方案，写出代码并注释，要求有自己的新思路和新观点。
2．请给出神经机器翻译的设计方案，写出代码并注释，要求有自己的新思路和新观点。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/web/8595.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

设置默认表空间和重命名

设置默认表空间和重命名

目录 设置默认表空间 创建的临时表空间 tspace4 修改为默认临时表空间 创建的永久性表空间 tspace3 修改为默认永久表空间 重命名表空间 将表空间 tspace3 修改为 tspace3_1 Oracle从入门到总裁:​​​​​​https://blog.csdn.net/weixin_67859959/article/details/13520…
阅读更多...
万字长文详解Typora＋PicGo+Github/Gitee的配置教程

万字长文详解Typora＋PicGo+Github/Gitee的配置教程

文章目录 1.前言1.1 Typora简介1.2 引入1.2.1 移动本地图片位置导致图片加载失败问题解决方案反思： 1.2.2 CSDN导入图片转存失败1.2.3 思考 1.3 图床工具1.4 使用原因1.5 总结 2.安装教程2.1 Typora安装教程2.1.1 下载安装包方式1：百度网盘方式2&#xf…
阅读更多...
FPGA ov5640视频以太网传输

FPGA ov5640视频以太网传输

1 实验任务 使用DFZU4EV MPSoC 开发板及双目OV5640摄像头其中一个摄像头实现图像采集，并通过开发板上的以太网接口发送给上位机实时显示。 2 Verilog代码 2.1 顶层模块 timescale 1ns / 1ps //以太网传输视频顶层模块module ov5640_udp_pc (input sys_cl…
阅读更多...
[C++初阶]string的几道oj题

[C++初阶]string的几道oj题

1.LCR 192. 把字符串转换成整数 (atoi) 这题难度不大,我这里采取遍历跳过空格的方式，我先展示出我的代码,然后慢慢讲解: class Solution { public:int myAtoi(string str) {if (str.empty()) return 0;int lengthstr.size();int i0;int symbol1;int sum0;while(i&l…
阅读更多...
春游江淮 请来池州|一起看看石台这条“天路”有多美

春游江淮 请来池州|一起看看石台这条“天路”有多美

自驾石台天路 石台天路位于安徽省石台县,西起杜村蓬莱仙洞,东起七都镇,全程约65公里,其中核心路段海拔均在650米以上,最高处海拔坐标位置901米,自驾其中,一路穿越山乡秘境,丛林、山脉、古村、古桥、流水、人家……扑面而来。 沿着蜿蜒的山路前行,一路上的风景如诗如画,青山如黛…
阅读更多...
IT项目管理 选择/判断 【太原理工大学】

IT项目管理 选择/判断 【太原理工大学】

第一章、IT项目管理 判断题 1、搬家属于项目。（ 对 ） 2、项目是为了创造一个唯一的产品或提供一个唯一的服务而进行的永久性的努力。（ 错 ） 3、项目具有临时性的特征。（ 对 ） 4、项目开发过程…
阅读更多...
你的计算机配置似乎是正确的,但该设备或资源DNS没有响应

你的计算机配置似乎是正确的,但该设备或资源DNS没有响应

方法/步骤 方法一： 快捷键“winr”,输入services.msc，进入服务界面，找到dnsclient，确保是运行状态，如果没有运行，则选中该条目，右键选择运行。 电脑提示“您的计算机配置似乎是正确”&#xf…
阅读更多...
长难句打卡5.6

长难句打卡5.6

For H&M to offer a $5.95 knit miniskirt in all its 2,300-plus stores around the world, it must rely on low-wage overseas labor, order in volumes that strain natural resources, and use massive amounts of harmful chemicals. 翻译:H&M若要在其全球总共2…
阅读更多...
.Net MAUI 搭建Android 开发环境

.Net MAUI 搭建Android 开发环境

一、 安装最新版本 VS 2022 安装时候选择上 .Net MAUI 跨平台开发 二、安装成功后，创建 .Net MAUI 应用 三、使用 VS 自带的 Android SDK 下载 ，Android镜像、编译工具、加速工具 四、使用Vs 自带的 Android Avd 创建虚拟机 五、使用 Android 手机真机调试
阅读更多...
【软考高项】三十五、资源管理基础内容

【软考高项】三十五、资源管理基础内容

一、管理基础 项目资源管理包括识别、获取和管理所需资源以成功完成项目的各个过程，包括实物资源和团队资源。项目资源管理是为了降低项目成本，而对项目所需的人力、材料、机械、技术、资金等资源所进行的计划、组织、指挥、协调和控制等的活动。项目团…
阅读更多...
Milvus Cloud 的RAG 的广泛应用及其独特优势

Milvus Cloud 的RAG 的广泛应用及其独特优势

一个典型的 RAG 框架可以分为检索器（Retriever）和生成器（Generator）两块，检索过程包括为数据（如 Documents）做切分、嵌入向量（Embedding）、并构建索引（Chunks Vectors），再通过向量检索以召回相关结果，而生成过程则是利用基于检索结果（Context）增强的 Prompt 来激…
阅读更多...
Web API之DOM

Web API之DOM

DOM 一.认识DOM二.获取元素三.事件基础四.操作元素(1).改变元素内容(2).修改元素属性(str、herf、id、alt、title）(3).修改表单属性(4).修改样式属性操作(5).小结 五.一些思想(1).排他思想(2).自定义属性的操作 六.节点操作1.认识2.节点层级关系3.创建和添加、删除、…
阅读更多...
leetcode91.解码方法（动态规划）

leetcode91.解码方法（动态规划）

问题描述： 一条包含字母 A-Z 的消息通过以下映射进行了 编码 ： A -> "1" B -> "2" ... Z -> "26" 要 解码 已编码的消息，所有数字必须基于上述映射的方法，反向映射回字母（可…
阅读更多...
HFSS学习-day2-T形波导的优化设计

HFSS学习-day2-T形波导的优化设计

入门实例–T形波导的内场分析和优化设计 HFSS--此实例优化设计 优化设计要求1. 定义输出变量Power31、Power21、和Power11，表示Port3、Port2、Port1的输出功率2.参数扫描分析添加扫描变量和输出变量进行一个小设置添加输出变量进行扫描分析 3. 优化设计&#xff0c…
阅读更多...
卸载系统自带APP

卸载系统自带APP

Firefly RK3588 android 12自动多个系统软件，无法从UI界面进行手动删除。因此，考虑使用shell指令进行处理。 系统自动APP大多都安装在system/app目录下，且该目录多为只读。因此采用如下步骤， //Shell su adb shell su //重新挂载…
阅读更多...
【Linux】线程的内核级理解详谈页表以及虚拟地址到物理地址之间的转化

【Linux】线程的内核级理解详谈页表以及虚拟地址到物理地址之间的转化

一、线程的概念 对于进程来说，进程创建时间和空间成本较高，因为进程是承担分配系统资源的基本实体，所以线程的出现就成为了必然。Linux线程与进程非常相似，Linux设计者在设计之初觉得如果再为线程设计数据结构和调度算法就会使整个…
阅读更多...
增量同步笔记

增量同步笔记

2.2.2.增量同步 全量同步需要先做RDB，然后将RDB文件通过网络传输个slave，成本太高了。因此除了第一次做全量同步，其它大多数时候slave与master都是做增量同步。 什么是增量同步？就是只更新slave与master存在差异的部分数据。如图…
阅读更多...
kubeflow简单记录

kubeflow简单记录

kubeflow 13.7k star 1、Training Operator 包括PytorchJob和XGboostJob，支持部署pytorch的分布式训练 2、KFServing快捷的部署推理服务 3、Jupyter Notebook 基于Web的交互式工具 4、Katib做超参数优化 5、Pipeline 基于Argo Workflow提供机器学习流程的创建、编排…
阅读更多...
JAVA系列 小白入门参考资料 接口

JAVA系列 小白入门参考资料 接口

目录 接口 接口的概念 语法 接口使用 接口实现用例 接口特性 实现多个接口和实现用例 接口间的继承 接口 接口的概念 在现实生活中，接口的例子比比皆是，比如：笔记本上的 USB 口，电源插座等。 电脑的 USB 口上&am…
阅读更多...
【C语言】字符函数和字符串函数--超详解

【C语言】字符函数和字符串函数--超详解

前言： 在编程的过程中，我们经常要处理字符和字符串，为了⽅便操作字符和字符串，C语⾔标准库中提供了 ⼀系列库函数，接下来我们就学习⼀下这些函数。 1. 字符分类函数 C语⾔中有⼀系列的函数是专⻔做字符分类的&#…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023