学习的过程短期目标是丰富己身，长远来看有的人为了就业财富自由；有的则为了创造一些有意义的事物，更多的是为了前者。
此文章用于记录和总结深度学习相关算法岗的各种面试问题，搜集答案并加入博主一些浅显的理解,欢迎评论区纠正、补充。
一、经典网络架构篇
1.介绍Transformer
2.什么是Self-attention
注意力是很稀缺的，万物将注意力聚集在所获得信息的一部分上（通过感官获得的信息很多，将有限的注意力集中在少部分有用的信息上有利于资源分配而进行各种生命活动）。
注意力提示有自主性和非自住性提示。非自主性提示是基于环境中物体的突出性和易见性：如黑白色物体中一个鲜艳颜色的物体；在喝完咖啡后注意力在意志的推动下注意力聚集在黑白色书本上，这就是属于自主性提示的辅助。
在注意力机制的背景下，自主性提示被称为查询（query）。 给定任何查询，注意力机制通过注意力汇聚（attention pooling） 将选择引导至感官输入（sensory inputs，例如中间特征表示）。 在注意力机制中，这些感官输入被称为值（value）。 更通俗的解释，每个值都与一个键（key）配对， 这可以想象为感官输入的非自主提示。 如 :numref:fig_qkv所示，可以通过设计注意力汇聚的方式， 便于给定的查询（自主性提示）与键（非自主性提示）进行匹配， 这将引导得出最匹配的值（感官输入）
查询（自主提示）和键（非自主提示）之间的交互形成了注意力汇聚； 注意力汇聚有选择地聚合了值（感官输入）以生成最终的输出
3.介绍Bert
二、通用的深度学习网络层
1.BatchNormlization和LayerNormlization的区别
二者的相同处是都是根据特征的分布对样本特征进行标准正态
化的一个过程，但是不同的是标准正态化过程中的均值和方差两个参数的计算目标不同：
BN的均值和方差是对于处于一个批次的所有特征的对应角标计算；LN则是对于同一个特征的所有特征进行计算。
)
