1. 深度学习
1.1学习算法
1.2基本术语和概念
1.3机器学习分类常用算法
1.3.1线性回归
1.3.2逻辑回归
1.3.3决策树
1.3.4朴素贝叶斯
1.3.5支持向量机SVM
1.3.6K-最近临邻KNN
还有K-均值(k-means)、随机森林、降维、人工神经网络等
1.4超参数和验证集
1.4.1参数估计
1.4.1.1最大似然估计
1.4.1.2贝叶斯估计
2. 深度学习概览
2.1神经网络定义与发展
2.1.1感知器及其训练法则
2.1.1.1感知器
2.1.1.2感知器的训练法则
2.1.1.3梯度下降与损失函数
2.1.1.3.1损失函数的极值
2.1.1.3.2线性单元全局梯度下降算法
2.1.1.3.3随机梯度下降算法和在线学习
2.1.1.3.4Mini-Batch梯度下降
2.1.2激活函数
2.1.2.1 Sigmoid函数
2.1.2.2 tanh函数
2.1.2.3 Softsign函数
2.1.2.4 ReLU函数
2.1.2.5 Softplus函数
2.1.2.6 激活函数设计需考虑的因素
2.2神经网络的种类
2.2.1多层全连接人工神经网络
2.2.2前馈神经网络
2.2.3反向传播算法
2.2.4卷积神经网络
2.2.5循环神经网络
2.3深度学习中的正则化
2.3.1参数惩罚
2.3.2数据集合扩充
2.4优化器
2.4.1动量优化器
2.4.2Adam优化器
3.深度学习的应用
3.1计算机视觉
3.2图像分类
3.3场景识别
3.4人脸检测与人脸识别
3.5物体检测与识别
3.6语义分割
3.7风格化
3.8超分辨率
3.9OCR
3.10自然语言处理
3.11知识挖掘
3.12机器翻译
3.13情感分析
3.14语音识别
3.15推荐系统