第一章 绪论
1.1 引言(P1)
1.2 基本术语(P2)
1.3 假设空间(P4)
1.4 归纳偏好(P6)
1.5 发展历程(P10)
1.6 应用现状(P13)
1.7 阅读材料(P16)
第二章 模型评估与选择
2.1 经验误差与过拟合(P23)
2.2 评估方法(P24)
2.2.1 留出法
2.2.2 交叉验证法
2.2.3 自助法
2.3 性能度量
2.3.1 错误率与精度(P29)
2.3.2 查准率、查全率与F1
2.3.3 ROC与AUC(P33)
2.3.4 代价敏感错误率与代价曲线
2.4 比较检验
2.4.1 假设检验(P37)
2.4.2 交叉验证t检验(P40)
2.4.3 McNemar检验(P41)
2.4.4 Friedman检验与Nemenyi后续检验(P42)
2.5偏差与方差(P44)
2.6阅读材料(P46)
第三章 线性模型
3.1 基本形式(P53)
3.2 线性回归
3.3 对数几率回归(P57)
3.4 线性判别分析(P60)
3.5 多分类学习(P63)
3.6 类别不平衡问题(P66)
3.7 阅读材料(P67)
第四章 决策树
4.1 基本流程(P73)
4.2 划分选择(P75)
4.2.1 信息增益
4.2.2 增益率(P77)
4.2.3 基尼指数(P79)
4.3 剪枝处理
4.3.1 预剪枝(P79)
4.3.2 后剪枝(P82)
4.4 连续与缺失值
4.4.1 连续值处理(P83)
4.4.2 缺失值处理(P85)
4.5 多变量决策树(P88)
4.6 阅读材料(P92)
第五章 神经网络
5.1神经元模型(P97)
5.2 感知机与多层网络(P98)
5.3 误差逆传播算法(P101)
5.4 全局最小与局部极小(P106)
5.5 其他常见神经网络(P108)
5.5.1 RBF网络
5.5.2 ART(网络)
5.5.3 SOM网络(P109)
5.5.4 级联相关网络(P110)
5.5.5 Elman网络
5.5.6 Boltzmann机(P111)
5.6 深度学习(P113)
5.7 阅读材料(P115)
第六章 支持向量机
6.1 间隔与支持向量(P121)
6.2 对偶问题(P123)
6.3 核函数(P126)
6.4 软间隔与正则化(P129)
6.5 支持向量回归(P133)
6.6 核方法(P137)
6.7 阅读材料(P139)
第七章 贝叶斯分类器
7.1 贝叶斯决策论(P147)
7.2 极大似然估计(P149)
7.3 朴素贝叶斯分类器(P150)
7.4 半朴素贝叶斯分类器(P154)
7.5 贝叶斯网(P156)
7.5.1 结构(P157)
7.5.2 学习(P159)
7.5.3 推断(P161)
7.6 EM算法(P162)
7.7 阅读材料(P164)
第八章 集成学习
8.1 个体与集成(P171)
8.2 Boosting(P173)
8.3 Bagging与随机森林(P178)
8.3.1 Bagging
8.3.2 随机森林(P179)
8.4 结合策略(P181)
8.4.1 平均法
8.4.2 投票法(P182)
8.4.3 学习法
8.5 多样性
8.5.1 误差-分歧分解(P185)
8.5.2 多样性度量(P186)
8.5.3 多样性增强(P188)
8.6 阅读材料(P190)
第九章 聚类
9.1 聚类任务(P197)
9.2 性能度量
9.3 距离计算(P199)
9.4 原型聚类(P202)
9.4.1 k均值算法
9.4.2 学习向量量化(P204)
9.4.3 高斯混合聚类(P206)
9.5 密度聚类(P211)
9.6 层次聚类(P214)
9.7 阅读材料(P217)
第十章 降维与量度学习
10.1 k近邻学习(P225)
10.2 低维嵌入(P226)
10.3 主成分分析(P229)
10.4核化线性降维(P232)
10.5 流形学习(P234)
10.5.1 等度量映射(P234)
10.5.2 局部线性嵌入(P235)
10.6 度量学习(P237)
第十一章 特征选择与稀疏学习
11.1 子集搜索与评价(P257)
11.2 过滤式选择(P249)
11.3 包裹式选择(P250)
11.4 嵌入式选择与L1正则化(P252)
11.5 稀疏表示与字典学习(P254)
11.6 压缩预知(P257)
11.7 阅读材料(P260)
第十二章 计算学习理论
12.1 基础知识(P267)
12.2 PAC学习(P268)
12.3 有限假设空间
12.3.1 可分情形(P270)
12.3.2 不可分情形(P272)
12.4 VC维(P273)
12.5 Rademacher复杂度(P279)
12.6 稳定性(P284)
12.7 阅读材料(P287)
第十三章 半监督学习
13.1 未标记样本(P293)
13.2 生成式方法(P295)
13.3 半监督SVM(P298)
13.4 图半监督学习(P300)
13.5 基于分歧的方法(P304)
13.6 半监督聚类(P307)
13.7 阅读材料(P311)
第十四章 概率图模型
14.1 隐马尔可夫模型(P320)
14.2 马尔可夫随机场(P322)
14.3 条件随机场(P325)
14.4 学习与推断
14.4.1 变量消去(P328)
14.4.2 信念传播(P330)
14.5 近似推断
14.5.1 MCMC采样(P331)
14.5.2 变分推断(P334)
14.6 话题模型(P337)
14.7 阅读材料(P339)
第十五章 规则学习
15.1 基本概念(P347)
15.2 序贯覆盖(P349)
15.3 剪枝优化(P352)
15.4 一阶规则学习(P354)
15.5 归纳逻辑程序设计(P357)
15.5.1 最小一般泛化(P358)
15.5.2 逆归结(P359)
15.6 阅读材料(P363)
第十六章 强化学习
16.1 任务与奖赏(P372)
16.2 K-摇臂赌博机
16.2.1 探索与利用(P373)
16.2.2 ε-贪心(P374)
16.2.3 Softmax(P375)
16.3 有模型学习
16.3.1 策略评估(P377)
16.3.2 策略改进(P379)
16.3.3 策略迭代与值迭代(P381)
16.4 免模型学习(P382)
16.4.1 蒙特卡罗强化学习(P383)
16.4.2 时序差分学习(P386)
16.5 值函数近似(P388)
16.6 模仿学习(P390)
16.6.1 逆强化学习(P391)
16.7 阅读材料(P393)
