问题预览/关键词
- 什么是逻辑回归?
- 什么是二分类问题?
- 二分类问题案例
- 如何表达二分类的结果?逻辑回归通常用哪种表达形式?
- 什么是正样本和负样本?
- 什么是阈值?
- 可视化线性回归解决二分类
- 线性回归面对二分类产生的问题
- 存储分类数据集
- 分类数据集的散点图
- 线性回归演示分类
笔记
1.逻辑回归
用于预测一个事件的发生概率,通过应用sigmoid函数将线性回归(w*x+b)结果转换为概率输出,常用于二分类问题。
2.二分类问题
结果只有两种可能(分类),将预测的结果分为两种结果的一种。
3.二分类问题案例
邮件是否为垃圾?金融交易是否为欺诈?肿瘤是恶性还是良性?
4.二分类问题的结果表达
是或否,假或真,0或1,逻辑回归通常选择0或1表示预测结果y。
5.正样本和负样本
也是一结果种表达方式,更加术语化。在判定是否为垃圾邮件时,正常邮件为负样本,垃圾邮件为正样本。正负是相对于判定的事件而言,不代表好坏。
6.阈值:
一个数值,通常选择0.5,预测值小于0.5,结果属于0,预测值大于等于0.5,还结果属于1。
7.线性回归解决二分类问题
预测值小于0.5,预测即为良性,预测值大于等于0.5,预测即为恶性。
8.线性回归面对二分类的问题
如果新增一个训练样本,首先改变了分类方式(重新画条绿线),其次改变了我们之前预测的结论(阈值为0.5,小于0.5为良性,而此时两个小于0.5的数据点是恶性的)。
9.分类问题数据集的存储
y通常是0或1。
10.数据集散点图
- 只有一个特征和y的分布,注意y的范围在0-1,如果是线性回归问题,y的范围不止0-1。
- 两个特征与y之间的分布。-
11.线性回归演示分类
- 使用线性回归对x_train和y_train分类,阈值选择0.5,模型可以很好的区分恶性和良性,此时y=0.24x+(-0.10)。
- 如果增加数据,则线性回归模型的预测就会出错。
总结
面对二分类问题,如果使用线性回归解决,在阈值选对的情况下,可能有效果。但如果二分类的数据集较为复杂,则线性回归的预测就会出现偏差,此时应该使用逻辑回归解决二分类。我们不会直接靠预测结果分类,而是设置一个阈值,然后将预测结果和阈值比较,进而将预测结果分类。本节课程演示的全是一个特征的分类,吴恩达教授只是想通过简单的例子,让大家看到线性回归用于解决分类问题的局限性。