如何判断模型是一个好模型?
- 模型预测效果,也就是模型预测的准确率
- 运算速度;能够处理大量数据、短时间内急速学习、可以实时进行预测,是机器学习的重要优势;
- 可解释性;深度学习已经不太关系这一点了,但是在机器学习中依然注重可解释性;
- 服务于业务;要有商业价值。
框架是什么?框架(framework)和库(library)有什么区别?
框架就是封装程度更高的库,PyTorch可以说成是构建深度学习算法的Python库。
一个神经网络算法的结果如何才能优秀?
如果机器学习中,我们是通过模型选择、调整参数、特征工程等事项来提升算法的效果,那在神经网络中,我们能做的其实只有两件事:
1)加大数据规模
2)调整神经网络的架构,也就是调整网络上的神经元个数、网络层数、信息在网络之间的传达方式。
PyTorch中的模块主要分为两大类
- 原生Torch库下,用于构建灵活神经网络的模块;
- 成熟AI领域中,用以辅助具体行业应用的模块;
在机器学习中,我们默认所有的一维向量都是列向量。
在所有神经网络中,输入层永远只有一层,且每个神经元上只能承载一个特征(一个x)或一个常量(通常都是1)。
单层神经网络
从直观来看,线性回归的网络结构明明有两层,为什么线性回归被叫做“单层神经网络”呢?
业内通识是,在描述神经网络的层数的时候,我们不考虑输入层。
输入层是每个神经网络都必须存在的一层,当使用相同的输入数据时,任意两个网络之间的不同指出就在输入层之后的所有层。所以,我们把输入层之后只有一层的神经网络称为单层神经网络。
二分类神经网络:逻辑回归
二分类神经网络可以看作逻辑回归的一种形式。逻辑回归是一种广义的线性回归分析模型,通过逻辑函数将结果映射到[0,1]之间,从而完成二分类任务。这种和使用sigmoid函数作为激活函数的二分类神经网络,是同一种形式。
s(x)=1/(1+exp(-x)),s值代表了样本为某一类标签的概率。
逻辑回归与线性回归的唯一区别就是在线性回归的结果之后套上了sigmoid函数。
多分类神经网络:Softmax回归
在多分类中,神经元的个数与标签类别的个数是一致的,样本的预测标签就是所有输出的σ1、σ2、σ3概率中最大概率对应的标签类别。
softmax只能对单一维度进行计算,它只能够识别单一维度上的不同类别