在学习的过程中，不管是上代码还是理论学习，其中都掺杂了一些数学知识。俗话说“磨刀不误砍柴工”，而我已经“误了砍柴功”了，现在变成了“亡羊补牢，为时不晚”。
线性代数
线性代数是数学的一个分支，主要研究向量、向量空间（线性空间）、线性变换和矩阵等概念及其相互关系。
标量 scalar
标量就是一个数字，只有大小，没有方向。标量通常用小写字母来表示。
例如，莱恩大招释放时，只对地方单位造成固定伤害。
向量vector
当一组标量排成一行或者一列时就变成了向量，这些标量值被称为向量的元素。向量中的元素在一个轴上是有序排列的，这个轴可以是行也可以是列。向量通常用粗体小写字母来表示，元素通过带角标的斜体字母来表示。
比如风行者的强力击造成的伤害是用向量 s表示，第一个元素 s 1 s_{1} s1是穿过第一个敌方单位时的伤害量，第二个元素 s 2 s_{2} s2是穿过第二个敌方单位时的伤害量，以此类推。如果强力击对 n n n个单位造成了伤害，就可以写成 s = [ s 1 , s 2 , . . . , s n ] s=[s_{1},s_{2},...,s_{n}] s=[s1,s2,...,sn]，或者写成列的形式，markdown实在没找到标准写法就不写了。
向量有两个主要特征：大小和方向。你知道，强力后击中的单位所受到的伤害，总是比前一个单位所受到的伤害少。这就是强力击的特点。而美杜莎的秘术异蛇恰恰相反。所以通过标量和向量，你可以简单的表示dota中英雄的技能伤害特点。
向量与空间： 我们通常会将向量看作空间中的点或者从空间原点指向该点的箭头，而一组向量可以生成一个向量空间。向量空间中的每一个点都可以表示为这组向量的线性组合。这种方式就可以将抽象的概念以具体的几何图形来展示。
向量维度
如果你有两个向量，它组成一个面，而这两个向量的夹角有恰巧是90°，那么这就是平面直角坐标系；如果是3个向量，每一个向量与另外两个向量形成的面相互垂直，那就形成了“笛卡尔直角坐标系”，如果不垂直，就形成了笛卡尔斜角坐标系。在坐标系中的点，都可以用不同向量的大小组合来表示。因此向量大于3个的时候，你没法用图像来想象，但是你可以用不同向量的大小组合来定义。
反过来想，你把坐标系中的一个点（向量a），映射到其他n个向量组成的坐标系中，那这个n就是向量a在这个坐标系中的维度。
向量模长 magnitude
模长表示向量在空间中的长度或者大小，主要用于物理和几何领域。n维向量的模长公式为 ∣ a ∣ = a 1 2 + a 2 2 + . . . + a n 2 |a|=\sqrt[]{a_{1}^2+a^2_{2}+...+a^2_{n}} ∣a∣=a12+a22+...+an2
范数 norm
与模长类似的一个术语，概念相同，但咱们机器学习主要用的就是范数。它与模长的公式不同
∣ x ∣ p = ( ∑ i ∣ x i ∣ p ) 1 p |x|_{p}=(\sum_{i}|x_{i}|^p)^\frac{1}{p} ∣x∣p=(i∑∣xi∣p)p1
- p=1 时，称之为L1范数，又叫曼哈顿范数。求的就是在网格化城市中，从1个点到另一个点的最短距离。
- p=2时，称之为L2范数，又称之为欧几里得范数，它与模长的计算公式相同。
- L2范数将欧几里得距离的概念推广到高维空间，适用于任意维度的向量空间。
欧几里得几何是以古希腊数学家欧几里得命名的几何学体系，主要研究平面和空间中的点、线、角、面等几何对象及其相互关系。
单位向量
当向量的模长等于1时，这样的向量就称为单位向量。因为单位向量的大小总是1，所以可以认为它表示的是向量在空间中的方向。对于二维向量 a = ( a 1 , a 2 ) a=(a_{1},a_{2}) a=(a1,a2)，其模长为 ∣ a ∣ = a 1 2 + a 2 2 |a| =\sqrt[]{a_{1}^2+a^2_{2}} ∣a∣=a12+a22。其单位向量应该是向量除以模长，单位向量则为 ( a 1 , a 2 ) a 1 2 + a 2 2 \frac{(a_{1},a_{2})}{\sqrt[]{a_{1}^2+a^2_{2}}} a12+a22(a1,a2)
向量内积
又叫向量点积、向量点乘。
代数定义
是两个向量对应位置的元素相乘再相加。例如，有一张购物小票，有一列是购买商品的单价向量 a = ( a 1 , a 2 , . . . , a n ) a=(a_{1},a_{2},...,a_{n}) a=(a1,a2,...,an)，有一列是购买商品的数量向量 b = ( b 1 , b 2 , . . . , b n ) b=(b_{1},b_{2},...,b_{n}) b=(b1,b2,...,bn)，那么你这张小票的购物总金额就是a和b的内积。总价 c = ∑ i = 1 n a i ⋅ b i c=\sum_{i=1}^n a_{i} \cdot b_{i} c=∑i=1nai⋅bi。这是代数定义。
几何定义
向量a和向量b的点积，就是向量a在向量b方向的“有效贡献”（投影长度）乘以b向量的模长。
它的公式为 a ⋅ b = ∣ a ∣ cos ( θ ) ∣ b ∣ a \cdot b =|a| \cos(\theta) |b| a⋅b=∣a∣cos(θ)∣b∣,写好看一点就是
a ⋅ b = ∣ a ∣ ⋅ ∣ b ∣ cos ( θ ) a \cdot b =|a|\cdot |b| \cos(\theta) a⋅b=∣a∣⋅∣b∣cos(θ)
内积还可以表示两个向量的线性相关度。将两个向量归一化得到单位向量，也就是|a|=|b|=1，内积就表示他们夹角的余弦值，即 cos ( θ ) = a ⋅ b \cos(\theta)=a \cdot b cos(θ)=a⋅b
这里着重研究了一下为什么它的几何意义是向量a在向量b方向的“有效贡献”（投影长度）乘以b向量的模长？
向量外积
又叫向量叉积、叉乘。
c = a × b c=a \times b c=a×b
其结果不像内积的运算结果是一个标量，向量外积的训练结果是也给向量。
向量外积大小=大小等于两个向量所构成的平行四边形面积值。
∣ c ∣ = ∣ a ∣ ∣ b ∣ sin ( θ ) |c|=|a| |b|\sin(\theta) ∣c∣=∣a∣∣b∣sin(θ)
向量方向满足右手螺旋定则，从第一个向量向第二个向量，按照劣弧方向环握右手，拇指方向就是向量的方向。
