麻省理工学院 - MIT - 线性代数学习笔记

学习视频地址

文章目录

1.01方程组的几何解释
2.02矩阵消元
3.03乘法和逆矩阵
- 乘法
- 逆
4.04矩阵A的LU分解
5.05转置，置换，向量空间
- 置换
- 转置
- 向量空间
6.06列空间和零空间
7.07求解Ax=0：主变量，特解

1.01方程组的几何解释

对于二元方程组：row picture

在这里插入图片描述

方程转化为矩阵 * 向量 = 向量的形式，并且二维三维可以用图像几何表示出来（解析几何）

用column picture进行表示（线性组合）：
$x\begin{bmatrix}2 \\ -1 \\ \end{bmatrix}+y\begin{bmatrix}-1 \\ 2 \\ \end{bmatrix}= \begin{bmatrix}0 \\ 3 \\ \end{bmatrix} \\$

在这里插入图片描述

x=1,y=2，上述是用向量的角度进行求解。

任意两个不共线的非零向量能够表示平面中的任意向量

对于三元方程组：row picture

在这里插入图片描述

column picture（向量表示）：

在这里插入图片描述

x=0,y=0,z=1
$A x = b$
是否对于任意b都有上式可解 = 列的线性组合是否能覆盖整个三维（n维）空间

非奇异矩阵/可逆矩阵可达到上面的要求（可逆矩阵被称为非奇异矩阵，因为可逆矩阵的行列式不为0，在数学中如果一个矩阵的行列式为0，则称这个矩阵为奇异矩阵。）

是3个向量都处于同一平面，即维度减一，所以涉及第三维度的向量b无法构造。

对于n个向量也是如果最后消解只有n-1维那也无解（一种平面只能覆盖n维空间的某n-1维平面，最后的求解也只能在这n-1维平面展开）。

方程组的矩阵形式：
$A x = b (A x 看做 A 各列的线性组合)$
在这里插入图片描述

2.02矩阵消元

$x+2y+z=2\\ 3x+8y+z=12\\ 4y+z=2\\ A=\begin{bmatrix}1 & 2 & 1 \\3 & 8 & 1 \\0 & 4 &1 \end{bmatrix}$

消元

在这里插入图片描述

增广矩阵：Ab

回代（也就是加入b进行求解）

在这里插入图片描述

方程从上往下消元，从下往上回代求解

消元矩阵：

在这里插入图片描述

由上式可知，我们把左边的矩阵（初等矩阵）当成3个1*3的行向量，右边的结果的第一行=左边第一行的第一个数 * 中间第一行 + 左边第一行的第二个数 * 中间第二行 + 左边第一行的第三个数 *中间第三行，所以结果为：1,0,0，以此类推第二行为-3,1,0（-3 * 中间第一行+1 * 中间第二行），第三行为0,0,1

在这里插入图片描述

$E_{21}表示初等矩阵第二行第一个位置发生了变换：变为0$
在这里插入图片描述

$E_{32}(E_{21}A)=U \\ 相当于(E_{32}E_{21})A=U\\结合律$
置换矩阵P

20231210160047641.png&pos_id=img-Q3Rr62RZ-1702196289492)

行变换左乘，列变换右乘

在这里插入图片描述

矩阵中基本没有交换律

逆矩阵：从U变回A

我们要取消这次消元，我们就希望E’EA=A，所以让E’E等于单位矩阵即可，E’是逆矩阵

变换后的矩阵EA，如何变回A？以行变换为例（左侧乘），就是找一个矩阵X使得XEA为A，此时若XE为单位阵，则XEA为A

在这里插入图片描述

$E^{-1}E=I$

3.03乘法和逆矩阵

乘法

方法一：行与列之间的点积

在这里插入图片描述

$C_{34}=(row3ofA) ·(column4ofB)$
在这里插入图片描述

A是m * n，B是n * P，C=AB大小为m * P

方法二：把B看做是P个单独的列向量，像上一节课一样对每个列向量单独乘积最后再合并：

在这里插入图片描述

方法三：把A看做m个单独的行向量，向上节课一样对每个行向量单独乘积最后再合并：

在这里插入图片描述

方法四：A中的列 * B中的行

在这里插入图片描述

矩阵分块：把每个块都看成单独的元素运用方法一就得到下图

在这里插入图片描述

逆

逆矩阵（非奇异矩阵） * 原矩阵 = I（单位矩阵）

在这里插入图片描述

奇异矩阵（非逆）可以找到一个向量x 使得Ax=0，也就是A中的向量组共面

Ax=0 有非零解，说明A中有的列没有贡献，所以不可逆

在这里插入图片描述

反证法：逆乘原得到单位矩阵，单位矩阵乘任一矩阵得原矩阵，所以得到X=0，但是X≠0，所以不成立

如何求逆矩阵：对于下列矩阵本质上就求两个二元一次方程组

在这里插入图片描述

同时求解两个方程：增广矩阵形式

高斯-若尔当消元法：

在这里插入图片描述

原理可理解为，假定有B矩阵，BA=I，那么右乘A逆得BI=A逆，如此可以得到逆矩阵

相当于对AI同时乘以A逆，得到I和A逆
$AI==>A*A^{\prime}I{\,}A^{\prime}==>IA^{\prime}$

在这里插入图片描述

4.04矩阵A的LU分解

两矩阵相乘，且它们的逆均已知，那么AB的逆是什么 $B^{-1} A^{-1}$

A转置乘以A逆的转置等于单位E,定理A转置乘以A转置的逆等于单位E，所以A逆转置等于A转置的逆

如果还是不明白，因为我们已经知道A * A逆=A逆 * A=E，所以下面那个式子还可以写成，A转置的逆*A的转置=E，逆矩阵又是唯一的，所以A逆的转置=A转置的逆

这个由“行”组成的系数矩阵的每一行应该和之前A-1代表的系数矩阵的“列”相对应，因此就是（A-1）T*AT

将原本的A*A-1=I中左侧的A中的所有列看作用于线性组合的列向量，A-1中的每一列代表每次线性组合的系数组成
$AA^{-1}=I\\ (A^{-1})^TA^T=I\\ (A^{-1})^T=(A^{T})^{-1}$

在这里插入图片描述

把-4倍的第一行和1倍的第二行相加，放到第二行

在这里插入图片描述

$E_{21}=\begin{bmatrix}1 & 0 \\-4 & 1 \end{bmatrix}$
在这里插入图片描述

$L=E_{21}^{-1}$
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

$E_{32}E_{31}E_{21}A=U(no{\,\,} row{\,}exchange)\\ A=E_{21}^{-1}E_{31}^{-1}E_{32}^{-1}U$

$\begin{bmatrix}1 &0 & 0\\2 & 1&0\\0&5&1 \end{bmatrix}=L(left{\,}of{\,}U)\\ EA=U A=LU$
原因：然而L是恢复为original矩阵的逆过程，也就是从下向上处理的，同样使用较上的行来处理较下的行，然而自下而上不会更改较上的行。