1. Markov matrix

1.1 定义

对于马尔科夫矩阵Markov matrix 来说，矩阵A要满足两个条件：

• 矩阵A的每个元素必须大于等于0
• 矩阵A中的每一列$a_0$向量里面的元素和为1，这样保证了矩阵A的特征值最大为1，其他特征值小于1.
  $$\begin{array}{c}A=\left[\begin{array}{ccc}0.1& 0.01& 0.3\\ & & \\ 0.2& 0.99& 0.3\\ & & \\ 0.7& 0& 0.4\end{array}\right]\end{array}$$
  我们发现矩阵A上的每个元素都大于等于0；
  0.1+0.2+0.7=1；0.01+0.99+0=1,；0.3+0.3+0.4=1；故可以得出矩阵A为Markov matrix！！！

1.2 计算

$$\begin{array}{c}{u}_{k+1}=A{u}_k;u_{k+1}=A^n{u}_0;A^k=S{\Lambda }^k{S}^{-1}；u_0=S{C}_0\end{array}$$

• 化简可得如下：
  $$\begin{array}{c}{u}_k=A^k{u}_0=S{\Lambda }^k{S}^{-1}S{C}_0=S{\Lambda }^k{C}_0\end{array}$$
  $$\begin{array}{c}{u}_k=S{\Lambda }^k{C}_0=S\left[\begin{array}{ccccc}{\lambda }_1^k& & & & \\ & & & & \\ & {\lambda }_2^k& & & \\ & & & & \\ & & & \ddots & \\ & & & & \\ & & & & {\lambda }_n^k\end{array}\right]C_0=c_1{\lambda }_1^k{x}_1+c_2{\lambda }_2^k{x}_2+\cdots +c_n{\lambda }_n^k{x}_n\end{array}$$
• 由上述公式可以看出，当k趋近于无穷大的时候，如果$|{\lambda }_i|<1$时，${\lambda }_i^k=0$,只有${\lambda }_i=1$时保留，即为最终的稳态！！！
• 假设${\lambda }_1=1$,其他的$|{\lambda }_i|<1$,${\lim }_{k\to \infty }{\lambda }_i^k=0,|{\lambda }_i|<1$整理上述公式可得：
  $$\begin{array}{c}{u}_k=c_1{x}_1\end{array}$$
• 为什么markov matrix 有一个特征值为1？
  $$\begin{array}{c}{A}_1=A-1I=\left[\begin{array}{ccc}-0.9& 0.01& 0.3\\ & & \\ 0.2& -0.01& 0.3\\ & & \\ 0.7& 0& -0.6\end{array}\right]\end{array}$$
• 我们计算行列式值时，将$A_1$的各行相加到第1行，可以得到第1行都为0，所以$|A_1|=0$,所以可以得出，矩阵A一定有一个特征值满足${\lambda }_i=1$
• 矩阵A的特征值和矩阵$A^T$的特征值是否一致？
  我们知道计算矩阵A的特征值如下：
  $$\begin{array}{c}det(A-{\lambda }_{i}I)=0\end{array}$$
• 将上式两边进行转置可得：
  $$\begin{array}{c}det(A^T-{\lambda }_j{I}^T)=det(A^T-{\lambda }_{j}I)=0\end{array}$$
• 可以得出：${\lambda }_i={\lambda }_j$
  $$矩阵A和矩阵A^T的特征值一致！！！$$

2. 马尔科夫矩阵的应用

假设我们有两个州，一个叫加州，另外一个叫麻省。我们来看看两个州的人口问题，假设由于某些原因，在保证总人数不变的情况下，加州和麻省的人口每年进行相互流动，最终我们需要计算出经过100年后，加州和麻省最终的人口趋向于那个比例，矩阵A表示经过一年后发生了人口的迁移比例。

• 我们用$u_{cal}$表示加州人口，用$u_{mas}$表示麻省人口。
• 对于加州的人口来说：在第k+1时刻，在第 k 时刻有0.9的人留在加州，有0.1的人去麻省；
• 对于麻省的人口来说：在第k+1时刻，在第 k 时刻有0.8的人留在麻省，有0.1的人去加州；
• 初始状态下，加州人口为0，麻省人口为1000；
  -$$\begin{array}{c}{\left[\begin{array}{c}{u}_{cal}\\ \\ u_{mas}\end{array}\right]}_{t=k+1}=\left[\begin{array}{c}0.9\\ \\ 0.1\end{array}\right]u_{cal}{|}_{t=k}+\left[\begin{array}{c}0.8\\ \\ 0.2\end{array}\right]u_{mas}{|}_{t=k}\end{array}$$
• 用矩阵的形式表示如下：
  $$\begin{array}{c}{\left[\begin{array}{c}{u}_{cal}\\ \\ u_{mas}\end{array}\right]}_{t=k+1}=\left[\begin{array}{cc}0.9& 0.2\\ & \\ 0.1& 0.8\end{array}\right]{\left[\begin{array}{c}{u}_{cal}\\ \\ u_{mas}\end{array}\right]}_{t=k}；u_0=\left[\begin{array}{c}0\\ \\ 1000\end{array}\right]；\Rightarrow u_1=\left[\begin{array}{c}200\\ \\ 800\end{array}\right]；\end{array}$$
• 求解矩阵A的特征值
  $$\begin{array}{c}A=\left[\begin{array}{cc}0.9& 0.2\\ & \\ 0.1& 0.8\end{array}\right]\Rightarrow {\lambda }_1=1,v_1=\left[\begin{array}{c}2\\ \\ 1\end{array}\right]{\lambda }_2=0.7,v_2=\left[\begin{array}{c}1\\ \\ -1\end{array}\right]\end{array}$$
• 初始向量$u_0$可以分解如下：
  $$\begin{array}{c}{u}_0=\left[\begin{array}{c}0\\ \\ 1000\end{array}\right]=\frac{1000}{3}\left[\begin{array}{c}2\\ \\ 1\end{array}\right]-\frac{2000}{3}\left[\begin{array}{c}1\\ \\ -1\end{array}\right]=\left[\begin{array}{cc}2& 1\\ & \\ 1& -1\end{array}\right]\left[\begin{array}{c}\frac{1000}{3}\\ \\ -\frac{2000}{3}\end{array}\right]\end{array}$$
  $$\begin{array}{c}{u}_0=S{C}_0;S=\left[\begin{array}{cc}2& 1\\ & \\ 1& -1\end{array}\right];C_0=\left[\begin{array}{c}\frac{1000}{3}\\ \\ -\frac{2000}{3}\end{array}\right]\end{array}$$
• 化简差分方程如下：
  $$\begin{array}{c}{u}_k={\left[\begin{array}{c}{u}_{cal}\\ \\ u_{mas}\end{array}\right]}_{t=k};u_{k+1}=A{u}_k；u_k=A^k{u}_0=S{\Lambda }^k{C}_0=\left[\begin{array}{cc}2& 1\\ & \\ 1& -1\end{array}\right]\left[\begin{array}{cc}{\lambda }_1^k& 0\\ & \\ 0& {\lambda }_2^k\end{array}\right]\left[\begin{array}{c}\frac{1000}{3}\\ \\ -\frac{2000}{3}\end{array}\right]\end{array}$$
• 整理上述可得：
  $$\begin{array}{c}\left[\begin{array}{c}{u}_{cal}\\ \\ u_{mas}\end{array}\right]=\left[\begin{array}{c}\frac{2000}{3}{\lambda }_1^k-\frac{2000}{3}{\lambda }_2^k\\ \\ \frac{1000}{3}{\lambda }_1^k+\frac{2000}{3}{\lambda }_2^k\end{array}\right]\end{array}$$
• 当${\lambda }_1=1,{\lambda }_2=0.7$ 整理可得：
  $$\begin{array}{c}\underset{k\to \infty }{\lim }\left[\begin{array}{c}{u}_{cal}\\ \\ u_{mas}\end{array}\right]=\left[\begin{array}{c}\frac{2000}{3}\\ \\ \frac{1000}{3}\end{array}\right]\end{array}$$

3. 傅里叶级数

3.1 标准正交基的投影问题

假设我们有一组单位长度为1且相互正交的基向量$q_1,q_2,\cdots ,q_n$,对于任意向量v；那么我们可以将向量v通过基向量的线性组合而成；
$$\begin{array}{c}v=x_1{q}_1+x_2{q}_2+\cdots +x_n{q}_n=\left[\begin{array}{cccc}{q}_1& q_2& \cdots & q_n\end{array}\right]\left[\begin{array}{c}{x}_1\\ \\ x_2\\ \\ ⋮\\ \\ x_n\end{array}\right]=QX;Q^{-1}=Q^T\end{array}$$
$$\begin{array}{c}v=QX;X=Q^{-1}v=Q^{T}v\end{array}$$

• 因为$q_i$满足如下条件：
  $$\begin{array}{c}{q}_i^T{q}_j=\{\begin{array}{ll}0,& i\ne j\\ 1.& i=j\end{array},||q_i||=1\end{array}$$
• 等式两边同时乘以$q_i^T$,可得如下：
  $$\begin{array}{c}{q}_i^{T}v=x_1{q}_i^T{q}_1+x_2{q}_i^T{q}_2++\cdots +x_i{q}_i^T{q}_i+\cdots +x_n{q}_i^T{q}_n\end{array}$$
• 整理可得：
  $$\begin{array}{c}{x}_i=q_i^{T}v\end{array}$$
• 那么系数X向量可得：
  $$\begin{array}{c}\left[\begin{array}{c}{x}_1\\ \\ x_2\\ \\ ⋮\\ \\ x_n\end{array}\right]=\left[\begin{array}{c}{q}_1^{T}v\\ \\ q_2^{T}v\\ \\ ⋮\\ \\ q_n^{T}v\end{array}\right]\end{array}$$

3.2 函数正交

我们知道，如果两个向量正交，表示的是两个向量对应元素的积后求和为0，用公式如下：
$$\begin{array}{c}\left[\begin{array}{cccc}{x}_1& x_2& \cdots & x_n\end{array}\right]\left[\begin{array}{c}{y}_1\\ \\ y_2\\ \\ ⋮\\ \\ y_n\end{array}\right]=x_1{y}_1+x_2{y}_2+\cdots +x_n{y}_n=0\end{array}$$

• 同理我们将向量x，y换成f,g，内积换成相乘，求和换成定积分，那就换成了关于两函数正交的公式
  $$\begin{array}{c}{\int }_a^{b}f(x)g(x)\mathrm{d}x=f_1{g}_1+f_2{g}_2+\cdots +f_n{g}_n\end{array}$$

3.3 傅里叶级数

我们现在在函数空间内，希望有一组函数基，能够像正交基样，任意两个子向量正交，这时就出现了傅里叶级数：
$$\begin{array}{c}f(x)=a_0+a_1\cos (x)+b_1\sin (x)+a_2\cos (2x)+b_1\sin (2x)+\cdots +a_n\cos (nx)+b_n\sin (nx)+\cdots \end{array}$$

• 化简可得：
  $$\begin{array}{c}f(x)=a_0+\sum _{i=1}^{+\infty }{a}_n\cos (n{w}_{0}x)+\sum _{i=1}^{+\infty }{b}_n\sin (n{w}_{0}x)\end{array}$$
• 我们用傅里叶函数f(x)和系数函数g(x)，因为正弦函数的周期性，整理可得：
  $$\begin{array}{c}{f}^{T}g={\int }_0^{2\pi }f(x)g(x)\mathrm{dx};f(x+2\pi )=f(x);\end{array}$$
• 因为周期为$2\pi$，所以可以只需要求$(0,2\pi )$之间的定积分。
  $$\begin{array}{c}{f}^{T}g={\int }_0^{2\pi }f(x)g(x)\mathrm{dx};f(x+2\pi )=f(x);\end{array}$$
• 小结：
  若在整个数轴上
  $$\begin{array}{c}f(x)=\frac{a_0}{2}+\sum _{n=1}^{\infty }(a_n\cos (nx)+b_n\sin (nx))\end{array}$$
  且等式右边级数一致收敛，则可以求得系数如下：
  $$\begin{array}{c}{a}_n=\frac{1}{\pi }{\int }_{-\pi }^{\pi }f(x)\cos (nx)\mathrm{dx};(n=0,1,2,\cdots )\end{array}$$
  $$\begin{array}{c}{b}_n=\frac{1}{\pi }{\int }_{-\pi }^{\pi }f(x)\sin (nx)\mathrm{dx};(n=1,2,\cdots )\end{array}$$