协方差矩阵

协方差矩阵反映了两个随机变量变化时是同向还是反向的（相关性）。
如果协方差>0，则说明这两个随机变量同向变化。
协方差矩阵<0，则说明是反向变化。
协方差矩阵=0，则说明是两个随机变量的变化方向没有任何相似度。

计算原理

假设矩阵：
$$X=\left[\begin{array}{ccc}3& 1& 2\\ 5& 6& 4\\ 8& 7& 9\end{array}\right]$$
样本均值为：
$$\overline{X}=\frac{1}{3}(\left[\begin{array}{c}3\\ 5\\ 8\end{array}\right]+\left[\begin{array}{c}1\\ 6\\ 7\end{array}\right]+\left[\begin{array}{c}2\\ 4\\ 9\end{array}\right])=\left[\begin{array}{c}3\\ 5\\ 8\end{array}\right]$$
矩阵的每列都减去样本的均值：
$$B=X-\overline{X}=\left[\begin{array}{ccc}1& -1& 0\\ 0& 1& -1\\ 0& -1& 1\end{array}\right]$$
矩阵的协方差矩阵Y：
$$Y=\frac{1}{N-1}B{B}^T=\frac{1}{3-1}\left[\begin{array}{ccc}1& -1& 0\\ 0& 1& -1\\ 0& -1& 1\end{array}\right]\left[\begin{array}{ccc}1& 0& 0\\ -1& 1& -1\\ 0& -1& 1\end{array}\right]=\frac{1}{2}\left[\begin{array}{ccc}2& -1& 1\\ -1& 2& -2\\ 1& -1& 1\end{array}\right]=\left[\begin{array}{ccc}1& -0.5& 0.5\\ -0.5& 1& -1\\ 0.5& -1& 1\end{array}\right]$$

python实现

import numpy as npa = np.array([3, 1, 2])
b = np.array([5, 6, 4])
c = np.array([8, 7, 9])X = np.vstack((a, b, c))
print(f'矩阵X: \n{X}')Y = np.cov(X)
print(f'矩阵X的协方差矩阵为: \n{Y}')