29. 相似矩阵，若尔当型

1. 相似矩阵

假设矩阵A，B为正定矩阵，那么对于任意非零列向量x来说，二次型$x^{T}Ax,x^{T}Bx$恒为正
$$\begin{array}{c}{x}^{T}Ax>0，x^{T}Bx>0，\end{array}$$

• 如果A，B均是正定矩阵，那么A+B也是正定矩阵
  $$\begin{array}{c}{x}^T(A+B)x=(x^{T}A+x^{T}B)x=x^{T}Ax+x^{T}Bx>0\end{array}$$
  我们在做最小二乘法的过程中，需要拟合一条直线，满足直线基本能反映点的情况，我们知道b值不一定在A的列空间中，所以我们通过同时乘以 $A^T$ 得到$A^{T}b$,使得方程能求得最优解$\hat{x}$
  $$\begin{array}{c}{A}^{T}A\hat{x}=A^{T}b\end{array}$$
  这时候我们就遇到了$A^{T}A$矩阵，那么这个矩阵肯定是对称矩阵，请问 $A^{T}A$ 是否是正定矩阵呢？

1.1 $A^{T}A$正定性证明

首先$A^{T}A$是对称的，那么我们只需要证明对于任意非零向量x，二次型恒正即可：
$$\begin{array}{c}{x}^T{A}^{T}Ax>???0\end{array}$$

• 整理上述公式可得：
  $$\begin{array}{c}(x^T{A}^T)(Ax)=(Ax{)}^T(Ax)\end{array}$$
• 我们知道Ax表示的是A列向量的组合，最后还是一个列向量，所以上述值都是一个标量的平方，所以可以得到如下：
  $$\begin{array}{c}(x^T{A}^T)(Ax)=(Ax{)}^T(Ax)=||Ax|{|}^2\ge 0\end{array}$$
• 那么什么时候$||Ax||\ne 0$呢？也就是当Ax=0无零解，也就是说矩阵A的秩等于列数n，所以可以得到，只要给定一个m行n列的矩阵A，如果矩阵A的秩为n，即满列秩，那么就可以得到$A^{T}A$为正定矩阵！！！

2. 相似矩阵

假设A,B均是N×N的矩阵，如果存在一个可以矩阵M，使得三个矩阵满足如下关系，那么A相似于B
$$\begin{array}{c}B=M^{-1}AM\end{array}$$
特征向量矩阵S，当我们有一个矩阵A，其特征值矩阵为$\Lambda$,特征向量矩阵为S,满足如下条件：
$$\begin{array}{c}\Lambda =S^{-1}AS\Rightarrow A\sim \Lambda \end{array}$$

• 按照新的说法来说，矩阵A相似于特征向量$\Lambda$，也就是说当矩阵M是特征向量矩阵S时候，矩阵A相似于特征值矩阵$\Lambda$,如果 $M\ne S$,那么矩阵A相似于其他的。
  $$\begin{array}{c}B=M^{-1}AM\Rightarrow \{\begin{array}{r}A\sim \Lambda ，M=S\\ A\sim B，M\ne S\end{array}\end{array}$$

2.1 举例

当我们矩阵A表示如下，可以得到其特征向量矩阵S，特征值矩阵$\Lambda$
$$\begin{array}{c}A=\left[\begin{array}{cc}2& 1\\ & \\ 1& 2\end{array}\right]\Rightarrow S=\left[\begin{array}{cc}1& 1\\ & \\ -1& 1\end{array}\right],\Lambda =\left[\begin{array}{cc}1& 0\\ & \\ 0& 3\end{array}\right]\Rightarrow A\sim \Lambda \end{array}$$

• 给定一个矩阵M，可得如下B
  $$\begin{array}{c}A=\left[\begin{array}{cc}2& 1\\ & \\ 1& 2\end{array}\right]\Rightarrow M=\left[\begin{array}{cc}1& 4\\ & \\ 0& 1\end{array}\right],B=M^{-1}AM=\left[\begin{array}{cc}-2& -15\\ & \\ 1& 6\end{array}\right]\Rightarrow A\sim B\end{array}$$
• 矩阵A,B,$\Lambda$之间有什么关系呢？
  $$\begin{array}{c}||A||=3,{\lambda }_{A1}=1；{\lambda }_{A2}=3;trac{e}_A=4\end{array}$$
  $$\begin{array}{c}||B||=3,{\lambda }_{B1}=1；{\lambda }_{B2}=3;trac{e}_B=4\end{array}$$

1、两者的秩相等。 2、两者的行列式值相等。 3、两者的迹数相等。 4、两者拥有同样的特征值，尽管相应的特征向量一般不同

2.2 证明相似矩阵具有相同特征值

$$\begin{array}{c}B=M^{-1}AM,Ax=\lambda x\end{array}$$

$$\begin{array}{c}MB{M}^{-1}=A\Rightarrow MB{M}^{-1}x=Ax=\lambda x\Rightarrow B[M^{-1}x]=\lambda [M^{-1}x]\end{array}$$

• 故可以得到，如果矩阵A相似于矩阵B，那么A,B具有相同的特征值矩阵。