LA@特征值和特征向量

特征值和特征向量

• 许多定量分析模型中,常常需要寻求数$\lambda$和非零向量$\alpha$,使得$A\alpha =\lambda \alpha$

• 一般特征值和特征向量是成对存在的,在概念上,是不可分割且相互依赖地同时定义出来

• 设A是n阶方阵

  • 如果存在数$\lambda$和n维非零列向量$\alpha (\alpha \ne 0)$,满足

    • $$\begin{gathered} A\alpha =\lambda \alpha \\ 或(\lambda \alpha -A\alpha =0;(\lambda E-A)\alpha =0) \end{gathered}$$

    • 称$\lambda$是方阵A的一个特征值

    • $\alpha$为方阵A的对应于$\lambda$的一个特征向量

• 特征值问题是对方阵而言的,如果说矩阵的特征值或特征向量,那么这个矩阵默认是方阵

例

$$\left(\begin{array}{cc}3& 1\\ 2& 2\end{array}\right)\left(\begin{array}{c}1\\ 1\end{array}\right)=\left(\begin{array}{c}4\\ 4\end{array}\right)=4\left(\begin{array}{c}1\\ 1\end{array}\right)$$

• 上述等式链告诉我们,矩阵

  • $$\begin{gathered} A=\left(\begin{array}{cc}3& 1\\ 2& 2\end{array}\right)作用在向量\alpha =\left(\begin{array}{c}1\\ 1\end{array}\right) \\ 上的效果和常数4作用在\alpha 上的效果在乘法上是一样的 \end{gathered}$$

    • 也就是说,矩阵左乘特征向量的结果和特征向量左乘特征向量的结果一样

例

• 设$A^2=A$,证明A的特征值为0或1

  • $$\begin{gathered} A\alpha =\lambda \alpha \\ {A}^2\alpha =A(A\alpha )=A\lambda \alpha =\lambda (A\alpha )=\lambda (\lambda \alpha )={\lambda }^2\alpha \\ 又A^2=A;A^2\alpha =A\alpha =\lambda \alpha \end{gathered}$$

  • $$\begin{gathered} \therefore {\lambda }^2\alpha =\lambda \alpha \\ ({\lambda }^2-\lambda )\alpha =0,\alpha \ne 0 \\ {\lambda }^2-\lambda =\lambda (\lambda -1)=0 \\ \lambda =0或1 \end{gathered}$$

• 方法2:

  • $$\begin{gathered} 同时对A\alpha =\lambda \alpha 左乘A: \\ {A}^2\alpha =\lambda (A\alpha ) \\ A\alpha ={\lambda }^2\alpha \\ \lambda \alpha ={\lambda }^2\alpha \end{gathered}$$

  • 其余和方法1一致

求解方阵的特征值和特征向量🎈

• 对于方程组S
  $$(\lambda E-A)\alpha =0;\alpha \ne 0$$

  • $由于\alpha \ne 0$,所以$\alpha$是齐次线性方程组$(\lambda E-A)x=0$的非零解
  • 而上述齐次线性方程组有非零解,仅当其系数行列式为0
  • 即矩阵A的特征值$\lambda$是方程$|\lambda E-A|=0$的根
  • 如果A是一个n阶方阵,则A在复数范围内恰有n个特征值(包括重根)
    • 即使矩阵A的元素全为实数,其特征值也可能是复数

特征多项式@特征方程

• 设n阶方阵$A=(a_{ij})$

  • $$f(\lambda )=|\lambda E-A|=\left|\begin{array}{cccc}\lambda -a_{11}& -a_{12}& \cdots & -a_{1n}\\ -a_{21}& \lambda -a_{22}& \cdots & -a_{2n}\\ ⋮& ⋮& & ⋮\\ -a_{n1}& -a_{n2}& \cdots & \lambda -a_{nn}\end{array}\right|$$

    • $$\begin{gathered} -A=\left(\begin{array}{cccc}-a_{11}& -a_{12}& \cdots & -a_{1n}\\ -a_{21}& -a_{22}& \cdots & -a_{2n}\\ ⋮& ⋮& & ⋮\\ -a_{n1}& -a_{n2}& \cdots & -a_{nn}\end{array}\right) \\ \lambda E=\left(\begin{array}{cccc}\lambda & 0& \cdots & 0\\ 0& \lambda & \cdots & 0\\ ⋮& ⋮& & ⋮\\ 0& 0& \cdots & \lambda \end{array}\right) \end{gathered}$$

    • $f(\lambda )$是A的特征多项式

    • $f(\lambda )=0$(即$|\lambda E-A|=0$)是A的特征方程

  • 求解特征方程$f(\lambda )=0$的全部根,他们就是n阶方阵A的特征值,将他们记为${\lambda }_i,i=1,2,\cdots ,n$

  • 对于每个${\lambda }_i$,求解对应的齐次线性方程组$({\lambda }_{i}E-A)x=0$

    • 不妨将方阵$B_i={\lambda }_{i}E-A$,便于讨论
    • 求齐次线性方程$B_{i}x=0$一组基础解系:$\Phi ={\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_{s_i}$,$s_i=n-r_i$
    • 则方阵A关于${\lambda }_i$的全部特征向量表示为$\sum _{j=1}^{s_i}{k}_j{\alpha }_j$

方阵特征值和特征向量的性质

• 代数学基本定理：任何一个非零的一元n次复系数多项式，都正好有n个复数根（重根视为多个根）

• $$\sum _{i=1}^n{\lambda }_i=\sum _{i=1}^n{a}_{ii},$$

  • $其中{\sum }_{i=1}^n{a}_{ii}称为矩阵的迹$

• $$\prod _{i=1}^n{\lambda }_i=|A|$$

证明

• 对于n次多项式$f(\lambda )$,他有n个复根,可以因式分解写成如下形式

  • $f(\lambda )=(\lambda -{\lambda }_1)(\lambda -{\lambda }_2)\cdots (\lambda -{\lambda }_n)$

• 对于

  • $$\begin{gathered} f(\lambda )=|\lambda E-A|=\left|\begin{array}{cccc}\lambda -a_{11}& -a_{12}& \cdots & -a_{1n}\\ -a_{21}& \lambda -a_{22}& \cdots & -a_{2n}\\ ⋮& ⋮& & ⋮\\ -a_{n1}& -a_{n2}& \cdots & \lambda -a_{nn}\end{array}\right| \\ 不妨把这个行列式记为B,B=f(\lambda ) \end{gathered}$$

    • $f(\lambda )$行列式展开后有n!项(未合化简同类项前),把它们记为${\theta }_k,k=1,2,\cdots ,n!$

      • 是一个n次多项式
        • 因为其中有1项是由主对角线元素相乘的积),把它记为
          • $\xi ={\theta }_p=(\lambda -a_{11})(\lambda -a_{22})\cdots (\lambda -a_{nn})$
        • 其余项之多含有对角线元素的n-2个元素(因为每个项的因子都取自不同行不同列)
          • 如果${\theta }_k$中有一个元素$e_{ij}$不在主对角线上($i\ne j$)那么以为着${\theta }_k$中不可能含有$b_{ii}和b_{jj}$

    • 现在,我们只对$\xi$这一项感兴趣

      • ${\theta }_p={\lambda }^n-(a_{11}+a_{22}+\cdots +a_{nn}){\lambda }^{n-1}+\cdots$
      • $f(\lambda )={\theta }_p+\sum _{i,i\ne p}^{n!}{\theta }_i$
        • (注意,展开式中$n,n-1$次项的系数是只由${\theta }_p$提供,其余${\theta }_i,i\ne p$只能够提供不超过$n-2$次项;
        • 常数项可以通过取$\lambda =0$得到,即$f(0)=|0E-A|=|-A|=(-1{)}^n|A|$
        • $f(\lambda )={\lambda }^n-(a_{11}+a_{22}+\cdots +a_{nn}){\lambda }^{n-1}+\cdots |-A|{\lambda }^0$
      • 为什么是这样的,可以参考:math@多项式@求和式乘法@代数学基本定理_xuchaoxin1375的博客-CSDN博客

    • 另一方面,设${\lambda }_1,\cdots ,{\lambda }_n$是$f(\lambda )$的n个特征值(根)

      • $$f(\lambda )=\prod _i(\lambda -{\lambda }_i)={\lambda }^n-(\sum _{i=1}^n{\lambda }_i){\lambda }^{n-1}+\cdots +\prod _{i=1}^n(-{\lambda }_i)$$

      • 对比$n-1$次项的系数${\sum }_{i=1}^n{a}_{ii}={\sum }_{i=1}^n{\lambda }_i$

      • 对比$0$此项系数$|-A|={\prod }_{i=1}^n(-{\lambda }_i)$,即$(-1{)}^n|A|=(-1{)}^n{\prod }_i^n({\lambda }_i)$,$|A|={\prod }_i^n{\lambda }_i$

推论

• 方阵A可逆的条件是A的特征值不全为0

衍生特征值

• 设$\alpha$是矩阵A属于特征值${\lambda }_0$的特征向量(记为$\alpha ,A\to \lambda$,或者更直接的$A\alpha ={\lambda }_0\alpha$)
• 设$\alpha ,\gamma ,A,{\lambda }_0$满足$A\alpha ={\lambda }_0\alpha ;A\gamma ={\lambda }_0\gamma$,则:
  • $\beta =k\alpha$满足$A\beta ={\lambda }_0\beta$
    • 因为$A(k\alpha )=kA\alpha =k{\lambda }_0\alpha ={\lambda }_0(k\alpha )$
  • $\varphi =\alpha +\gamma$满足$A\varphi ={\lambda }_0\varphi$
    • $A(\alpha +\gamma )=A\alpha +A\gamma ={\lambda }_0\alpha +{\lambda }_0\gamma ={\lambda }_0(\alpha +\gamma )$
  • 综合上述结论,可以得出:若${\alpha }_i,i=1,2,\cdots ,n$,$\lambda ,A,{\lambda }_0$满足$A{\alpha }_i={\alpha }_i{\lambda }_0$,则${\alpha }_i$的任意线性组合$\theta ={\sum }_i{k}_i{\alpha }_i$满足$A\theta =\theta {\lambda }_0$

更一般的

• 设$\alpha ,A,\lambda$满足$A\alpha =\lambda \alpha$,则:

  • 对$A\alpha =\lambda \alpha$同乘以$k$,

    • $(kA)\alpha =(k\lambda )\alpha$,
    • $A(k\alpha )=\lambda (k\alpha )$

  • 再次乘以$k$

    • $(kA)(k\alpha )=(k\lambda )(k\alpha )$

  • 对$A\alpha =\lambda \alpha$两边同时左乘$A$

    • $AA\alpha =A\lambda \alpha =\lambda A\alpha =\lambda \lambda \alpha$
    • $A^2\alpha ={\lambda }^2\alpha$
    • $A^3\alpha =A{\lambda }^2\alpha ,{\lambda }^{2}A\alpha ={\lambda }^3\alpha$
    • 重复m-1次得到:$A^m\alpha ={\lambda }^m\alpha$

  • 当$A$可逆时

    1. $${\lambda }^{-1}\alpha =A^{-1}\alpha$$
       • 对$A\alpha =\lambda \alpha$同时左乘$A^{-1}$
       • $\alpha =\lambda A^{-1}\alpha$,两边同乘以${\lambda }^{-1}$，${\lambda }^{-1}\alpha =A^{-1}\alpha$
    2. $(A^{\ast })\alpha =\frac{|A|}{\lambda }\alpha$
       • $A^{-1}=\frac{1}{|A|}{A}^{\ast }$
       • ${\lambda }^{-1}\alpha =(\frac{1}{|A|}{A}^{\ast })\alpha$
       • $\frac{|A|}{\lambda }\alpha =(A^{\ast })\alpha$
       • $(A^{\ast })\alpha =\frac{|A|}{\lambda }\alpha$

• 推论:

  • 特征向量不是被特征值所唯一确定的
  • 特征值被特征向量唯一确定(一个特征向量只能属于一个特征值)
    • 假设对于给定的${\alpha }_0$,${\lambda }_1,{\lambda }_2,A$间满足:$A{\alpha }_0={\lambda }_i{\alpha }_0,i=1,2$
      • 因此${\lambda }_1{\alpha }_0={\lambda }_2{\alpha }_0=A{\alpha }_0$
      • $({\lambda }_1-{\lambda }_2){\alpha }_0=0$
        • 又因为${\alpha }_0\ne 0$,所以${\lambda }_1-{\lambda }_2=0$
        • 所以${\lambda }_1={\lambda }_2$
      • 所以给定${\alpha }_0$,A的特征值是唯一确定的

转置和特征值

• 方阵A的转置$A^T$的特征值和A的特征值相同

  • $A:f(\lambda )=|\lambda E-A|$

  • $A^T:f(\lambda )=|\lambda E-A^T|=|(\lambda E{)}^T-A^T|=|(\lambda E-A{)}^T|=|\lambda E-A|$

  • 可见,$A,A^T$具有相同的特征方程,因此特征值一定像相同

  • 但是它们的特征向量不一定相同

    • 因为前面我们讨论过,特征值不能够唯一确定特征向量

其他结论(方阵多项式的特征值与方阵本身特征值的关系)

• 设$p(x)=\sum _{i=0}^m{a}_i{x}^i=\sum _{i=0}^m{a}_{m-i}{x}^{m-i}$

  • $\lambda ,A,\alpha$满足$A\alpha =\lambda \alpha$
  • 则$p(A)\alpha =p(\lambda )\alpha$

• 证明:

  • $$\begin{gathered} p(A)\alpha =\sum _{i=0}^m{a}_i{A}^i\alpha =\sum _{i=0}^m{a}_i{\lambda }^i\alpha \\ 而p(\lambda )=\sum _{i=0}^m{a}_i{\lambda }^i \\ 从而p(\lambda )\alpha =\sum _{i=0}^m{a}_i{\lambda }^i\alpha \\ 因此p(A)\alpha =p(\lambda )\alpha \end{gathered}$$

特征向量线性相关性

• 设n阶方阵A的特征向量为${\lambda }_i,i=1,2,\cdots ,n$,(${\lambda }_i\ne {\lambda }_j$if $i\ne j$)

  • 对应的特征向量为${\alpha }_i,i=1,2,\cdots ,n$
  • 即:$A{\alpha }_i={\lambda }_i{\alpha }_i,i=1,2,\cdots ,n$
  • 那么$\varphi ={\alpha }_1,\cdots ,{\alpha }_n$线性无关
    • 通过数学归纳法证明
  • 更一般的,设${\psi }_i={\alpha }_{i1},{\alpha }_{i2},\cdots ,{\alpha }_{i{s}_i}$,αi∈{ψi}\alpha_i\in\{\psi_i\}αi​∈{ψi​}
    • ${\psi }_i$是同一个特征值${\lambda }_i$的所有特征向量
  • $\Psi ={\psi }_1,{\psi }_2,\cdots ,{\psi }_n$依然线性无关
  • 对于${\psi }_i$:
    • 若${\lambda }_i$是一个k重特征值
    • 那么对应于${\lambda }_i$线性无关特征向量的个数$u⩽k$