数学建模期末速成 主成分分析的基本步骤

设有$n$个研究对象，$m$个指标变量$x_1,x_2,\cdots ,x_m$，第$i$个对象关于第$j$个指标取值为$a_{ij}$,构造数据矩阵$A={\left(\begin{array}{c}{a}_{ij}\end{array}\right)}_{n\times m}$

(1)对原来的$m$个指标进行标准化，得到标准化的指标变量
$$\begin{gathered} y_j=\frac{x_j-{\mu }_j}{s_j},j=1,2,\cdots ,m, \\ \text{式中}:{\mu }_j=\frac{1}{n}\sum _{i=1}^n{a}_{ij};s_i=\sqrt{\frac{1}{n-1}\sum _{i=1}^n{\left(a_{ij}-{\mu }_j\right)}^2} \end{gathered}$$
对应地，得到标准化的数据矩阵
$$\begin{gathered} B=(b_{ij}{)}_{n\times m},\text{其中 }{b}_{ij}=\frac{a_{ij}-{\mu }_j}{s_j},i=1,2,\cdots ,n,j=1, \\ 2,\cdots ,m \end{gathered}$$
(2)根据标准化的数据矩阵$B$求出相关系数矩阵$R=(r_{ij}{)}_{m\times n}$其中
$$b_{ij}=\frac{a_{ij}-{\mu }_j}{s_j},i=1,2,\cdots ,n,j=1,2,\cdots ,m$$
(3) 计算相关系数矩阵 $R$ 的特征值 ${\lambda }_1\ge {\lambda }_2\ge \cdots \ge {\lambda }_m$，及对应的标准正交化特征向量 $u_1,u_2,\cdots ,u_m$，其中 $u_j=[u_{1j},u_{2j},\cdots ,u_{mj}{]}^T$，由特征向量组成 $p$ 个新的指标变量

$$\{\begin{array}{l}{F}_1=u_{11}{y}_1+u_{21}{y}_2+\cdots +u_{m1}{y}_m,\\ F_2=u_{12}{y}_1+u_{22}{y}_2+\cdots +u_{m2}{y}_m,\\ ⋮\\ F_m=u_{1m}{y}_1+u_{2m}{y}_2+\cdots +u_{mm}{y}_m,\end{array}$$

式中：$F_1$ 为第 1 主成分；$F_2$ 为第 2 主成分；$\cdots$，$F_m$ 为第 $m$ 主成分。

(4) 计算主成分贡献率及累积贡献率，主成分 $F_j$ 的贡献率为

$$w_j=\frac{{\lambda }_j}{{\sum }_{k=1}^m{\lambda }_k},j=1,2,\cdots ,m,$$

前 $i$ 个主成分的累积贡献率为

$$\frac{{\sum }_{k=1}^i{\lambda }_k}{{\sum }_{k=1}^m{\lambda }_k}$$

一般取累积贡献率达 85%以上的特征值 ${\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_k$ 所对应的第 1, 第 2, $\cdots$，第 $k(k\le p)$ 主成分

(5) 最后利用得到的主成分 $F_1,F_2,\cdots ,F_k$ 分析问题，或者继续进行评价、回归、聚类等其他建模

[!warning] 注意
主成分分析的结果受量纲的影响，由于各变量的单位可能不同，结果可能不同这是主成分分析的最大问题。因此，在实际问题中，需要先对各变量进行无量纲化处理，然后用协方差矩阵或相关系数矩阵进行分析。

补充

无量纲化处理

在数学建模中，无量纲化处理（Non-dimensionalization）是通过引入特征尺度将包含单位的物理量转化为无量纲量的过程。其核心目的是简化模型、减少参数数量、揭示变量间的本质关系，并提高数值计算的稳定性。

如何做到无量纲化？

1. 选择特征尺度
   针对每个变量（如时间、长度、速度等），选择一个具有物理意义的参考值（如初始值、平衡状态值、特征长度等）。例如：

   • 时间尺度：若系统周期为 ( T )，可将时间 ( t ) 转化为 ( \tilde{t} = t/T )。
   • 长度尺度：若物体长度为 ( L )，可将坐标 ( x ) 转化为 ( \tilde{x} = x/L )。

2. 变量替换
   将原变量替换为无量纲形式，例如：$$\tilde{v}=\frac{v}{v_c}\text{（vc 为特征速度）}$$3. 方程转化
   将原方程中的变量和参数全部替换为无量纲量，整理后得到无量纲方程。
   无量纲化的意义

3. 简化模型结构

4. 揭示尺度规律

5. 数值计算稳定性

6. 普适性分析

---

标准化

由于样本数据矩阵由多个指标组成，不同指标一般有不同的量纲，为消除量纲的影响，通常需要进行数据变换处理。常用的数据变换方法有：

• 中心化处理：先求出每个变量的样本平均值，再从原始数据中减去该变量的均值
  $$\begin{gathered} b_{ij}=a_{ij}-{\mu }_j,i=1,\cdots ,n;j=1,\cdots ,p, \\ \text{式中}:{\mu }_j=\frac{{\sum }_{i=1}^n{a}_{ij}}{n} \end{gathered}$$
• 规格化处理：每一个变量的原始数据减去该变量中的最小值，再除以极差
  $$b_{ij}=\frac{a_{ij}-{\min }_{1\le i\le n}\left(a_{ij}\right)}{{\max }_{1\le i\le n}\left(a_{ij}\right)-{\min }_{1\le i\le n}\left(a_{ij}\right)},i=1,\cdots ,n;j=1,\cdots ,p.$$
• 标准化变换：先对每个变量进行中心化变换，然后用该变量的标准差进行标准化
  $$\begin{gathered} b_{ij}=\frac{a_{ij}-{\mu }_j}{s_j},i=1,\cdots ,n;j=1,\cdots ,p, \\ \text{式中}:{\mu }_j=\frac{{\sum }_{i=1}^n{a}_{ij}}{n};s_j=\sqrt{\frac{1}{n-1}\sum _{i=1}^n{\left(a_{ij}-{\mu }_j\right)}^2} \end{gathered}$$