数据可视化02-PCA降维

一、PCA

PCA做什么？找坐标系。

目标？二维降到一维，信息保留最多。

怎么样最好？数据分布最分散的方向（方差最大），作为主成分（坐标轴）。

二、怎么找主成分？

PC1的确定：每个点的 之和最小，即 之和最大。

PC2的确定：过原点，且与PC1垂直。

PCA降维的核心思想是：用少数几个最重要的方向（主成分PC1）来表示数据，而不是用所有方向。

为什么可以降噪？

1. 舍弃次要方向： 噪声（偏离的点）通常分布在次要方向（如PC2）上，降维时舍弃这些方向，相当于过滤了一部分噪声。

2. 压缩噪声的影响： 即使噪声点在PC1上仍有偏离，它们的偏离程度比在原始数据中要小。

三、特征值与特征向量

（一）特征向量

简单来说，特征向量定义了新的坐标轴的方向。

（二）特征值

特征值表示了每个主成分在数据集中的方差贡献率。

（三）碎石图