Python：PCA降维与还原详解

最新推荐文章于 2025-07-22 20:13:05 发布

原创

最新推荐文章于 2025-07-22 20:13:05 发布 · 2k 阅读

22 ·

CC 4.0 BY-SA版权

文章标签：

#python #信息可视化 #pca

文章目录

1. PCA
- 1.1 PCA 原理
- 1.2 PCA 应用场景
2. 使用 Python 实现 PCA

1. PCA

1.1 PCA 原理

PCA（Principal Component Analysis，主成分分析）是一种广泛使用的统计方法，主要用于数据降维和特征提取。PCA 的核心目标是通过线性变换将高维数据映射到低维空间，同时保留尽可能多的原数据的变异信息。这种方法特别适合于处理存在高度相关性的变量（即冗余数据）的情况，因为 PCA 能够识别出数据中的主要变化趋势。

数据标准化：PCA 首先要求数据进行中心化（去均值），即将每个特征减去该特征的平均值，使数据的均值为零。这样可以确保 PCA 的输出不受数据量纲的影响。
协方差矩阵的构建：对于去均值后的数据，PCA 计算协方差矩阵。协方差矩阵反映了各变量之间的线性关系。
特征值分解：PCA 对协方差矩阵进行特征值分解，得到一组特征值及其对应的特征向量。特征值代表了数据沿对应特征向量方向的方差大小。
选择主成分：根据特征值的大小，选择前 k 个最大的特征值所对应的特征向量，这些特征向量构成一个新的坐标轴系统，称为主成分。通常，这些主成分能解释数据中的大部分变异。
数据投影：将原始数据投影到由选定的 k 个主成分构成的新坐标轴上，从而达到降维的目的。

1.2 PCA 应用场景

（1）数据可视化：PCA 可以将高维数据降至二维或三维，便于数据的可视化。
（2） 特征提取：PCA 可以用于提取数据中的重要特征，减少模型训练的复杂度。
（3）降噪：PCA 还可以帮助去除数据中的噪声，通过保留较大的特征值对应的主成分，舍弃小特征值对应的成分，可以实现数据的去噪。
（4）数据压缩：在图像处理和信号处理中，PCA 可以用于数据的无损或有损压缩。

2. 使用 Python 实现 PCA

2.1 简单例子

在 Python 中，可以使用 scikit-learn 库中的 PCA 类来执行 PCA。

from sklearn.decomposition import PCA
from sklearn.preprocessing import StandardScaler
import numpy as np

# 假设 X 是你的数据集
X = np.random.rand(100, 10)

# 数据预处理，进行标准化
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
print("X_scaled:\n", X_scaled)

# 创建 PCA 实例
pca = PCA(n_components=2)  # 降维至2维

# 拟合数据并转换
X_pca = pca