PRML读书会第十二章 Continuous Latent Variables（PCA Principal Component Analysis；PPCA；核P

资 源 简 介

PRML读书会第十二章 Continuous Latent Variables（PCA Principal Component Analysis；PPCA；核P

详 情 说 明

PRML第12章围绕连续潜在变量展开，重点讨论了三种核心降维技术：

主成分分析(PCA) 经典线性降维方法，通过正交变换将高维数据投影到低维子空间。其本质是寻找最大方差方向（特征向量），保留数据的主要变异特征。计算过程涉及协方差矩阵的特征值分解，可视为无监督学习的代表性算法。

概率PCA(PPCA) 为PCA建立概率框架，引入隐变量生成模型。假设观测数据由潜在变量通过线性变换叠加高斯噪声生成，其最大似然解与PCA等价。PPCA的优势在于： 可自然扩展到缺失值处理 作为生成模型支持采样 方便融入贝叶斯框架

核PCA 通过核技巧将线性PCA扩展到非线性场景。先在特征空间进行隐式映射，再执行标准PCA流程，适合处理流形结构数据。核方法的关键在于避免显式计算高维特征，仅通过核函数实现内积运算。

这些方法共同构成了处理高维数据的核心工具链，从线性到非线性、从确定性到概率性，为特征提取和可视化提供了系统的数学框架。实际应用中需注意特征值衰减分析、核函数选择以及计算复杂度等问题。