线性鉴别分析

资 源 简 介

线性鉴别分析

详 情 说 明

线性鉴别分析（Linear Discriminant Analysis, LDA）是一种经典的监督学习算法，主要用于特征降维和分类任务。与PCA不同，LDA在降维时考虑了类别标签信息，目标是找到能够最大化类间距离同时最小化类内距离的投影方向。

LDA的核心思想是通过计算类间散布矩阵和类内散布矩阵，求解最优投影矩阵。算法首先计算每个类别的均值向量，然后构建类间散布矩阵表示不同类别中心之间的分散程度，类内散布矩阵则衡量同一类别样本的聚集程度。通过求解广义特征值问题，LDA找到使类间方差与类内方差比值最大的投影方向。

在聚类应用中，LDA降维后的数据可以保留更好的类别判别信息，这使得后续的聚类算法如K-means能够更准确地区分不同类别。需要注意LDA要求数据满足正态分布假设，且当类别数量很多时可能遇到小样本问题。