非负矩阵分解的最经典算法

资 源 简 介

非负矩阵分解的最经典算法

详 情 说 明

非负矩阵分解（Non-negative Matrix Factorization，NMF）是一种广泛应用于数据降维和特征提取的矩阵分解方法。其核心思想是将一个非负矩阵分解为两个低维非负矩阵的乘积，从而保留数据的局部特征。1999年，D.D. Lee和H.S. Seung在《Nature》杂志上发表了一篇经典论文，提出了基于乘法更新规则（Multiplicative Update Rules）的NMF算法。

该算法的核心步骤包括初始化两个非负矩阵（基矩阵和系数矩阵），然后通过迭代优化的方式最小化原始矩阵与分解后矩阵近似之间的差异。具体而言，算法采用交替更新策略，每次固定其中一个矩阵，更新另一个矩阵。更新公式采用乘法形式，确保分解后的矩阵始终保持非负性。

该方法的优点在于实现简单，迭代过程中自然地保持非负约束，适用于图像处理、文本挖掘和生物信息学等领域。然而，算法对初始化敏感，且可能收敛到局部最优解。后续研究提出了许多改进版本，如添加稀疏性约束或采用交替最小二乘法（ALS）优化。

整体而言，Lee和Seung的乘法更新规则奠定了NMF的基础框架，至今仍是最广泛使用的实现方式之一。