LMNN，监督距离度量

资 源 简 介

LMNN，监督距离度量

详 情 说 明

LMNN（Large Margin Nearest Neighbor，大间隔最近邻）是监督式度量学习领域中被广泛认可的经典方法，其核心目标是通过优化特征空间中的距离度量，使得同类样本更紧密、异类样本更疏远，从而直接提升K近邻（KNN）等依赖距离的分类器性能。

与无监督度量学习（如欧氏距离）不同，LMNN利用标签信息构建三重损失约束：对于每个锚点样本，要求其与同类样本（目标邻居）的距离必须小于与异类样本（干扰样本）的距离，且两者间需保留安全间隔。这种显式的边界优化使模型在应对复杂数据分布时，能学习到更具判别性的距离度量。

LMNN的优势在于： 判别性强：通过三重损失直接优化分类边界，尤其适合类别重叠较少的数据 可解释性：学习的马氏距离矩阵可逆向分析特征间相关性 兼容性：学到的度量可无缝接入KNN、聚类等下游任务

当前主流改进方向包括结合深度学习的端到端训练、应对非线性问题的核化版本，以及处理大规模数据的稀疏优化变体。