2.2 局部保持投影算法

在Laplacian特征映射（Laplacian Eigenmap，LE）算法的基础上，He Xiaofei等人提出了LPP算法。LPP算法是LE算法的线性近似，采用LPP算法进行特征提取时，可以保持数据的局部流形结构。同时，它与主成分分析（Principal Component Analysis，PCA）算法和线性判别分析（Linear Discriminant Analysis，LDA）算法等传统线性算法一样，有明确的投影矩阵，可方便地对新数据进行处理，降低了流形学习算法的复杂度。LPP算法的基本思想是首先建立样本点的邻域关系，根据该邻域关系推导出一个线性变换，使进行特征提取后，原来高维数据中的局部信息能够得到保留。LPP算法的具体实现步骤如下。

第一步，根据 ε 邻域法或 k 近邻法建立样本点的邻域关系。

第二步，根据邻域关系构建样本点的相似度矩阵 S ，有

第三步，求解如下广义特征分解，得到投影矩阵 W ：

式中， Y =（ y ₁ ， y ₂ ，…， y _N ）； L 为拉普拉斯矩阵， L = H-S ； H 是一个对角矩阵，其元素（ H _ii =Σ _i S _ij ）为矩阵 S 的沿行方向元素的和或沿列方向元素的和（因为 S 是一个对称矩阵）； W 为投影矩阵， W =（ w ₀ ， w ₁ ，…， w _{l -1} ），其对应的特征值为0 λ ＜ ₁ λ ＜…＜ λ _{l -1} 。LPP算法求解得到的线性变换可以表示为 x _i = W ^T y _i 。 foIYkV5gO9HFcOx1sOGJcS9IWPatqySFjspfB34+duJcPyu5MB4lYSmgTwgZrAub