一、具体方法

1.主成分分析的具体方法

主成分分析是一类常用的针对连续变量的降维方法，选取能够最大化解释数据变异的成分，将数据从高维降到低维，同时保证各个维度之间正交。对变量的协方差矩阵或相关系数矩阵求取特征值和特征向量，经证明，对应最大特征值的特征向量，其方向正是协方差矩阵变异最大的方向。依次类推，第二大特征值对应的特征向量，是与第一个特征向量正交且能最大程度解释数据剩余变异的方向，而每个特征值则能够衡量各方向上变异的程度。因此，进行主成分分析时，选取最大的几个特征值对应的特征向量，并将数据映射在这几个特征向量组成的参考系中，达到降维的目的（选择的特征向量数量低于原始数据的维数）。

二、算法解析

1.主成分分析算法解析

主成分分析算法认为，数据的信息是包含在其方差当中的，如果一个随机变量的方差很小，说明其不确定性较低，或者说即便我们没有获得这个变量的抽样值，也几乎可以用一个确定的值（例如其期望值）来代替它，因此引入它只能消除很少的不确定性，即该变量包含的信息较少。相反，一个方差很大的变量，如果能够获得它的抽样值，则可以帮助我们消除很大一部分不确定性，因此它包含的信息较多。从主成分分析的观点出发，我们就知道下图中投影到哪个轴更加合适了，显然将原始坐标轴旋转到左图当中的U1位置更好，因为数据在这个方向上的变异（方差）更大，而样本在右图的U1方向显然变异更小（图中阴影用于示意离散程度，并不代表方差大小）。

我们的目标是优化上式，求满足该函数最大化的 u，可以使用拉格朗日乘数法，即求满足下式最大的 u：

三、应用

1.何时采用相关系数计算方法和协方差矩阵计算方法

在实际研究中，有时单个指标的方差对研究目的起关键作用，为了达到研究目的，此时用协方差矩阵进行主成分分析恰到好处。相关系数矩阵就是随机变量标准化后的协方差矩阵。通过随机变量的标准化，相关系数矩阵剥离了单个指标的方差,仅保留指标间的相关性,用相关系数矩阵计算主成分，其优势效应仅体现在相关性大、相关指标数多的一类指标上。

2.主成分法的应用

大致分为三个方面：

（1）对数据做综合打分

（2）降维以便对数据进行描述

（3）为聚类或回归等分析提供变量压缩在应用时要能够判断主成分法的适用性，能够根据需求选取合适的主成分数量。