数据降维——主成分分析

1、作用

主成分分析将多个有一定相关性的指标进行线性组合，以最少的维度解释原数据中尽可能多的信息为目标进行降维，降维后的各变量间彼此线性无关，最终确定的新变量是原始变量的线性组合，且越往后主成分在方差中的比重也小，综合原信息的能力越弱，与因子分析不同的是，因子分析是利用少数几个公共因子去解释较多个要观测变量中存在的关系，它不是对原始变量的重新组合。

2、输入输出描述

输入：2 个或两个以上的定量变量（假设为 N 个变量）
输出:最低可降维成 1 维（一个变量，一般用于综合评价），最多可降维成 N 个变量（一般用于数据脱敏），同时可以获取降维后各个变量的组成权重，用于代表原先变量的数据保留情况。

​3、案例示例

现在某银行有一张100个变量的用户属性数据表，需要在保证数据的原有信息的损失率最小情况，进行脱敏与降维。

4、建模步骤

主成分分析法是运用“降维”思想，把多个指标 变换成少数综合指标的多元统计方法，这里的综合 指标就是主成分。每个主成分都是原始变量的线性组合，彼此相互独立，并保留了原始变量绝大部分信息。其本质是通过原始变量的相关性，寻求相关变 量的综合替代对象，并且保证了转化过程中的信息损失最小 。
根据标准化后的数据集计算协方差矩阵Ｒ:

计算矩阵 Ｒ 的特征值 λ１ ≥λ２ ≥…≥λｎ ≥ ０及 对应的特征向量 u１ ,ｕ２ ,…,ｕｎ ,其中 ｕｊ＝ (u１ j,ｕ２ j, …,ｕnj) ,ｕ nj 表示第 j 个特征向量的第 n 个分量; 由特征向量组成 n 个新的指标变量:

式中,ｙ 1 是第 1 主成分,ｙ 2 是第 2 主成分,…,ｙ n 是第 n 主成分。 计算各主成分ｙ j 贡献率 ｂ j(j=1,2,...,n) 及 ｙ 1,ｙ 2 ,…,ｙ n (ｐ ≤ ｎ)的累计贡献率  。