建设一个网站用什么软件,wordpress搜索页面怎么仿,常见的网络营销方法有哪些?,来安县城乡规划建设局网站参考#xff1a;PCA降维原理 操作步骤与优缺点_TranSad的博客-CSDN博客 PCA降维算法_偶尔努力翻身的咸鱼的博客-CSDN博客
需要提前了解的数学知识#xff1a; 一、PCA的主要思想
PCA#xff0c;即主成分分析方法#xff0c;是一种使用最广泛的数据降维算法。PCA的主要思想…参考PCA降维原理 操作步骤与优缺点_TranSad的博客-CSDN博客 PCA降维算法_偶尔努力翻身的咸鱼的博客-CSDN博客
需要提前了解的数学知识 一、PCA的主要思想
PCA即主成分分析方法是一种使用最广泛的数据降维算法。PCA的主要思想是将n维特征映射到k维上这k维是全新的正交特征也被称为主成分是在原有n维特征的基础上重新构造出来的k维特征。PCA的工作就是从原始的空间中顺序地找一组相互正交的坐标轴新的坐标轴的选择与数据本身是密切相关的。其中第一个新坐标轴选择是原始数据中方差最大的方向第二个新坐标轴选取是与第一个坐标轴正交的平面中使得方差最大的第三个轴是与第1,2个轴正交的平面中方差最大的。依次类推可以得到n个这样的坐标轴。通过这种方式获得的新的坐标轴我们发现大部分方差都包含在前面k个坐标轴中后面的坐标轴所含的方差几乎为0。于是我们可以忽略余下的坐标轴只保留前面k个含有绝大部分方差的坐标轴。事实上这相当于只保留包含绝大部分方差的维度特征而忽略包含方差几乎为0的特征维度实现对数据特征的降维处理。 二、PCA的计算过程
有m个样本每个样本有n维特征现在使用PCA降到n维
m * n —— m * k
1.在变的那个维度上(n)去中心化得到X 2.计算X的协方差矩阵
3.求协方差矩阵的特征值以及对应特征向量对应的特征向量就是第一个主成分、第二个主成分……取前K个最大特征值他们对应的特征向量组成矩阵PY P * X即为降维后的特征
