电子科技大学：《数据分析与数据挖掘 Data Analysis and Data Mining》课程教学资源（课件讲稿）降维算法

降维算法 电子科技大学朱钦圣

降维算法 电子科技大学 朱钦圣

目 泉 ①降维算法简介 2四大降维算法 CONTENTS 3 主成分分析

1 降维算法简介 2 四大降维算法 3 主成分分析 目CONTENTS 录

章节 降维算法简介

章节 1 降维算法简介

定义 ▣机器学习领域中所谓的降维就是指采用某种映射方法 将原高维空间中的数据点映射到低维度的空间中。 降维的本质是学习一个映射函数f:->y,其中x是原始数 据点的表达，目前最多使用向量表达形式。 。y是数据点映射后的低维向量表达，通常y的维度小于x的 维度（当然提高维度也是可以的）

定义  机器学习领域中所谓的降维就是指采用某种映射方法， 将原高维空间中的数据点映射到低维度的空间中。  降维的本质是学习一个映射函数 f : x->y，其中x是原始数 据点的表达，目前最多使用向量表达形式。  y是数据点映射后的低维向量表达，通常y的维度小于x的 维度（当然提高维度也是可以的）

目的 目前大部分降维算法处理向量表达的数 据，也有一些降维算法处理高阶张量表 达的数据

目的 目前大部分降维算法处理向量表达的数 据，也有一些降维算法处理高阶张量表 达的数据

之所以使用降维后的数据表示是因为在原始的高维 空间中，包含有冗余信息以及噪音信息，在实际应 用列如图像识别中造成了误差，降低了准确率；而 通过降维，我们希望减少冗余信息所造成的误差提 高识别（或其他应用）的精度。希望通过降维算法 来寻找数据内部的本质结构特征

之所以使用降维后的数据表示是因为在原始的高维 空间中，包含有冗余信息以及噪音信息，在实际应 用例如图像识别中造成了误差，降低了准确率；而 通过降维,我们希望减少冗余信息所造成的误差,提 高识别（或其他应用）的精度。希望通过降维算法 来寻找数据内部的本质结构特征

在很多算法中，降维算法成为了数据预处理的一部分， 如PCA。事实上，有一些算法如果没有降维预处理，其 实是很难得到很好的效果的

在很多算法中，降维算法成为了数据预处理的一部分， 如PCA。事实上，有一些算法如果没有降维预处理，其 实是很难得到很好的效果的

两大方法 变量选择：变量选择假定数据中包含大量冗 余或无关变量（或称特征、属性、指标等）， 旨在从原有变量中找出主要变量

两大方法 变量选择：变量选择假定数据中包含大量冗 余或无关变量（或称特征、属性、指标等）， 旨在从原有变量中找出主要变量

特征提取：特征提取可以看作变量选择方法 的一般化：变量选择假设在原始数据中，变 量数目浩繁，但只有少数几个真正起作用； 而特征提取则认为在所有变量可能的函数（比 如这些变量各种可能的线性组合)中，只有少 数几个真正起作用

特征提取：特征提取可以看作变量选择方法 的一般化：变量选择假设在原始数据中，变 量数目浩繁，但只有少数几个真正起作用； 而特征提取则认为在所有变量可能的函数(比 如这些变量各种可能的线性组合)中，只有少 数几个真正起作用

章节 四大降维算法 2

章节 四大降维算法 2