特征选择 在机器学习和统计学中特征选择英語feature selection也被称为变量选择属性选择 或变量子集选择 它是指为了构建模型而选择相关特征即属性指标子集的过程使用特征选择技术有三个原因 简化模型使之更易于被研究人员或用户理解 缩短训练时间 改善通用性降低过拟合即降低方差  要使用特征选择技术的关键假设是训练数据包含许多冗余 或无关 的特征因而移除这些特征并不会导致丢失信息 冗余 或无关 特征是两个不同的概念如果一个特征本身有用但如果这个特征与另一个有用特征强相关且那个特征也出现在数据中那么这个特征可能是冗余的 特征选择技术与特征提取有所不同特征提取是从原有特征的功能中创造新的特征而特征选择则只返回原有特征中的子集 特征选择技术的常常用于许多特征但样本即数据点相对较少的领域特征选择应用的典型用例包括解析书面文本和微阵列数据这些场景下特征成千上万但样本只有几十到几百个