大话机器学习之数据预处理与数据筛选
数据挖掘和机器学习这事，其实大部分时间不是在做算法，而是在弄数据，毕竟算法往往是现成的，改变的余地很小。
数据预处理的目的就是把数据组织成一个标准的形式。
1.归一化
归一化通常采用两种方法。
a.最简单的归一化，最大最小值映射法
P_New=(P-MI)/（MA-MI）
P是原始数据，MI是这一属性中的最小值，MA是这一属性中的最大值。这样处理之后，所有的值都会限定在0-1之间。
b.标准差标准化
P_New=（P-AVG(P)）/SD(P)
其中AVG（P）为变量均值，SD(P)为标准差.
这个方法还有一个好处，就是当你发现如此处理之后，有的数字很离奇，就可以认为是异常值，直接剔除。
2、离散化
如果你的数值是连续的，有时候不是那么好处理，比如年龄。往往把数字离散成小孩，少年，青年等等更加有意义。
3、缺失值问题
这个首先要考虑缺失值的多少，如果过多，不如直接删除属性；如果在可接受范围内，则利用平均值、最大值或者别的适合的方案来补充。
当然还有一种方法，先用方法1对不缺失的记录建模，然后用该方法预测缺失值；然后用方法2最终建模。当然，这里存在许多问题，比如方法一的准确度、方法1和方法2使用同一种方法的时候产生的信息冗余。
4、异常数据点
实际的数据集有很多是异常数据，可能是由于录入错误或者采集中受到干扰等因素产生的错误数据。通常剔除异常数据的方法最常用的有如下两种。
寻找附近的点，当最近的点的距离大于某一个阈值的时候，就认为是异常点。当然也可以在限定距离内，包含的数据点少于某个数目的时候认为是异常点。
前者是基于距离，后者是基于密度。当然，还可以把两者结合，指定距离的同时也指定数目，这叫做COF。
5、数据的筛选
我们在预处理好数据之后，有时候数据的维度是很大的，出于经济性考虑，当然，需要降维或者特征选择。有时候降为和特征选择也会增加准确度。
降维通常使用PCA，主成分分析。直观上，就是把几个变量做线性组合，变成一个变量；特征选择则比较简单，就是选择相关性强的特征。
当然，PCA其实设计到矩阵的奇异值分解，具体的数学原理就不展开了。
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
在机器学习建模、数据预处理、抽样划分、模型初始化训练的全流程中，随机种子是控制实验随机性、保证结果可复现、提升模型稳定性 ...
2026-08-04Python作为面向对象的主流编程语言，核心编程体系由变量、方法、类三大基础要素构成。三者层层递进、相互协作，支撑起所有基础代 ...
2026-08-04 很多数据分析师沉迷于复杂的机器学习算法，却忽略了数据分析最基础也最核心的能力——描述性统计。事实上，80%的商业分析问 ...
2026-08-04为什么学习数据分析？ 当下，我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录，更是驱动新质生产力运 ...
2026-08-03CDA等级认证证书有效期为三年，三年进行一次年审，主要考察CDA持证人的职业发展情况；学历、工作单位及职业变更情况；继续教育 ...
2026-08-03【核心关键词】金融、岗位、企业、算法、知识、专业、理论、课程、软件、数据分析、业务类型、应用场景、经营管理、大型企业、 ...
2026-08-03在日常数据分析、业务报表复盘、业绩预测工作中，平均增长率是衡量数据长期变化趋势的核心指标，广泛用于营收增长、用户增长、销 ...
2026-08-03很多人把统计学理解为“一堆公式和计算”，却忽略了它的本质——一门让数据“开口说话”的科学。真正的数据分析高手，不是会算平 ...
2026-08-03在数据指标体系搭建工作中，从业者常困惑于指标搭建的核心逻辑：究竟是依托一线零散数据自下而上汇总指标，还是基于战略目标自上 ...
2026-07-31在数据分析、问卷研究、实验复盘、业务建模的工作中，大多数人最关注的是“用什么统计方法”：是做T检验、方差分析、卡方检验， ...
2026-07-31 许多数据分析师精通Excel函数和SQL查询，但当面对一张上万行的销售明细表，要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-07-31在问卷调研的数据分析流程中，“先检验信效度，再开展进阶统计分析”是通用的规范逻辑。很多从业者会听到“问卷效度高，后续可以 ...
2026-07-30【核心关键词】大数据、统计学、专业、毕业生、论文、课程、计算机、建模、知识、数据分析、机器学习、数据科学、大数据技术、 ...
2026-07-30 很多数据分析师掌握了Excel函数、会写SQL查询，但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-07-30在业务数据分析中，按天拆分统计夜间时段的数据是高频需求——比如电商夜间订单监测、平台夜间用户活跃度分析、运维系统夜间异常 ...
2026-07-29在机器学习建模与特征工程实践中，判断不同特征对模型预测效果的贡献度，是特征筛选、模型解释、业务归因的核心环节。特征置换重 ...
2026-07-29 很多数据分析师精通Excel单元格操作，但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-07-29【核心关键词】岗位、数字化、经验、课程、方法论、决策、企业、大方向、数据分析、销售管理、理论知识、思维方式、分析销售、 ...
2026-07-28在问卷调研、用户分群、效果对比等业务数据分析中，分类变量的关联性与差异性验证是高频需求。卡方检验作为针对离散分类数据的经 ...
2026-07-28 数据分析师八成以上的时间在和数据表格打交道，但许多人拿到Excel后习惯性地先算、先分析，结果回头发现漏了一列关键数据， ...
2026-07-28
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
