数据预处理的一些方法
现实世界中，数据集存在着不完整、包含噪声和不一致等特点，无法直接用来挖掘知识。收集数据的设备可能出故障，人为输入数据时出错或缺失，数据传输中引起的错误都将造成数据集含有不正确的属性值。数据中各个属性的单位不同，也可能造成分析过程以及预测模型的不精确。可以使用以下方法预处理数据集。
（1）删除缺失值。
（2）箱线图
R语言使用boxplot()命令绘制箱线图，箱线图也是我们常说的五数分布，通过计算 IQR=Q3-Q1，即第三个四分位数减去第一个四分位数。常用经验是剔除至少高于第三个四分位数或低于第一个四分位数1.5*IQR处的值。但在实际生产过程中，1.5只是经验带给人们的参考值，具体情况应修改这个数值。例如本次试验中，如果使用1.5这个数字，将会剔除大部分数据点，使得数据集失去意义。部分属性甚至高达10才可达到既剔除无用数据又最大限度的保留原本数据的目的。如图1所示。图中用o代替的点即为需要剔除的离群点。
图1
（3）数据标准化/归一化
数据中心化是指讲每一项数据减去该数据集的均值。值得注意的是，标准化会对原始数据产生改变，需要保存所使用的标准化方法的参数，以便对后续的数据进行统一的标准化。数据标准化有几种不同的方法：
1. min-max标准化公式：新数据=（原数据-极小值）/（极大值-极小值）。这样能将原始值映射在[0,1]区间中的某值。
2. z-score法：将中心化后的数据除以数据集的标准差，这样做的意义是消除量纲对数据结构的影响。R语言中使用scale(x,center = T,scale =T)命令进行z-score标准化。
3. 小数定标标准化
4. 对数Logistic模式公式：新数据=1/(1+e^(-原数据))
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
解析 loss.backward ()：深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中，loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题，需先明确 K-S 图的核心用途（检验样本分布与理论分布的一致性），再结合横轴 ...
2025-09-02CDA 数据分析师：助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下，数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战：基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中，税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX：租房系统数据库性能优化实践 在租房管理系统中，rent表是核心业务表之一，通常存储租赁订单信 ...
2025-09-01CDA 数据分析师：企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”， ...
2025-09-01数据清洗工具全景指南：从入门到进阶的实操路径 在数据驱动决策的链条中，“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化：以预测结果为核心的闭环调优路径 在机器学习模型落地中，“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29CDA 数据分析与量化策略分析流程：协同落地数据驱动价值 在数据驱动决策的实践中，“流程” 是确保价值落地的核心骨架 ——CDA ...
2025-08-29CDA含金量分析 在数字经济与人工智能深度融合的时代，数据驱动决策已成为企业核心竞争力的关键要素。CDA（Certified Data Analys ...
2025-08-28CDA认证：数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据，当苏州银行的数字金融部连夜部署新的风控 ...
2025-08-28PCU：游戏运营的 “实时晴雨表”—— 从数据监控到运营决策的落地指南 在游戏行业，DAU（日活跃用户）、MAU（月活跃用户）是衡量 ...
2025-08-28Excel 聚类分析：零代码实现数据分群，赋能中小团队业务决策 在数字化转型中，“数据分群” 是企业理解用户、优化运营的核心手段 ...
2025-08-28CDA 数据分析师：数字化时代数据思维的践行者与价值推动者 当数字经济成为全球经济增长的核心引擎，数据已从 “辅助性信息” 跃 ...
2025-08-28ALTER TABLE ADD 多个 INDEX：数据库批量索引优化的高效实践 在数据库运维与性能优化中，索引是提升查询效率的核心手段。当业务 ...
2025-08-27Power BI 去重函数：数据清洗与精准分析的核心工具 在企业数据分析流程中，数据质量直接决定分析结果的可靠性。Power BI 作为主 ...
2025-08-27CDA 数据分析师：数据探索与统计分析的实践与价值 在数字化浪潮席卷各行业的当下，数据已成为企业核心资产，而 CDA（Certif ...
2025-08-27t 检验与 Wilcoxon 检验：数据差异比较的两大统计利器 在数据分析中，“比较差异” 是核心需求之一 —— 如新药疗效是否优于旧药 ...
2025-08-26季节性分解外推法：解锁时间序列预测的规律密码 在商业决策、资源调度、政策制定等领域，准确的预测是规避风险、提升效率的关键 ...
2025-08-26CDA 数据分析师：数据治理驱动下的企业数据价值守护者 在数字经济时代，数据已成为企业核心战略资产，其价值的释放离不开高 ...
2025-08-26
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
