
如何在SPSS中做数据正态转化
数据不完全符合正态分布,接下来的问题是,很多学科都在讲大样本不用太考虑正态分布问题,但事实上由此造成的误差确实存在,有时还会比较大。那么如何用SPSS做数据正态化转换呢?
严格说来,解决这个问题需要讲四个方面:
什么是正态转换?
为什么做正态转换?
何时做正态转化?
如何做正态转化?
我担心如果只讲How(如何做),也许有些初学者不分场合,误用滥用。但是,我同样担心如果从ABC讲起,难免过分啰嗦,甚至有藐视大家的智商之嫌。所幸现在是互联网时代,有关上述What, Why, When问题的答案网上唾手可得。如果对这些问题不甚了了的读者,强烈建议先到google上用“How to transform data to normal distribution"搜一下(或点击下面的“前10条”),前10条几乎每篇都是必读的经典。
有了上述交代,我们可以比较放心地来讨论如何做正态转换的问题了。具体来说,涉及以下几步:
第一步
查看原始变量的分布形状及其描述参数(Skewness和Kurtosis)。这可以用频率或者描述性统计或者BoxPlot;
第二步
根据变量的分布形状,决定是否做转换。这里,主要是看一下两个问题:
1、左右是否对称
也就是看Skewness(偏差度)的取值。如果Skewness为0,则是完全对称(但罕见);如果Skewness为正值,则说明该变量的分布为positively skewed(正偏态,见下图1b);如果Skewness为负值,则说明该变量的分布为negatively skewed(负偏态,见图 1a)。然而,肉眼直观检查,往往无法判断偏态的分布是否与对称的正态分布有“显著”差别,所以需要做显著性检验。如同其它统计显著性检验一样,Skewness的绝对值如大于其标准误差的1.96倍,就被认为是与正态分布有显著差别。如果检验结果显著,我们也许(注意这里我用的是“也许”一词)可以通过转换来达到或接近对称。见注解1的说明。
2、峰态是否陡缓适度
也就是看Kurtosis(峰态)是否过分peaked(陡峭)或过分flat(平坦)。如果Kurtosis为0,则说明该变量分布的峰态正合适,不胖也不瘦(但罕见);如果Kurtosis为正值,则说明该变量的分布峰态太陡峭(瘦高个,见图2b);反之,如果Kurtosis为负值,该变量的分布峰态太平缓(矮胖子,见图2a)。峰态是否适度,更难直观看出,也需要通过显著检验。如同Skewness一样,Kurtosis的绝对值如果大于其标准误差的1.96倍,就被认为与正态分布有显著差别。这时,我们也许可以通过转换来达到或接近正态分布(峰态)。
第三步
如果需要做正态化转换,还是根据变量的分布形状,确定相应的转换公式。最常见的情况是正偏态加上陡峰态。
1、如果是中度偏态
如Skewness为其标准误差的2-3倍,可以考虑取根号值来转换,以下是SPSS的指令(其中"nx"是原始变量x的转换值,参见注2):
COMPUTE nx=SQRT(x)
2、如果高度偏态
如Skewness为其标准误差的3倍以上,则可以取对数,其中又可分为自然对数和以10为基数的对数。以下是转换自然对数的指令(注2):
COMPUTE nx=LN(x)
以下是转换成以10为基数的对数(其纠偏力度最强,有时会矫枉过正,将正偏态转换成负偏态,注2):
COMPUTE nx=LG10(x)
上述公式只能减轻或消除变量的正偏态(positive skewed),但如果不分青红皂白(即不仔细操作第一和第二步)地用于负偏态(negative skewed)的变量,则会使负偏态变得更加严重。如果第一步显示了负偏态的分布,则需要先对原始变量做reflection(反向转换),即将所有的值反过来,如将最大值变成最小值、最小值变成最大值、等等。如果一个变量的取值不多,可用如下指令来反转:
RECODE x(1=7)(2=6)(3=5)(5=3)(6=2)(7=1)
如果变量的取值很多或有小数、分数,上述方法几乎不可能,则需要写如下的指令(不知大家现在是否信服了为什么要学syntax吗?):
COMPUTE nx=max-x+1, 其中max是x的最大值。
第四步
回到第一步,再次检验转换后变量的分布形状。如果没有解决问题,或者甚至恶化(如上述的从正偏态转成负偏态),需要再从第二或第三步重新做起,然后再回到第一步的检验,等等,直至达到比较令人满意的结果(见注3)。
数据正态化的特别注解
1、如同其它统计检验量一样,Skewness和Kurtosis的的标准误差也与样本量直接有关。具体说来,Skewness的标准误差约等于6除以n后的开方(根号喜下6/n),而Kurtosis的标准误差约等于24除以n后的开方(根号下24/n),其中n均为样本量。由此可见,样本量越大,标准误差越小,因此同样大小的Skewness和Kurtosis在大样本中越可能与正态分布有显著差别。这也许就是SW在问题中提到的“很多学科都在讲大样本不用太考虑正态分布问题”的由来。我的看法是,如果小样本的Skewness和Kurtosis是显著的话,一定要转换;在大样本的条件下,如果Skewness和Kurtosis是轻度偏差,也许不需要转换,但如果严重偏差,也是要转换。
2、大家知道,根号里的x不能为负数,对数或倒数里的x不能为非正数(即等于或小于0)。如果你的x中有是负数或非正数,需要将其做线性转换成非负数(即等于或大于0)或正数(大于0),如 COMPUTE nx = SQRT (x - min) 或 COMPUTE nx = LN (x - min + 1),其中的min是x的最小值(为一个非正数)。
3、不是任何分布形态的变量都可以转换的。例外之一是“双峰”或“多峰”分布(distribution with dual or multiple modality),没有任何公式可以将之转换成单峰的正态分布。数据分析师培训
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 SQL Server 数据库操作中,“数据类型转换” 是高频需求 —— 无论是将字符串格式的日期转为datetime用于筛选,还是将数值转 ...
2025-10-10在科研攻关、工业优化、产品开发中,正交试验(Orthogonal Experiment)因 “用少量试验覆盖多因素多水平组合” 的高效性,成为 ...
2025-10-10在企业数据量从 “GB 级” 迈向 “PB 级” 的过程中,“数据混乱” 的痛点逐渐从 “隐性问题” 变为 “显性瓶颈”:各部门数据口 ...
2025-10-10在深度学习中,“模型如何从错误中学习” 是最关键的问题 —— 而损失函数与反向传播正是回答这一问题的核心技术:损失函数负责 ...
2025-10-09本文将从 “检验本质” 切入,拆解两种方法的核心适用条件、场景边界与实战选择逻辑,结合医学、工业、教育领域的案例,让你明确 ...
2025-10-09在 CDA 数据分析师的日常工作中,常会遇到这样的困惑:某电商平台 11 月 GMV 同比增长 20%,但究竟是 “长期趋势自然增长”,还 ...
2025-10-09Pandas 选取特定值所在行:6 类核心方法与实战指南 在使用 pandas 处理结构化数据时,“选取特定值所在的行” 是最高频的操作之 ...
2025-09-30球面卷积神经网络(SCNN) 为解决这一痛点,球面卷积神经网络(Spherical Convolutional Neural Network, SCNN) 应运而生。它通 ...
2025-09-30在企业日常运营中,“未来会怎样” 是决策者最关心的问题 —— 电商平台想知道 “下月销量能否达标”,金融机构想预判 “下周股 ...
2025-09-30Excel 能做聚类分析吗?基础方法、进阶技巧与场景边界 在数据分析领域,聚类分析是 “无监督学习” 的核心技术 —— 无需预设分 ...
2025-09-29XGBoost 决策树:原理、优化与工业级实战指南 在机器学习领域,决策树因 “可解释性强、处理非线性关系能力突出” 成为基础模型 ...
2025-09-29在标签体系的落地链路中,“设计标签逻辑” 只是第一步,真正让标签从 “纸上定义” 变为 “业务可用资产” 的关键,在于标签加 ...
2025-09-29在使用 Excel 数据透视表进行多维度数据汇总时,折叠功能是梳理数据层级的核心工具 —— 通过点击 “+/-” 符号可展开明细数据或 ...
2025-09-28在使用 Pandas 处理 CSV、TSV 等文本文件时,“引号” 是最容易引发格式混乱的 “隐形杀手”—— 比如字段中包含逗号(如 “北京 ...
2025-09-28在 CDA(Certified Data Analyst)数据分析师的技能工具箱中,数据查询语言(尤其是 SQL)是最基础、也最核心的 “武器”。无论 ...
2025-09-28Cox 模型时间依赖性检验:原理、方法与实战应用 在生存分析领域,Cox 比例风险模型(Cox Proportional Hazards Model)是分析 “ ...
2025-09-26检测因子类型的影响程度大小:评估标准、实战案例与管控策略 在检测分析领域(如环境监测、食品质量检测、工业产品合规性测试) ...
2025-09-26CDA 数据分析师:以数据库为基石,筑牢数据驱动的 “源头防线” 在数据驱动业务的链条中,“数据从哪里来” 是 CDA(Certified D ...
2025-09-26线性相关点分布的四种基本类型:特征、识别与实战应用 在数据分析与统计学中,“线性相关” 是描述两个数值变量间关联趋势的核心 ...
2025-09-25深度神经网络神经元个数确定指南:从原理到实战的科学路径 在深度神经网络(DNN)的设计中,“神经元个数” 是决定模型性能的关 ...
2025-09-25