京公网安备 11010802034615号
经营许可证编号:京B2-20210330
作者:丁点helper
来源:丁点帮你
前面的文章主要介绍了回归的一些关键词,比如回归系数、样本和总体回归方程、预测值和残差等,今天我们结合一个案例来看看如何做完整的回归分析,准确而言,是多重线性回归(Multiple Linear Regreesion)。
回顾:多重线性回归
多重线性回归,一般是指有多个自变量X,只有一个因变量Y。前面我们主要是以简单线性回归为例在介绍,两者的差距主要在于自变量X的数量,在只有一个X时,就称简单线性回归。
在实际应用中,我们当然很少只纳入一个自变量。多重线性回归一般也叫“多元线性回归”,我更支持“多重”的叫法,因为“多元”一般也指“因变量Y”有多个。
通过前面的文章,我们知道做线性回归就是要构建Y与X的线性关系,主要目的有两个,一是确定X对Y的影响程度(即回归系数的计算);二是通过X来预测Y。
这里最重要的一条准则是:Y需要是定量变量,就是类似于“收入”、“得分”等。而对X没有这样的要求,可以是定量的,如“教育年限”、“年龄”等;也可以是“性别”、“民族”等分类变量。
案例 从某高校三年级女生体检的数据中,随机抽取20名作为样本,数据包括体重(kg)、胸围(cm)、肩宽(cm)及肺活量(L),分析女大学生肺活量的影响因素,数据见下表:
首先简单看看上表的数据,我们想要研究女生肺活量的影响因素,所以回归的因变量为“肺活量(Y)”,根据常识和数据,这里的Y是定量变量。
搜集的其他数据作为潜在的影响因素(X)纳入回归方程,分别是:体重、胸围、肩宽。我们也能简单就能判断这三个自变量都是定量变量。
(对于变量类型如何判断还不太了解的同学,戳此回顾)
这里进行回归分析,一是判断这些X是否都会影响Y(总体回归系数是否不为0);二是通过构造的回归方程,未来根据X的值计算Y的预测值。
多重线性回归的SPSS操作
回归分析用SPSS操作的步骤如下:
SPSS数据录入格式
回归操作窗口,Dependent为因变量,Independent为自变量,分别移入
上图中的“Method”称作“自变量筛选”方法,我们做线性回归分析很重要的一点是找Y的影响因素,这里的“找”就意味着“筛选”。
比如本案例我们纳入了三个自变量,通过回归分析,就是要找到那些真正对Y产生影响的变量。最终的结果有可能三个X都有影响,则最终的回归方程会有三个X,也有可能一个X都没有。
我们看到Method的下拉菜单有不同的选项:
Enter:将自变量强行全部纳入回归方程,不排除回归系数P值大于0.05的情况;
Stepwise、Remove、Backward、Forward,这些都是软件筛选自变量的方法,虽然名称不一,但思想相近,主要就是根据回归系数检验的P值是否小于0.05(有的是0.1)判断回归方程中应不应该有这个变量。
一般来讲,没有哪个筛选方法最优,但实际应用中常见的是Stepwise和Backward,建议大家自己进行回归分析时可以更换不同的方法尝试,选择自己认为合适的方法。
本案例使用Stepwise法,中文称为“逐步法”或“步进法”。
多重线性回归的结果分析
以下为SPSS分析结果展示:
表1:回归方程的拟合程度
上表最左侧一列为“Model”,表示的是SPSS筛选变量的过程,因为我们选择的是stepwise,所以每进行一步,即每筛选一个变量,就称为一个Model,比如Model"1"表示只纳入1个自变量,Model“2”表示纳入2个,“3”表示纳入3个,”4“表示最终模型剔除了一个自变量,仅纳入2个自变量。
表格第2-4列分别为”R、R Square、Adjusted R Square“,一般的教科书讲的很多,表示的是回归方程对因变量的解释程度,数值越大,解释度越高。但它又是一个比较尴尬的数,实际应用简单参考即可。
表2:回归方程的整体检验
这里的Model和上表1中表示的是同一个意思,代表了包括不同自变量的回归方程。对于回归方程的检验,一般来讲,都是有统计学意义的,看最后一列(Sig.),即P值均小于0.05。
表3:回归系数结果
表3中的Model详细展示了变量的筛选过程,比如在Model 3中,回归方程将三个自变量”肩宽、体重、胸围“全部纳入,但是发现,”肩宽“这个变量的Sig.(P值)大于0.1了,于是就将它剔除出去,从而得到模型4——只纳入”体重和胸围“两个自变量,对照后面的P值结果,均小于0.05。
以上只是一种筛选变量的一种方法(Stepwise),通过统计软件P值自动进行,这并不意味,所有的线性回归分析均只能通过这种方法筛选,我们常说需要结合专业知识判断,在做回归分析时也不例外。
如果回归分析的结果与专业知识相悖,比如根据专业知识有影响的变量却被软件剔除,那我们首先得慎重思考回归的结果是否可信,比如是否满足前文提及的LINE条件,是否出现了多重共线性问题等等;如果经过诊断分析发现这些问题都不存在,在研究报告或论文中,仍可以如实地报告结果,为后面的研究提供参考。
本案例,我们还是依照统计软件的结果筛选变量,得到的最终回归方程为:
根据上表,我们写出本研究的回归方程:
上述结果表示,可以认为体重和胸围是影响该校一年级女大学生肺活量的主要因素,保持胸围不变,体重增加1kg,估计肺活量平均增加0.081L(回归系数”0.081“的含义,在多重线性回归分析中也可称作”偏回归系数“);保持体重不变,胸围增大1cm,估计肺活量平均增加0.046L(回归系数”0.046“的含义)。
另外,上表最后一列提供了一个”标准化偏回归系数“,这是将XY分别标准化之后再进行回归分析,如下:
”标准化偏回归系数“可以用来比较不同的自变量X对Y的影响程度。本例中,体重和胸围的标准化偏回归系数分别为0.644和0.436,意味着体重对肺活量的影响大于胸围对肺活量的影响。
以上即为回归分析的全过程,最后留给大家一个思考题,这里进行的分析,表示的是X和Y的相关关系,还是因果关系?欢迎在评论区留言讨论。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在描述性统计分析、数据预处理、异常值排查与多组数据分布对比工作中,箱线图(Box Plot)是应用最广泛的可视化与统计工具之一。 ...
2026-07-15在企业数据存储、业务统计与数据分析工作中,绝大多数业务数据都带有时间维度属性,例如订单创建时间、用户注册时间、支付完成时 ...
2026-07-15 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-07-15【核心关键词】产品、经营、客户、调研、销售额、宏观、会计行业、客户满意度、发展趋势、经营状况、数据分析、竞争对手、数据 ...
2026-07-14问卷调查是市场调研、用户研究、社会调研与产品分析的核心数据采集方式。问卷数据大多以分类数据为主,例如用户性别、年龄分层、 ...
2026-07-14 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-07-14在数据分析、业务效果验证、AB实验扩展、行业对比等场景中,我们经常需要对比三组及以上样本的均值差异,例如不同区域的客单价对 ...
2026-07-13在互联网产品运营、用户生命周期管理与商业化数据分析中,留存指标是判断产品价值、用户满意度与商业模式健康度的核心基准。常规 ...
2026-07-13 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-07-13【核心关键词】统计学、互联网、知识、课程、学生、数学、软件、招聘、数据分析、实习经历、机器学习、理论基础、业务思维、统 ...
2026-07-10在互联网运营、产品设计、市场营销与商业数据分析领域,所有转化、成交、复购行为的底层逻辑,都依托于用户决策流程。用户从产生 ...
2026-07-10 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-07-10数据透视表是数据分析中最常用、最高效的汇总分析工具,具备快速分组、聚合计算、维度拆解、数据可视化等优势,能够轻松完成求和 ...
2026-07-09在统计学、CDA数据分析、机器学习与商业数据研究中,正态分布是最基础、最重要的数据分布形态。绝大多数参数检验、数据建模、指 ...
2026-07-09 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-07-09【核心关键词】采购、周期、原材料、企业、产品、成本、要素、库存、供应商、数据分析、生产计划、生产制造、加工制造、技术工 ...
2026-07-08在数据分析、特征工程、机器学习建模的工作流程中,原始数据往往包含多个不同维度的数值指标,例如客户交易数据中的消费金额、交 ...
2026-07-08 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-07-08商业谈判是企业采购合作、渠道签约、价格议价、项目合作、客户签约的核心关键环节,直接决定企业的合作成本、利润空间与经营风险 ...
2026-07-07在数据分析、业务效果验证、AB 测试、学术研究等场景中,T 检验是假设检验体系里最基础、应用最广泛的统计方法,也是均值差异分 ...
2026-07-07