
对于机器学习或者是深度学习模型来说,我们既希望这个模型能在训练数据中表现良好(训练误差),又希望这个模型在测试集中也能有良好的表现(泛化误差)。而过拟合和欠拟合就是用来描述泛化误差的。欠拟合问题与过拟合问题,一直是模型训练中的难题,我们常常需要对这二者进行权衡,今天小编给大家整理、分享的就是欠拟合问题产生的原因以及解决办法,希望对大家有所帮助。
一、什么是欠拟合
欠拟合underfiting / high bias,就是指模型不能在训练集上获得足够低的误差,在训练集、验证集以及测试集上均表现不佳的情况。用偏差和方差来解释就是,欠拟合的时候为高偏差(偏差描述的是模型的期望输出与真实输出之间的差异)。
出现欠拟合的原因是模型尚未学习到数据的真实结构。因此欠拟合可以简单理解为:模型对训练数据的信息提取不充分,并没有学习到数据背后的规律,导致模型应用在测试集上时,无法做出正确的判断。
欠拟合,模型拟合程度不高,数据距离拟合曲线较远,不能够很好地拟合数据。
二、欠拟合解决办法
1、做特征工程,添加其他特征项,有时候欠拟合出现的原因是:特征项不够,没有足够的信息支持模型做判断。这时候我们可以通过添加其他特征项来解决。例如,“组合”、“泛化”、“相关性”、“上下文特征”、“平台特征”等等,都能够作为特征添加的首选项。
2、添加多项式特征,这种做法在机器学习算法里面很常用,举个例子,比如将线性模型通过添加二次项或者三次项使模型泛化能力更强。
3、减少正则化参数,正则化的目标是:防止过拟合的,现在模型是欠拟合,就需要减少正则化参数。
4、增加模型复杂度。模型如果太简单,就不能应对复杂的任务。我们可以通过使用更加复杂的模型,来减小正则化系数。比如可以使用核函数,集成学习方法(集成学习方法boosting(如GBDT)能有效解决high bias),深度学习等。
以上就是小编今天跟大家分享的一些欠拟合的相关知识,希望对大家处理和解决欠拟合问题有所帮助。其他机器学习和深度学习的知识,小编也会继续整理,希望大家多多关注。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
2025 年,数据如同数字时代的 DNA,编码着人类社会的未来图景,驱动着商业时代的运转。从全球互联网用户每天产生的2.5亿TB数据, ...
2025-06-052025 年,数据如同数字时代的 DNA,编码着人类社会的未来图景,驱动着商业时代的运转。从全球互联网用户每天产生的2.5亿TB数据, ...
2025-05-27CDA数据分析师证书考试体系(更新于2025年05月22日)
2025-05-26解码数据基因:从数字敏感度到逻辑思维 每当看到超市货架上商品的排列变化,你是否会联想到背后的销售数据波动?三年前在零售行 ...
2025-05-23在本文中,我们将探讨 AI 为何能够加速数据分析、如何在每个步骤中实现数据分析自动化以及使用哪些工具。 数据分析中的AI是什么 ...
2025-05-20当数据遇见人生:我的第一个分析项目 记得三年前接手第一个数据分析项目时,我面对Excel里密密麻麻的销售数据手足无措。那些跳动 ...
2025-05-20在数字化运营的时代,企业每天都在产生海量数据:用户点击行为、商品销售记录、广告投放反馈…… 这些数据就像散落的拼图,而相 ...
2025-05-19在当今数字化营销时代,小红书作为国内领先的社交电商平台,其销售数据蕴含着巨大的商业价值。通过对小红书销售数据的深入分析, ...
2025-05-16Excel作为最常用的数据分析工具,有没有什么工具可以帮助我们快速地使用excel表格,只要轻松几步甚至输入几项指令就能搞定呢? ...
2025-05-15数据,如同无形的燃料,驱动着现代社会的运转。从全球互联网用户每天产生的2.5亿TB数据,到制造业的传感器、金融交易 ...
2025-05-15大数据是什么_数据分析师培训 其实,现在的大数据指的并不仅仅是海量数据,更准确而言是对大数据分析的方法。传统的数 ...
2025-05-14CDA持证人简介: 万木,CDA L1持证人,某电商中厂BI工程师 ,5年数据经验1年BI内训师,高级数据分析师,拥有丰富的行业经验。 ...
2025-05-13CDA持证人简介: 王明月 ,CDA 数据分析师二级持证人,2年数据产品工作经验,管理学博士在读。 学习入口:https://edu.cda.cn/g ...
2025-05-12CDA持证人简介: 杨贞玺 ,CDA一级持证人,郑州大学情报学硕士研究生,某上市公司数据分析师。 学习入口:https://edu.cda.cn/g ...
2025-05-09CDA持证人简介 程靖 CDA会员大咖,畅销书《小白学产品》作者,13年顶级互联网公司产品经理相关经验,曾在百度、美团、阿里等 ...
2025-05-07相信很多做数据分析的小伙伴,都接到过一些高阶的数据分析需求,实现的过程需要用到一些数据获取,数据清洗转换,建模方法等,这 ...
2025-05-06以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda.cn/g ...
2025-04-30CDA持证人简介: 邱立峰 CDA 数据分析师二级持证人,数字化转型专家,数据治理专家,高级数据分析师,拥有丰富的行业经验。 ...
2025-04-29CDA持证人简介: 程靖 CDA会员大咖,畅销书《小白学产品》作者,13年顶级互联网公司产品经理相关经验,曾在百度,美团,阿里等 ...
2025-04-28CDA持证人简介: 居瑜 ,CDA一级持证人国企财务经理,13年财务管理运营经验,在数据分析就业和实践经验方面有着丰富的积累和经 ...
2025-04-27