京公网安备 11010802034615号
经营许可证编号:京B2-20210330
要处理数据异常,我们要先知道什么是数据异常。首先要有数据,才能知道什么是“异常”,百度百科的解释是:指非正常的,不同于平常的。比方如突然的涨,突如其来的跌。
数据涨跌是我们在日常工作中,最容易被发现的现象,也是我们平时工作中要去分析的。也就是说,平时数据没有波动,也许我们不需要去分析,但是如果数据有涨或者跌我们都需要去查出原因的。
为什么涨和跌都要关注?
相信很多朋友跟我一样,起初接触到数据,我只关心跌,为什么昨天的数据跌了?并去分析其原因,也会关心涨,但并不关心为什么涨,就像买股票一样,跌了痛心疾首,并分析原因,涨了满心欢喜,后悔自己为什么不买入多一点儿。
在数据分析的过程中,我们不仅仅要关心跌,以便采取相应动作,减缓跌的趋势,也更要关心涨,弄清楚涨的原因,并放大它,或者说是复制它!
数据异动分析方法论
针对异常数据的处理,通常有五个步骤:
1.发现异常
就像你发现昨天数据跟往前不一样,猛涨了还是猛跌了,通过观测数据发现异常。
2.确定问题
发现异常之后,我们要确定这个异常是不是一个问题,有多严重,可以用对比分析法从时间维度上进行周同比、月同比或者是年同比。
3.确定原因
用多维度拆解法,对于这个异常的指标从不同的维度去拆解,找出原因。
4.针对性解决问题
找到原因之后,就是针对性的解决问题了,根据问题的原因,动用公司的相关资源,去解决这个问题。
5.执行
最后就是执行解决方案,把这个异常数据真正的从异常到执行,完成一个闭环。
案例解析
举个栗子:你现在是做社交APP产品的,在处理数据的过程中,发现某一天的数据异常,该如何分析?
发现问题:在对数据进行统计汇总时发现某一天的异常数据。
确定问题:数据跌了那么多,问题是不是很严重呢?往期有没有这么大的浮动?
由上图的周同比和月同比数据可以看出,往期是没有这个问题的,那说明这是一个严重的个例,表示这一天确实发生了什么事情,造成数据异常的情况。
确定原因:那是不是哪个省份出了问题呢?下面我们按省份进行查看,由下图可以看出,这次数据的猛跌是全国范围内的,基本上所有的省份都有下迭,这样就排除了某个区域下跌的原因。
那是不是设备出问题了呢?再来看不同操作系统的数据有什么不同,由下图可以看出安卓和iOS在这天都出现了下跌,所以排除了设备出问题的可能性。
那是不是服务挂了呢?按小时或者分钟来查看数据是不是符合平时流量规律?
通过上图可以看出,在这一天的0:01分,平台的数据为0,出现了断崖式下跌。而对于社交产品,以往这个时间用户活跃度是很高的,由此可以确定,这一天的数据异常确实是因为服务挂了。
针对性解决问题:联系相关负责人制定及时有效的解决方案。
执行:落实和监测解决方案的执行效果。
以上五个步骤看起来简单,但它是基于对业务洞察的基础之上的,需要根据以往的经验,才能做出这些判断 。如果对自己的业务不了解,再多的工具或是方法论,都是没有用的。所以,需要大家在工作中,不断的积累,不断的验证。
通过上面的案例解析,发现在确定问题时我们提了很多假设,其实数据只是验证假设的支撑工具。而这些假设是基于对业务有足够了解的基础之上的,在这个过程中,需要不断的去试错,不断的积累行业及业务的洞察,才能做出这些假设。
常见的假设
1.活动影响:查对应活动页面及对应动作的数据波动,关注活动是否有地域属性
通常市场或者运营会去做一些活动,所以如果数据出现问题,先看看PV、UV等数据,看是不是活动的影响。
2.版本发布:将版本号作为维度,区分查看
有时候数据出现异常也有可能是新版本的发布带来的波动,所以也可以把版本拎出来看,如果发布的是V1.5,我们可以对比着看看V1.3、V1.4这三个版本数据,看是否正常。
3.渠道投放:查看渠道来源变化
WEB端的渠道来源有很多很多,但是像APP就有点困难,这时可以看看新增的渠道来源,来看看变化影响。
4.策略调整:策略上线时间节点,区分前后关键指标波动
工作中我们会经常改变策略,比如说搜索策略,推荐策略等等,但是呢策略改变之后上线,它肯定有上线时间节点的,这时候可以把这个时间节点像刚才讲的案例那样,拆分成分钟来观察。
5.服务故障:明确故障时间,按时间维度进行小时或者分钟级别进行拆分
通过上面的案例可以看出,服务故障出问题是有一个明确时间的,按照上面案例讲的方法来观察,按分钟来查看,看有没有出现断崖式下跌,这个时候就可以明确是不是服务出现了故障。
——热门课程推荐:
想学习PYTHON数据分析与金融数字化转型精英训练营,您可以点击>>>“人才转型”了解课程详情;
想从事业务型数据分析师,您可以点击>>>“数据分析师”了解课程详情;
想从事大数据分析师,您可以点击>>>“大数据就业”了解课程详情;
想成为人工智能工程师,您可以点击>>>“人工智能就业”了解课程详情;
想了解Python数据分析,您可以点击>>>“Python数据分析师”了解课程详情;
想咨询互联网运营,你可以点击>>>“互联网运营就业班”了解课程详情;
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
当沃尔玛数据分析师首次发现 “啤酒与尿布” 的高频共现规律时,他们揭开了数据挖掘最迷人的面纱 —— 那些隐藏在消费行为背后 ...
2025-11-03这个问题精准切中了配对样本统计检验的核心差异点,理解二者区别是避免统计方法误用的关键。核心结论是:stats.ttest_rel(配对 ...
2025-11-03在 CDA(Certified Data Analyst)数据分析师的工作中,“高维数据的潜在规律挖掘” 是进阶需求 —— 例如用户行为包含 “浏览次 ...
2025-11-03在 MySQL 数据查询中,“按顺序计数” 是高频需求 —— 例如 “统计近 7 天每日订单量”“按用户 ID 顺序展示消费记录”“按产品 ...
2025-10-31在数据分析中,“累计百分比” 是衡量 “部分与整体关系” 的核心指标 —— 它通过 “逐步累加的占比”,直观呈现数据的分布特征 ...
2025-10-31在 CDA(Certified Data Analyst)数据分析师的工作中,“二分类预测” 是高频需求 —— 例如 “预测用户是否会流失”“判断客户 ...
2025-10-31在 MySQL 实际应用中,“频繁写入同一表” 是常见场景 —— 如实时日志存储(用户操作日志、系统运行日志)、高频交易记录(支付 ...
2025-10-30为帮助教育工作者、研究者科学分析 “班级规模” 与 “平均成绩” 的关联关系,我将从相关系数的核心定义与类型切入,详解 “数 ...
2025-10-30对 CDA(Certified Data Analyst)数据分析师而言,“相关系数” 不是简单的数字计算,而是 “从业务问题出发,量化变量间关联强 ...
2025-10-30在构建前向神经网络(Feedforward Neural Network,简称 FNN)时,“隐藏层数目设多少?每个隐藏层该放多少个神经元?” 是每个 ...
2025-10-29这个问题切中了 Excel 用户的常见困惑 —— 将 “数据可视化工具” 与 “数据挖掘算法” 的功能边界混淆。核心结论是:Excel 透 ...
2025-10-29在 CDA(Certified Data Analyst)数据分析师的工作中,“多组数据差异验证” 是高频需求 —— 例如 “3 家门店的销售额是否有显 ...
2025-10-29在数据分析中,“正态分布” 是许多统计方法(如 t 检验、方差分析、线性回归)的核心假设 —— 数据符合正态分布时,统计检验的 ...
2025-10-28箱线图(Box Plot)作为展示数据分布的核心统计图表,能直观呈现数据的中位数、四分位数、离散程度与异常值,是质量控制、实验分 ...
2025-10-28在 CDA(Certified Data Analyst)数据分析师的工作中,“分类变量关联分析” 是高频需求 —— 例如 “用户性别是否影响支付方式 ...
2025-10-28在数据可视化领域,单一图表往往难以承载多维度信息 —— 力导向图擅长展现节点间的关联结构与空间分布,却无法直观呈现 “流量 ...
2025-10-27这个问题问到了 Tableau 中两个核心行级函数的经典组合,理解它能帮你快速实现 “相对位置占比” 的分析需求。“index ()/size ( ...
2025-10-27对 CDA(Certified Data Analyst)数据分析师而言,“假设检验” 绝非 “套用统计公式的机械操作”,而是 “将模糊的业务猜想转 ...
2025-10-27在数字化运营中,“凭感觉做决策” 早已成为过去式 —— 运营指标作为业务增长的 “晴雨表” 与 “导航仪”,直接决定了运营动作 ...
2025-10-24在卷积神经网络(CNN)的训练中,“卷积层(Conv)后是否添加归一化(如 BN、LN)和激活函数(如 ReLU、GELU)” 是每个开发者都 ...
2025-10-24