京公网安备 11010802034615号
经营许可证编号:京B2-20210330
作者 | 数据海洋
来源 | haiyangxinyong
“数据质量是生命线”,不管是对数据从业者来说,还是针对数据应用者来说,是一样重要的,所以在SQL语言来提取数据的时候一定要保证数据的准确性。
日常的数据需求来源于各个方面,每个岗位根据自己的岗位目标与定位需要不同的数据内容与数据粒度来进行支持各种业务决策。不管这个数据需求是来源于自己要做的数据分析,还是业务部门同事或者你的老板的需求,请读者在写SQL提取数据的时候牢记“九字箴言”:
“理逻辑、写代码、看数据”!
并且按这个逻辑顺序来执行,是数据工作很好的习惯,从而保证数据的准确性。
1. 理解清楚需求
收到的业务需求要解决什么问题,谁提出来的,业务需求的描述内容是什么?往往业务需求包括我们自己作为业务人员给数据团队人员提需求的时候,总会很粗的说要提取什么数据内容。但对于需求中很重要的二个部分没有进行描述:
① 数据要解决什么问题。
② 数据具体的内容以及具体内容业务定义。
所以收到需求的时候,不管你是在业务团队还是在数据团队,先花时间去理解这个数据需求,然后对业务需求做上你理解的相关说明。如果你在理解业务需求中,有很多不明白或者觉得不够清楚就记录下来,然后统一与需求提出人员一起当面进行沟通。
例如:需要看某段时间内,会员的购买金额。这个购买金额是如何计划的,假设在一个电商中,一个用户购买商品产生订单,在进行支付时间,订单商品金额可能会有多个内容。
举个具体例子,某个订单一共有10件商品,288元,在用户支付时候:
① 该会员使用了一张优惠券满100减20
② 该会员还使用在自己的积分支付抵扣了50元
在用户收到商品的时候,该会员退货了一件商品30元。【先不考虑退货后要扣除相应的优惠券金额,所以该会员退货30元,需要扣除相应比例优惠金额,最终退还给她的要小于30元。】
在这种场景下,要统计的金额是:
A. 订单商品金额288元
B. 还是扣除退货后的258元
C. 还是扣除优惠券、积分后的218元
D. 还是上述条件都要扣除188元;
如果你对业务比较熟悉,根据业务部门的需求以及你理解的目的做出相应的建议,然后在数据结果中进行备注。但是还是需要与业务需求人进行口径明确。
作者在工作中碰到过这个案例的时候,我和业务需求沟通的时候,我给他的建议是:我把会员的订单金额,我也统计好几个衍生的字段:优惠占比、退货占比,这也是会员购物行为要关注的重要行为,你可以根据这二个比例,再对会员进行价值分层后,再根据这二个指标来分析:会员的优惠特征,以及退货特征。这样可以通过这二个占比指标,进一步细分会员。例如:占比比较高的会员,如果数量达到一定规模,从而可以进一步制定更有针对性的策略。
1. 把业务需求转化为数据需求
在写SQL代码之前应该进行二步的操作:
①明确需求的业务内容。就是要提取哪些数据指标,以及要哪些维度。然后需要把对应的数据指标与维度进行业务角度进行内容定义明确。【可以进一步思考,每个数据指标可以用来衡量业务什么内容。】
② 把明确的业务定义转化为对应要提取数据指标,根据数据指标定义明确用什么样的逻辑来统计出相应的数据指标。
在需求逻辑理完以后。
1. 需要明确“数据原材料”在哪。梳理一下各个要提取的数据指标需要的哪些表?哪些表中的哪些字段?对相关字段要进行哪些逻辑处理。
2. 开始写SQL代码。SQL代码尽量按代码规范来进行;在不影响代码美观的情况下,尽量详细进行相关的需求内容、代码行、字段进行备注说明。
在写完代码后,养成一个习惯。花点时间去阅读一下写完的代码,像在 dbeaver的客户端中,因为对语法的相关格式会高亮,所以稍微花时间就很容易检查出错误。
如果在企业的实际工作环境中,像一般代码如果没有注意的话,例如:时间范围,表关联产生迪卡尔积等很容易导致公司的整个数据库“卡住”的,或者一段代码的数据库跑半天还没有出来,但没有及时关闭。从而严重影响了公司其它同事或者相关数据应用的效率。
这些情况,我在工作中经常发生。所以我曾经在团队做个要求,新人或者业务部门的分析师必须有一个“师傅”,当他们写比较复杂的SQL的时间,师傅们需要帮助查看一下。
关于SQL代码的错误:
1. 语法错误。语法错误SQL会执行不下去,所以这是必须要看错误在哪些地方。
2. 逻辑错误。是指SQL程序没有报错,而且顺利的执行下去了。但是可能SQL语言跑出来的结果不是你想的,也就是跑出来的数据是错误的。逻辑错误形式:
① 没有跑出数据。这种和语法错误很容易发现。例如:会员表中的ID直接与订单表中的ID关联,没有报错。但是关联不上没有数据。从而需要检查代码是哪出问题。
② 有跑出数据。这种情况往往不用心的话,很难发现。例如:在过滤条件的时候,对时间的过滤可以缺少几天,或者需要相关过滤的值没有过滤;在统计会员数的时候,没有进行去重。这些因为sql语言代码顺利执行,所以可能不会引起去足够的重视去对代码进行检查。
在SQL没有报语法错误,跑完后有数据的情况下。千万避免数据提取后,语法不报错,就直接数据复制到EXCEL,然后发给相关的同事或者领导。这样做非常不专业:如果出现数据错误非常容易导致决定失误或者明显的数据错误或者异常会让同事或者领导怀疑你的能力与做事态度,这在职场中很要命的哦!
所以一定要检查一下,你提取的数据。对数据进行相关查看,例如:看一下各个字段的最大最小值,看一下数据的记录数,对一些数据指标进行简单的比率计算。【这些内容放在excel上,相信花个10分钟足够。】结合你自己的基本的业务常识,就可以对提取的数据是否有明显错误或者可能存在错误进行判断。
再根据明显错误的内容或者异常的数据指标,回到代码中去检查是否问题。例如:在一个提取过去某段时间每周会员数的需求中,当提取出来的数据发现有2周的会员数据明显偏高。当你检查代码没有问题,如果你对业务不熟悉可能问一下之前的老同事这个数据是否正常,也许他会告诉是正常的,去年做了活动或者去年在这个时间点有疑似被刷单的了导致会员数增长异常。
当你把这个数据发给相关同事的时候,你会把这个情况备注说明在excel或者相关文档中。
假设一下,如果你提取的数据,经过上述流程和相关的检查,在发给同事中再把相关数据指标、数据提取的范围和内容进行说明,对明显的数据异常你也做了备注说明。你同事收到这样一份数据是一个“什么样的心情呢?”。
数据工作是一个非常非常严谨的工作习惯和态度,这样用SQL代码统计出来的数据才不会是“有质量问题”的“产品”。有质量问题的产品会导致非常严重的后果,如果你数据出现错误,从而基于数据做出的决策有可能是“灾难性”的。
例如:你统计新会员数,如果你数据没有去重,可能会导致结果说某段时间广告投入效果很好,应该持续加大。所以严格按照上述的步骤来执行,才能让你分析的数据质量好,你的部门同事或者老板会对你的“专业性”给出非常高的赞扬。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在神经网络模型搭建中,“最后一层是否添加激活函数”是新手常困惑的关键问题——有人照搬中间层的ReLU激活,导致回归任务输出异 ...
2025-12-05在机器学习落地过程中,“模型准确率高但不可解释”“面对数据噪声就失效”是两大核心痛点——金融风控模型若无法解释决策依据, ...
2025-12-05在CDA(Certified Data Analyst)数据分析师的能力模型中,“指标计算”是基础技能,而“指标体系搭建”则是区分新手与资深分析 ...
2025-12-05在回归分析的结果解读中,R方(决定系数)是衡量模型拟合效果的核心指标——它代表因变量的变异中能被自变量解释的比例,取值通 ...
2025-12-04在城市规划、物流配送、文旅分析等场景中,经纬度热力图是解读空间数据的核心工具——它能将零散的GPS坐标(如外卖订单地址、景 ...
2025-12-04在CDA(Certified Data Analyst)数据分析师的指标体系中,“通用指标”与“场景指标”并非相互割裂的两个部分,而是支撑业务分 ...
2025-12-04每到“双十一”,电商平台的销售额会迎来爆发式增长;每逢冬季,北方的天然气消耗量会显著上升;每月的10号左右,工资发放会带动 ...
2025-12-03随着数字化转型的深入,企业面临的数据量呈指数级增长——电商的用户行为日志、物联网的传感器数据、社交平台的图文视频等,这些 ...
2025-12-03在CDA(Certified Data Analyst)数据分析师的工作体系中,“指标”是贯穿始终的核心载体——从“销售额环比增长15%”的业务结论 ...
2025-12-03在神经网络训练中,损失函数的数值变化常被视为模型训练效果的“核心仪表盘”——初学者盯着屏幕上不断下降的损失值满心欢喜,却 ...
2025-12-02在CDA(Certified Data Analyst)数据分析师的日常工作中,“用部分数据推断整体情况”是高频需求——从10万条订单样本中判断全 ...
2025-12-02在数据预处理的纲量统一环节,标准化是消除量纲影响的核心手段——它将不同量级的特征(如“用户年龄”“消费金额”)转化为同一 ...
2025-12-02在数据驱动决策成为企业核心竞争力的今天,A/B测试已从“可选优化工具”升级为“必选验证体系”。它通过控制变量法构建“平行实 ...
2025-12-01在时间序列预测任务中,LSTM(长短期记忆网络)凭借对时序依赖关系的捕捉能力成为主流模型。但很多开发者在实操中会遇到困惑:用 ...
2025-12-01引言:数据时代的“透视镜”与“掘金者” 在数字经济浪潮下,数据已成为企业决策的核心资产,而CDA数据分析师正是挖掘数据价值的 ...
2025-12-01数据分析师的日常,常始于一堆“毫无章法”的数据点:电商后台导出的零散订单记录、APP埋点收集的无序用户行为日志、传感器实时 ...
2025-11-28在MySQL数据库运维中,“query end”是查询执行生命周期的收尾阶段,理论上耗时极短——主要完成结果集封装、资源释放、事务状态 ...
2025-11-28在CDA(Certified Data Analyst)数据分析师的工具包中,透视分析方法是处理表结构数据的“瑞士军刀”——无需复杂代码,仅通过 ...
2025-11-28在统计分析中,数据的分布形态是决定“用什么方法分析、信什么结果”的底层逻辑——它如同数据的“性格”,直接影响着描述统计的 ...
2025-11-27在电商订单查询、用户信息导出等业务场景中,技术人员常面临一个选择:是一次性查询500条数据,还是分5次每次查询100条?这个问 ...
2025-11-27