京公网安备 11010802034615号
经营许可证编号:京B2-20210330
作者 | 数据海洋
来源 | haiyangxinyong
“数据质量是生命线”,不管是对数据从业者来说,还是针对数据应用者来说,是一样重要的,所以在SQL语言来提取数据的时候一定要保证数据的准确性。
日常的数据需求来源于各个方面,每个岗位根据自己的岗位目标与定位需要不同的数据内容与数据粒度来进行支持各种业务决策。不管这个数据需求是来源于自己要做的数据分析,还是业务部门同事或者你的老板的需求,请读者在写SQL提取数据的时候牢记“九字箴言”:
“理逻辑、写代码、看数据”!
并且按这个逻辑顺序来执行,是数据工作很好的习惯,从而保证数据的准确性。
1. 理解清楚需求
收到的业务需求要解决什么问题,谁提出来的,业务需求的描述内容是什么?往往业务需求包括我们自己作为业务人员给数据团队人员提需求的时候,总会很粗的说要提取什么数据内容。但对于需求中很重要的二个部分没有进行描述:
① 数据要解决什么问题。
② 数据具体的内容以及具体内容业务定义。
所以收到需求的时候,不管你是在业务团队还是在数据团队,先花时间去理解这个数据需求,然后对业务需求做上你理解的相关说明。如果你在理解业务需求中,有很多不明白或者觉得不够清楚就记录下来,然后统一与需求提出人员一起当面进行沟通。
例如:需要看某段时间内,会员的购买金额。这个购买金额是如何计划的,假设在一个电商中,一个用户购买商品产生订单,在进行支付时间,订单商品金额可能会有多个内容。
举个具体例子,某个订单一共有10件商品,288元,在用户支付时候:
① 该会员使用了一张优惠券满100减20
② 该会员还使用在自己的积分支付抵扣了50元
在用户收到商品的时候,该会员退货了一件商品30元。【先不考虑退货后要扣除相应的优惠券金额,所以该会员退货30元,需要扣除相应比例优惠金额,最终退还给她的要小于30元。】
在这种场景下,要统计的金额是:
A. 订单商品金额288元
B. 还是扣除退货后的258元
C. 还是扣除优惠券、积分后的218元
D. 还是上述条件都要扣除188元;
如果你对业务比较熟悉,根据业务部门的需求以及你理解的目的做出相应的建议,然后在数据结果中进行备注。但是还是需要与业务需求人进行口径明确。
作者在工作中碰到过这个案例的时候,我和业务需求沟通的时候,我给他的建议是:我把会员的订单金额,我也统计好几个衍生的字段:优惠占比、退货占比,这也是会员购物行为要关注的重要行为,你可以根据这二个比例,再对会员进行价值分层后,再根据这二个指标来分析:会员的优惠特征,以及退货特征。这样可以通过这二个占比指标,进一步细分会员。例如:占比比较高的会员,如果数量达到一定规模,从而可以进一步制定更有针对性的策略。
1. 把业务需求转化为数据需求
在写SQL代码之前应该进行二步的操作:
①明确需求的业务内容。就是要提取哪些数据指标,以及要哪些维度。然后需要把对应的数据指标与维度进行业务角度进行内容定义明确。【可以进一步思考,每个数据指标可以用来衡量业务什么内容。】
② 把明确的业务定义转化为对应要提取数据指标,根据数据指标定义明确用什么样的逻辑来统计出相应的数据指标。
在需求逻辑理完以后。
1. 需要明确“数据原材料”在哪。梳理一下各个要提取的数据指标需要的哪些表?哪些表中的哪些字段?对相关字段要进行哪些逻辑处理。
2. 开始写SQL代码。SQL代码尽量按代码规范来进行;在不影响代码美观的情况下,尽量详细进行相关的需求内容、代码行、字段进行备注说明。
在写完代码后,养成一个习惯。花点时间去阅读一下写完的代码,像在 dbeaver的客户端中,因为对语法的相关格式会高亮,所以稍微花时间就很容易检查出错误。
如果在企业的实际工作环境中,像一般代码如果没有注意的话,例如:时间范围,表关联产生迪卡尔积等很容易导致公司的整个数据库“卡住”的,或者一段代码的数据库跑半天还没有出来,但没有及时关闭。从而严重影响了公司其它同事或者相关数据应用的效率。
这些情况,我在工作中经常发生。所以我曾经在团队做个要求,新人或者业务部门的分析师必须有一个“师傅”,当他们写比较复杂的SQL的时间,师傅们需要帮助查看一下。
关于SQL代码的错误:
1. 语法错误。语法错误SQL会执行不下去,所以这是必须要看错误在哪些地方。
2. 逻辑错误。是指SQL程序没有报错,而且顺利的执行下去了。但是可能SQL语言跑出来的结果不是你想的,也就是跑出来的数据是错误的。逻辑错误形式:
① 没有跑出数据。这种和语法错误很容易发现。例如:会员表中的ID直接与订单表中的ID关联,没有报错。但是关联不上没有数据。从而需要检查代码是哪出问题。
② 有跑出数据。这种情况往往不用心的话,很难发现。例如:在过滤条件的时候,对时间的过滤可以缺少几天,或者需要相关过滤的值没有过滤;在统计会员数的时候,没有进行去重。这些因为sql语言代码顺利执行,所以可能不会引起去足够的重视去对代码进行检查。
在SQL没有报语法错误,跑完后有数据的情况下。千万避免数据提取后,语法不报错,就直接数据复制到EXCEL,然后发给相关的同事或者领导。这样做非常不专业:如果出现数据错误非常容易导致决定失误或者明显的数据错误或者异常会让同事或者领导怀疑你的能力与做事态度,这在职场中很要命的哦!
所以一定要检查一下,你提取的数据。对数据进行相关查看,例如:看一下各个字段的最大最小值,看一下数据的记录数,对一些数据指标进行简单的比率计算。【这些内容放在excel上,相信花个10分钟足够。】结合你自己的基本的业务常识,就可以对提取的数据是否有明显错误或者可能存在错误进行判断。
再根据明显错误的内容或者异常的数据指标,回到代码中去检查是否问题。例如:在一个提取过去某段时间每周会员数的需求中,当提取出来的数据发现有2周的会员数据明显偏高。当你检查代码没有问题,如果你对业务不熟悉可能问一下之前的老同事这个数据是否正常,也许他会告诉是正常的,去年做了活动或者去年在这个时间点有疑似被刷单的了导致会员数增长异常。
当你把这个数据发给相关同事的时候,你会把这个情况备注说明在excel或者相关文档中。
假设一下,如果你提取的数据,经过上述流程和相关的检查,在发给同事中再把相关数据指标、数据提取的范围和内容进行说明,对明显的数据异常你也做了备注说明。你同事收到这样一份数据是一个“什么样的心情呢?”。
数据工作是一个非常非常严谨的工作习惯和态度,这样用SQL代码统计出来的数据才不会是“有质量问题”的“产品”。有质量问题的产品会导致非常严重的后果,如果你数据出现错误,从而基于数据做出的决策有可能是“灾难性”的。
例如:你统计新会员数,如果你数据没有去重,可能会导致结果说某段时间广告投入效果很好,应该持续加大。所以严格按照上述的步骤来执行,才能让你分析的数据质量好,你的部门同事或者老板会对你的“专业性”给出非常高的赞扬。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
一、问题:为什么 ID 会"断号" 很多刚接触 MySQL 的同学都会有一个困惑:表里的主键 ID 是自增的,删了中间几行数据之后,ID 变 ...
2026-10-22一、问题场景:为什么会重复 JOIN 同一个子查询 在写复杂 SQL 时,经常遇到这种需求:同一张表或同一个聚合子查询,要和主表关联 ...
2026-10-22人力资源专员是HR体系的执行入口。招聘信息发布、简历初筛、面试安排、考勤汇总、入离职手续、劳动合同与档案管理,大多由这个岗 ...
2026-10-22人力资源经理问“必学技巧”,真正要解决的不是知识清单不够长,而是时间有限、业务催得紧,学完却用不上。更有效的路径是:先用 ...
2026-10-22内容营销岗位的核心任务,不是“把文案写得更漂亮”,而是围绕目标受众,用持续的内容供给影响认知、推动转化并沉淀复购。它至少 ...
2026-10-22理财经理培训课程很多,难的是判断“先学什么、后学什么、学完能做什么”。与其按课程名称罗列,不如先看岗位任务:客户分层与维 ...
2026-10-22理财经理的知识结构,可以先用一句话概括:合规与产品知识决定“不出错”,客户经营与资产配置决定“够不够专业”,市场研判与数 ...
2026-10-22经济学背景做数据分析,优势不在工具,而在问题意识:供需如何相互作用、成本与收益如何权衡、变量之间是相关还是因果。真正的缺 ...
2026-10-22需要,但要把“需要”理解准确。经济学本身就在处理数据:GDP、物价、就业、企业营收、问卷调研,都是经济分析的原料。真正的区 ...
2026-10-22经济学分析能力不是单一技能,它至少由三层构成:把现实问题转成可检验假设的理论框架能力、用数据与统计方法验证假设的工具能力 ...
2026-10-22金融分析师的知识提升,先补的不是更多模型,而是让结论可复核的底层能力。按任务顺序,大致是四层:财务与业务理解、指标口径管 ...
2026-10-22金融分析师的“通用技能”,指换到不同机构、不同行业组仍用得上的底层能力,而非某家公司内部系统的操作经验。按任务拆,日常要 ...
2026-10-22先给结论:数据分析证书不是金融分析师的准入条件,招聘方也不会因为一张证书就直接判断你能做分析。要不要考,取决于你当前任务 ...
2026-10-22金融分析师的核心技能,不是“会看K线”或“会讲宏观”,而是能把一家公司、一个行业或一类资产,转化为可核查的数据判断与书面 ...
2026-10-22产品经理的知识提升,不是把需求文档、原型、SQL、数据分析、项目管理都学一遍,而是先对准目标岗位的真实任务,找出自己最缺的 ...
2026-10-22产品专员提升工作知识,最有效的方式不是先囤课程,而是围绕日常交付的四件事来补:需求调研与优先级判断、原型与PRD表达、竞品 ...
2026-10-22产品运营专员提升个人能力,常见误区是先把Excel、SQL、Python列成一张学习清单,然后从第一个工具开始学。更有效的做法是先回答 ...
2026-10-22产品运营的能力提升,最怕从“课程目录”出发:今天学增长模型,明天背SQL语法,学完却说不清自己负责的功能为什么激活率低。更 ...
2026-10-22产品经理的技能和影响力不是两条分开的赛道。技能决定你能不能把问题分析清楚、把方案设计对;影响力决定你的判断能否被团队接受 ...
2026-10-22产品经理要学的数据分析能力,不是“会写SQL”或“会用BI工具”这么简单。更准确地说,是围绕需求评估、功能迭代、指标监控、实 ...
2026-10-22