
数据分析入门之随笔记
数据的一面是银弹(Silver Bullet):无所不能,增长黑客(Growth Hacking),决策分析(Decision Making);数据的另外一面是镜子(Reflection):可以看清楚很多苟且和远方的田野。如何发现利用数据的价值,就是数据分析的目标。
数据分析的重要性可以分为两点:
第一是帮助核心业务(Business)成长,找到和验证业务增长点
第二是有效的业务推动(Marketing),提高推广的效率(ROI)。
我把营销(Marketing)作为独立的数据分析角度,因为数字营销极度依赖于数据分析,并且有一些通用的分析模型,它同时也是一个非常大的产业,它是各个软件巨擘必争之地。
最近十几年,数据的收集和处理能力大大提升,越来越多的传感器和数据收集,许多大公司的数据正在从TB级别走向PB级别。互联网公司之间的模式竞争,也转战到对于数据价值的挖掘的能力上,很多时候也就是速度和效率的竞争。不要迷信数据,更不要忽视数据。很多时候,数据是你业务的指南针和护城河。
数据量快速增长,数据分析人才紧缺,数据分析工具依赖性,数据分析服务的强需求都反映了公司从粗放型到精细化的转型。
1.什么是数据分析(Data Analysis)?
为了理解数据分析,首先理解一下数据的概念。管理学家罗素·艾可夫在1989的《 “From Data to Wisdom”,Human SystemsManagement 》提出了DIKW体系体系,这是关于数据、信息、知识及智慧的一个模型,完美诠释了四者的关系。Data(数据)->Information(信息)->Knowledge(知识)->Wisdom(智慧)。
2. 数据分析的技术
技术上就是以发现有用信息,知识和洞察为目的,进行数据收集,处理,清晰,过滤,以支持决策制定。有好几概念有些混淆,花点时间解释一下:
a. 数据挖掘(Data Mining):数据挖掘是以预测为目标的数据建模和知识探索的一个子学科,好多年前,它一直是一个热门的研究生专业,直到信息检索专业的出现。
b. 商务智能(Business Intelligence):BI是一个利用数据的聚合(Aggregation)和分片(Slice)的能力,进行业务监控和洞察发掘。
数据分析也是一种艺术(Art),所谓艺术就是结合技术,想象力,经验和意愿的综合因素的平衡和融合。数据分析也是一个经验和想象力的融合:它涉及到数学算法,统计分析,工具和软件工程的一种结合,最后的目的是解决业务的问题,帮助人从数据中获得智慧。
下面列了几个常用的分析技术范式:
1. 统计模型:利用统计模型处理数据的方法
2. 探索式(exploratory):不设定假设目标,自由发掘和探索
3. 稳定性(Stability ofResults):分析结果的稳定性评估,又是进行交叉验证。
4. 假定验证(HypothesisTesting):预先设定好结论,通过测试校验结论
下面是涉及到算法,工程,统计等的相关技术,每一种细分技术都是一个大学问,好的数据科学家,可以游曳穿行其中,找到数据中有价值的洞察。
3.数据从业者的职业名称
从事数据的工作者,历史上我见识过了不少名称,包括“数据分析师”,“数据经理”,“运营分析师”,“软件工程师”,“算法工程师”,“策略分析师”,“数据科学家” 等等。其中最酷的名字还是LinkedIn发明的“数据科学家(Data Scientist)”,这个名称也被Forbes评为本世纪最”性感“的工作了。我估计,这是全世界最多的科学家团体了,小时候总觉得科学家必须白发苍苍才行的,现在很多同学刚毕业就是”数据科学家“,很让人羡慕。
数据分析实际上是三个方面的融合,包括数据,工程和业务。数据是智慧的原矿石,工程是采矿机,业务是指北针,只有三个方面融合起来,才能最有效的发现数据的价值。我相信一个好的数据分析师必须有工程背景,必须对数据敏感,而且愿意主动解决业务问题。
4.数据分析公司的生态圈
数据分析的的公司非常多,大大小小,林林总总。有小而美的硅谷创业公司,有老牌大公司的老树新花。很多创业公司的市值一路飙升到无法接盘的状态。例如,Palantir估值已经到了200亿美元,但是最近可持续的收入却不断减少,引来不少麻烦。
我把数据分析公司分为三类:
第一类是基础服务提供者,主要提供一些软件工具,Hadoop和Spark的生态公司,帮助数据基础架构的建设,也包括一些数据可视化公司。
第二类是通用分析服务提供公司,包括Palantir,IBM的Watson Analytics,SAS, Google Analytics 等等,这类公司提供数据分析服务或者工具,利用专家背景,系统规模和数据资源,帮助解决客户的问题,特别是很多老牌公司通过收购传统数据分析公司,快速重新包装成新的高大上产品。
第三类是专注行业的数据分析公司,例如生物信息,市场营销分析等等。
5.三种常见的业务分析模型:
GrowthHacker,AARRR,LTV
看完了欣欣向荣的数据分析行业,是不是感到有些热血沸腾。不过我们还是要回到现实的的,落地的数据分析任务。大部分互联网公司,面临的业务增长的压力,都希望通过数据分析来提升竞争力。其中,有三种常见的业务运营增长模型。
1. 黑客文化的Growth Hacker
2. 经典的AARRR漏斗模型
3. 游戏中的LTV模型
1) 增长黑客(Growth Hacker)的数据和分析
GrowthHacking,它指的是一种用户增长的方式,简单说就是通过某些手段和策略帮帮助公司形成快速成长,通常是数据驱动的方法。对创业公司、特别是初创公司来说,在没有广告预算、市场营销活动以及市场推广专员的情况下,GrowthHacking 也可以获得良好的效果。
2) AARRR模型
AARRR是Acquisition、Activation、Retention、Revenue、Refer,这个五个单词的缩写,分别对应这一款移动应用生命周期中的5个重要环节。每一个环节都有些关键指标,可以进行数据分析,找到提升的机会。
3) 生命周期价值(LTV)模型:
LTV是LifeTime Value,它是游戏行业用于衡量用户价值的一种方式和模型。LTV是指在一定时间内,某一客户可能为企业带来的利润额.顾客终身价值是指企业在获得新顾客后的一段时间内,每一位顾客的平均利润净现值。由于游戏有很强的时间相关性,因此LTV会累计一段时间的数据。
6. 几个有特点的数据分析工具
从公司类型上来说,数据分析公司简单可以分为两类:1传统大型IT公司 2互联网创新公司。很多传统大公司都涌入数据分析行业,大多都是希望利用自己的客户,硬件和软件优势,通过数据分析转型成SaaS服务提供商,例如IBM,Oracle等。另外一个就是互联网创新公司,大量数据科学家形成了大大小小数据分析创业公司,
数据分析从来就是一个热门词,像人工智能一样,从来都吸引眼球;很多时候,数据被滥用成了一把上方宝剑,谁不服就用数据砸谁。实际上,数据告诉你的更多的眼前的苟且,而我们需要思考的更多的是诗和远方。数据分析可以给我提供很多的数字,但却无法代替的人的思考:如何简化问题?如何抽象和分解复杂?如何排除万难?数据分析只会让工作更加有意思和挑战!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
基于 Python response.text 的科技新闻数据清洗去噪实践 在通过 Python requests 库的 response.text 获取 API 数据后,原始数据 ...
2025-08-21基于 Python response.text 的科技新闻综述 在 Python 网络爬虫与 API 调用场景中,response.text 是 requests 库发起请求后获取 ...
2025-08-21数据治理新浪潮:CDA 数据分析师的战略价值与驱动逻辑 一、数据治理的多维驱动引擎 在数字经济与人工智能深度融合的时代,数据治 ...
2025-08-21Power BI 热力地图制作指南:从数据准备到实战分析 在数据可视化领域,热力地图凭借 “直观呈现数据密度与分布趋势” 的核心优势 ...
2025-08-20PyTorch 矩阵运算加速库:从原理到实践的全面解析 在深度学习领域,矩阵运算堪称 “计算基石”。无论是卷积神经网络(CNN)中的 ...
2025-08-20数据建模:CDA 数据分析师的核心驱动力 在数字经济浪潮中,数据已成为企业决策的核心资产。CDA(Certified Data Analyst)数据分 ...
2025-08-20KS 曲线不光滑:模型评估的隐形陷阱,从原因到破局的全指南 在分类模型(如风控违约预测、电商用户流失预警、医疗疾病诊断)的评 ...
2025-08-20偏态分布:揭开数据背后的非对称真相,赋能精准决策 在数据分析的世界里,“正态分布” 常被视为 “理想模型”—— 数据围绕均值 ...
2025-08-19CDA 数据分析师:数字化时代的价值创造者与决策智囊 在数据洪流席卷全球的今天,“数据驱动” 已从企业战略口号落地为核心 ...
2025-08-19CDA 数据分析师:善用 Power BI 索引列,提升数据处理与分析效率 在 Power BI 数据分析流程中,“数据准备” 是决定后续分析质量 ...
2025-08-18CDA 数据分析师:巧用 SQL 多个聚合函数,解锁数据多维洞察 在企业数据分析场景中,单一维度的统计(如 “总销售额”“用户总数 ...
2025-08-18CDA 数据分析师:驾驭表格结构数据的核心角色与实践应用 在企业日常数据存储与分析场景中,表格结构数据(如 Excel 表格、数据库 ...
2025-08-18PowerBI 累计曲线制作指南:从 DAX 度量到可视化落地 在业务数据分析中,“累计趋势” 是衡量业务进展的核心视角 —— 无论是 “ ...
2025-08-15Python 函数 return 多个数据:用法、实例与实战技巧 在 Python 编程中,函数是代码复用与逻辑封装的核心载体。多数场景下,我们 ...
2025-08-15CDA 数据分析师:引领商业数据分析体系构建,筑牢企业数据驱动根基 在数字化转型深化的今天,企业对数据的依赖已从 “零散分析” ...
2025-08-15随机森林中特征重要性(Feature Importance)排名解析 在机器学习领域,随机森林因其出色的预测性能和对高维数据的适应性,被广 ...
2025-08-14t 统计量为负数时的分布计算方法与解析 在统计学假设检验中,t 统计量是常用的重要指标,其分布特征直接影响着检验结果的判断。 ...
2025-08-14CDA 数据分析师与业务数据分析步骤 在当今数据驱动的商业世界中,数据分析已成为企业决策和发展的核心驱动力。CDA 数据分析师作 ...
2025-08-14前台流量与后台流量:数据链路中的双重镜像 在商业数据分析体系中,流量数据是洞察用户行为与系统效能的核心依据。前台流量与 ...
2025-08-13商业数据分析体系构建与 CDA 数据分析师的协同赋能 在企业数字化转型的浪潮中,商业数据分析已从 “可选工具” 升级为 “核 ...
2025-08-13