
没有数据科学家大数据就玩不转了
数据科学家被媒体誉为21世纪最性感的职业,是企业界身价不菲、一将难求的的超级明星,这吓跑了很多准备尝试大数据的企业,实际上没有数据科学家企业一样可以玩转大数据。
如今, 一谈到大数据, 一个普遍的说法就是人才的缺乏。 数据科学家成为了21世纪最性感的职业等等。 哈佛商业评论以及咨询公司麦肯锡的报告都这么说, 再加上数据科学家们自身也乐意被打上这样的标签。
然而, 这种说法, 也让很多准备考虑大数据战略的企业面对大数据的机会望而却步了。 那么, 如果缺少数据科学家, 企业的大数据就真得玩儿不转了吗? 其实也未必。
这里, 当然不是说数据科学家不重要。 相反, 数据科学家这个职业在大数据时代非常重要。 在企业中, 数据科学家的工作, 实际上是联系企业的IT技术和企业所在行业专业知识的纽带。 这样的知识交集上的人才, 本身确实匮乏, 而且, 即使大数据又再大的发展,同时具备这样的知识的人才也还是少数。 然而, 就像我们在计算机行业发展的早期, 不能说因为乔布斯, 盖茨这样的人才太少就制约了行业发展一样。 如今, 街边柯达店的小伙子都能用PS修人像, 而我们也不需要要求柯达店的小伙子具备编写图像处理软件能力。
大数据时代也是一样, Google, Twitter, Facebook那样的大公司, 可以负担得起那些高精尖的数据科学家, 而小企业, 也可以有自己的方式来更好地利用数据。 下面, 以电子商务的公司为例子, 结合数据科学家的工作, 来看看如何能够在企业现有能力范围内进行数据方面的工作。
数据科学家的工作, 大致分为三个方面:
第一, 数据架构的搭建, 第二, 数据模型的建立, 第三, 数据分析。
下面我们来看看那些雇不起或找不着数据科学家的屌丝企业如何玩转大数据:
数据架构的搭建:
首先, 确定企业对数据的需求点。 对绝大部分商业企业来说, 其实每个业务经理都可以告诉你, 他们所需要的数据就是用户行为的数据, 比如, 用户购买行为, 用户对促销或者广告的反应, 用户的社交信息等等, 基本上, 每一类这样的信息, 都可以比较容易的进行归类。
这里的关键, 就是尽量把需要的数据范围进行限定, 这样就可以设定一些简单的数据输入模板, 从而把数据采集和数据整理问题简单化。 这里可以采用一些开源工具, 如Hadoop, Hbase, Hive, Pig等, 把各类数据进行整合。 2/8 原则一般是适用的, 也就是, 80%的进行运营支撑的需求可以来自于20%的数据。 对企业来说, IT技术人员和业务专家共同的协作, 加上一部分外部咨询的帮助, 应该可以搭建一个可用的架构。
数据模型的建立
数据科学家的另一部分工作就是数据模型的建立。 这些模型可能是描述型的模型, 也可能是预测性的模型。 这部分的工作, 也是数据科学家经常被神化的部分。 其实, 这部分工作, 比如说推荐系统, 用户个性化系统等等。 数据科学家所做的大量工作, 在于提取数据的“特征”, 选择合适的模型, 并把它们输入模型, 等待模型输出结果, 再验证, 调整特征的循环。 这部分的工作, 需要第一, 熟悉各类统计模型或者机器学习模型的建立。 第二, 也是更重要的一点, 就是行业知识的了解。 比如一个推荐系统, 最重要的就是把提取用户特征, 提取商品的特征。 如果建模的人对行业知识不了解的话, 那么模型就会很庞大和复杂, 也未必精确。 在这里, 行业的专家, 尽管对建模未必很精通, 他们的市场感觉往往是选择合适特征值的关键。
因此, 对电商企业来说, 招几个学统计的员工(或者外包), 再配合企业内部的行业专家, 也可以建一些适合企业需要的基本模型。 也许没有Google或者Facebook那么地精确, 但是对绝大部分企业来说, 也够用了。 这也不失为是一条在找不到合适的数据科学家(事实上精通本行业又精通建模的人才本来也是凤毛麟角)的情况下的解决之道。
数据分析
数据分析的本质, 是把“数据”变成“信息”, 并从中发现对企业运营有价值的东西。 这其实和任何理科或者工科的“观察 — 归纳 —关联 — 分析 —验证”的研究方法从本质上是一致的。 从这个角度来讲, 行业的专业知识, 在数据分析的时候, 更加重要。
即使你把欧洲大型强子对撞机的数据给数据科学家, 他也发现不了“上帝粒子”。
国内的很多人都会津津乐道 美国百货公司Target通过数据分析给怀孕少女推送婴儿产品的例子,而很多数据分析师或者数据科学家在提到这样的例子的时候, 也在有意无意的进行误导。 其实, 如果没有对用户和产品方面的专业知识, 光靠数据分析或者数据模型, 是很难做到的。 而事实上, 任何机器生成的模型, 要想实用的话, 也都得需要人工在反馈路径上进行一定程度上的调整。
在数据分析领域, 已经有很多的分析工具。 然而, 现在的这些工具, 大多数也还是比较复杂。 需要类似数据科学家或者数据分析师这样的专门人员来使用。 由于企业精细化运营的程度普遍不高。 数据分析师或者是BI的分析师本来就稀缺, 更不要说精通行业专业领域知识同时具备数据分析工具使用能力的人才了。 一个解决的方式, 就是把常用的分析尽量模板化, 数据的整理尽量简化。 尽量采用Excel这样简单大众的分析工具。 归根结底, 企业进行数据分析的目的, 是为了经营服务的。 简单的工具, 在使用,分享和沟通方面都有优势。 这样的解决方案当然不算得完美, 但是, 如果能让具备丰富行业经验的专家以行业经验来弥补数据分析工具的不足, 对企业来说, 也算得上是一个在缺乏数据科学家情况下的可以从数据分析中获益的方式。
在大数据时代, 数据科学家的重要性当然是毋庸置疑的。 不过, 就像网站内容管理系统那样, 大型网站可以雇顶级工程师来自建系统。 小企业也可以利用WordPress这样的系统来满足自身的需求一样。
企业在这个人才匮乏的大数据时代, 利用已有的工具, 结合自身对行业的专业知识, 采取合适的策略, 同样也可以从数据和数据分析中获益。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA数据分析师与数据指标:基础概念与协同逻辑 一、CDA 数据分析师:数据驱动时代的核心角色 1.1 定义与行业价值 CDA(Certified ...
2025-08-22Power Query 移动加权平均计算 Power Query 移动加权平均设置全解析:从原理到实战 一、移动加权平均法的核心逻辑 移动加权平均 ...
2025-08-22描述性统计:CDA数据分析师的基础核心与实践应用 一、描述性统计的定位:CDA 认证的 “入门基石” 在 CDA(Certified Data Analy ...
2025-08-22基于 Python response.text 的科技新闻数据清洗去噪实践 在通过 Python requests 库的 response.text 获取 API 数据后,原始数据 ...
2025-08-21基于 Python response.text 的科技新闻综述 在 Python 网络爬虫与 API 调用场景中,response.text 是 requests 库发起请求后获取 ...
2025-08-21数据治理新浪潮:CDA 数据分析师的战略价值与驱动逻辑 一、数据治理的多维驱动引擎 在数字经济与人工智能深度融合的时代,数据治 ...
2025-08-21Power BI 热力地图制作指南:从数据准备到实战分析 在数据可视化领域,热力地图凭借 “直观呈现数据密度与分布趋势” 的核心优势 ...
2025-08-20PyTorch 矩阵运算加速库:从原理到实践的全面解析 在深度学习领域,矩阵运算堪称 “计算基石”。无论是卷积神经网络(CNN)中的 ...
2025-08-20数据建模:CDA 数据分析师的核心驱动力 在数字经济浪潮中,数据已成为企业决策的核心资产。CDA(Certified Data Analyst)数据分 ...
2025-08-20KS 曲线不光滑:模型评估的隐形陷阱,从原因到破局的全指南 在分类模型(如风控违约预测、电商用户流失预警、医疗疾病诊断)的评 ...
2025-08-20偏态分布:揭开数据背后的非对称真相,赋能精准决策 在数据分析的世界里,“正态分布” 常被视为 “理想模型”—— 数据围绕均值 ...
2025-08-19CDA 数据分析师:数字化时代的价值创造者与决策智囊 在数据洪流席卷全球的今天,“数据驱动” 已从企业战略口号落地为核心 ...
2025-08-19CDA 数据分析师:善用 Power BI 索引列,提升数据处理与分析效率 在 Power BI 数据分析流程中,“数据准备” 是决定后续分析质量 ...
2025-08-18CDA 数据分析师:巧用 SQL 多个聚合函数,解锁数据多维洞察 在企业数据分析场景中,单一维度的统计(如 “总销售额”“用户总数 ...
2025-08-18CDA 数据分析师:驾驭表格结构数据的核心角色与实践应用 在企业日常数据存储与分析场景中,表格结构数据(如 Excel 表格、数据库 ...
2025-08-18PowerBI 累计曲线制作指南:从 DAX 度量到可视化落地 在业务数据分析中,“累计趋势” 是衡量业务进展的核心视角 —— 无论是 “ ...
2025-08-15Python 函数 return 多个数据:用法、实例与实战技巧 在 Python 编程中,函数是代码复用与逻辑封装的核心载体。多数场景下,我们 ...
2025-08-15CDA 数据分析师:引领商业数据分析体系构建,筑牢企业数据驱动根基 在数字化转型深化的今天,企业对数据的依赖已从 “零散分析” ...
2025-08-15随机森林中特征重要性(Feature Importance)排名解析 在机器学习领域,随机森林因其出色的预测性能和对高维数据的适应性,被广 ...
2025-08-14t 统计量为负数时的分布计算方法与解析 在统计学假设检验中,t 统计量是常用的重要指标,其分布特征直接影响着检验结果的判断。 ...
2025-08-14