京公网安备 11010802034615号
经营许可证编号:京B2-20210330
"为大数据“去魅” ——对《大数据时代》的一点反思
去逛一些大型商场,有时你会发现,啤酒旁边摆放的竟然是尿布。这种做法最先起源于沃尔玛,沃尔玛通过对超市人群购买行为的大量数据分析,发现男性来买啤酒的时候,通常也会买尿布。于是超市将尿布和啤酒摆放在一起出售,从而提高利润。
尿布与啤酒之间的奇妙关联,背后是大量数据的挖掘与分析。这个小小的案例体现的便是一种大数据思维。维克托迈尔舍恩伯格在《大数据时代》提出大数据思 维的三个原则:一、不是因果关系,而是相关性;二、样本=全部不是随即样本,而是全部数据;三、不是精确性,而是混杂性。也就是说,大数据经 由尽可能多的数据挖掘出那些我们平时根本无法察觉到的隐秘联系,轻松地知其然,即使我们完全不知其所以然。
大数据描绘了一个激动人心的未来,也难怪很长一段时间以来,大数据成为最热门的概念之一。人们对大数据的拥趸和美好想象,一方面是我们生活的世界正在 数据化:物联网上,购买行为的数据化;导航时,方位的数据化;微博微信上,沟通的数据化这为大数据时代提供了可能;另一方面,现代社会仍面临 着许多未解的难题,许多跨不过的障碍,人们期冀于大数据能够力挽狂澜,帮助现代人走出困境。
在这样的背景下,大数据正被不断神化。纽约时报专栏作者大卫布鲁克斯《大数据不能做什么?》很难得地发出了不同的声音。他指出大数据的几个缺陷。首 先,大数据擅长于分析关系的数量而非质量,因此它会忽略很多举足轻重的信息。比如社交网络的数据可以分辨出你的6个同事,你一天中有76%的时间会见他 们,却很难发现你一个一年只见两次面的童年伙伴。其次,大数据不懂背景。我们说一句话究竟是认真的还是开玩笑,是为了表达愤怒还是善意,这些要放在具体语 境分析,数据分析很难搞清楚这些。还比如大数据会带来大量毫无意义的伪相关;数据偏爱潮流,忽视创新;原始数据其实并不原始,原始数据往往会被扭曲,等 等。
除此,也有人以为,大数据最大的问题在于,它过分夸大了数据的作用,以为数据越多越好。事实上,我们最大的难题永远都不是如何获取数据,而是如何找到数据 之间的联系,近十年来概率模型应用的规模一再扩大,可准确率却停滞不前这个教训不该被忘记。啤酒与尿布只是最表层数据挖掘,真正的数据处理比谷歌翻译 复杂成千上万倍,但即便谷歌翻译已如此先进,你也别指望它信达雅。一个太平洋是水,加个大西洋也是一样的水,数据规模到达一定程度之后,继续 扩充的意义已经不大,没有发现关联,再多数据也百无一用,混杂性其实就是伪相关。
人人呼唤大数据,就像人人都呼唤要创新、要改革。然而,问题的难度永远在于:如何创新,如何改革。我们需要大数据思维为我们点亮思想的火花,但同时必须正 视寻找数据关联存在的巨大艰难。否则,大数据很容易成为一个空洞的原地打转的话语,徒然给了很多人打了鸡血般的鲁莽和热情,投入大量的人力物力财力,以为 挖到了一座金山,实际却是一堆无用的数据。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析、业务监控、质量检测与风险管控工作中,数据波动性是衡量数据稳定性、业务健康度、结果可信度的核心依据。数据波动代 ...
2026-08-18很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当导致 ...
2026-08-18在数据分析、业务评价、产品评级、用户分层与综合决策场景中,单一指标往往无法全面、客观地评价事物整体水平。现实中的评价对象 ...
2026-08-18在数理统计、假设检验、数据分析与机器学习领域中,卡方分布(χ²分布)是继正态分布、t分布之后最重要的连续型概率分布之一。 ...
2026-08-17在Python数据清洗、文本校验、账号密码规则校验、脏数据过滤、字符串规整化处理中,正则表达式是最高效、最常用的文本匹配工具。 ...
2026-08-17 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-08-17手游行业具备用户迭代快、竞争激烈、用户粘性易流失的典型特征。随着新游持续上线、玩家审美升级、玩法疲劳等问题出现,存量用户 ...
2026-08-14在数字化产品运营、商业数据分析、业务增长管理中,零散的指标统计无法支撑系统性的业务决策。单一的点击率、转化率、销量数据只 ...
2026-08-14 很多数据分析师每天都在写SQL,但当被问到“数据查询语言(DQL)的本质是什么”“SELECT语句中各子句的书写顺序与实际执行顺 ...
2026-08-14在数据库数据分析、数据清洗、报表统计与业务查询场景中,日期时间是最高频、最核心的基础字段。数据库中存储的日期格式多样,包 ...
2026-08-13在数据统计分析与数据清洗工作中,箱线图是一种简洁高效、客观性强的数据可视化图表,能够直观呈现数据集的分布特征、离散程度和 ...
2026-08-13 很多数据分析师写过无数个SELECT查询,但当被问到“如何新建一张表来固化中间数据”“创建视图和创建物理表有什么区别”“视 ...
2026-08-13在自动化办公、数据采集、定时统计、日志清理、系统监控等场景中,程序往往需要按照固定时间间隔重复执行指定任务,这种运行机制 ...
2026-08-12在数据分析日常工作中,Excel数据筛选是数据清洗、数据提取、样本筛选的核心基础操作。传统Excel手动筛选、函数筛选方式,面对多 ...
2026-08-12 很多数据分析师精通Excel函数和数据透视表,但当被问到“数据从哪里来”“表和视图有什么区别”“数据库管理系统和SQL是什么 ...
2026-08-12在数据分析、统计建模、数据挖掘与商业调研过程中,原始数据往往无法做到绝对干净规整。受系统故障、人工录入失误、设备误差、突 ...
2026-08-11在数据分析工作中,聚类分析是典型的无监督学习方法,核心作用是依据数据自身的多维特征,将相似样本自动划分为若干类别,实现“ ...
2026-08-11 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-11AB实验是互联网产品迭代、营销优化、功能升级的核心科学验证手段,通过流量随机分组、对照组与实验组对比,科学验证策略、功能、 ...
2026-08-10在MySQL数据库优化中,索引是提升查询效率、降低数据库IO开销、优化系统性能的核心手段。普通单列索引仅适配简单查询场景,面对 ...
2026-08-10