京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据时代,一个新的相对论时代
不久前的一个周末,我在成都参加希捷公司的年会。
这是全球数一数二的硬盘供应商,年会熙熙攘攘,盛况空前。在国内各项重要的经济指标均为下行的情况下,希捷公司的出货量仍然保持着增长。事实上,整个存储器行业这几年都在连续逆势增长。
时代的轮廓如此清晰。人们在减少饮料、成品油甚至住房的消费,却在花更多的钱保存数据。
演讲中,我提到,今天的社会治理、商业管理以及个人生活,无不在快速地数据化,即事实和细节被广泛地记录下来,通过这些记录,消逝的世界可以再现,从而进行分析和预测,人类历史上一些精细的、微妙的、隐性的、曾经难以捕捉的关系和知识,现在都可以捕捉到,快速上升为显性的知识。
我的结论是,通过数据,人类从来没有如此客观地认知我们每天生活的世界。
从成都返回杭州,有几个小时我在空中飞行。回到家,一封邮件已经静静地躺在我的邮箱。里面是迫切且尖锐的提问:
“涂先生,这个时代,让我越来越困惑,我是一名资深的数据分析师,但随着数据的增多,我甚至成了一名大数据的怀疑论者……之所以没有在现场提问,是担心我的挑战给大数据的信奉者泼上冷水……”
他的问题是,数据越来越多,但他却经常感受到,他离事实越来越远,通过数据,无法发现真正的真相。
换句话说,虽然数据是真实的,但它却不一定符合真正的事实。
这是一个新的相对论,数据相对论。爱因斯坦的相对论是关于时空和引力,新的相对论是关于数据和事实。
数据永远在追赶事实
美国政府曾经竭尽脑汁,一直想掌握全国真正的人口数量。1860年代开始,美国总统就开始给美国的普通公民写信,请他们不要因为害怕人口普查而隐瞒人数,他以总统的名义保证,这些数据只是为了掌握美国的真实人口数量,而不会用于征税、征兵和法庭调查等其它用途。此后历届美国总统都致力于排除人为因素,力图保证数据的客观性。他们还想方设法缩短普查时间,最初一次普查要两年时间才能完成,到后来慢慢缩短至两个月,乃至两三天。
每时每刻,都有人出生、死亡或者濒临死亡,他们发生在不同的家庭、医院、甚至野外,现实不会静止以等待你给它画像,任何一次人为组织的人口普查,都没有办法在同一个时间点掌握全部的这些事实,从而计算出一个时间点这个世界真正的人口数目。
直到今天,信息技术、互联网、手机如此发达,这个问题还没有解决。
人类是这个世界的灵长,迄今为止仍无法准确的掌握这个星球上有多少同类,遑论其他?
世间万物,一颗红豆、一碗牛肉面、一台汽车、一段感情,其中的知识,都往往丰富得我们难以想象,所谓一花一世界、一叶一菩提。
世界之大、包罗万象、周行不殆、须臾万变,人类就像刻舟求剑的楚人一样,能掌握的永远只是某一个节点某一个范围内的小事实,有混乱和困惑是再自然不过的事了。
但在纷繁复杂、持续演变的世界,人类又在不断努力。纵使人口不断变动,美国政府亦不断改进数据获取方式,以提高效率、逼近真相。今天的美国人口普查局,已经开发了一个“人口钟”(population clock),每分钟可以预测一次美国人口的变化情况。
数据永远在追赶事实,就像永不停歇的钟摆。在追求真理的道路上,我们进入了一个更为清晰的相对论时代。
数据仅记录事实的一个侧面
十年前,我刚到美国留学。开学不久,就学到了一件重要的事情,必须区分“事实”和“观点”,至今还记得,教授在课堂上第一次引用这句名言:“每个人都可以有他自己的观点,但不可以有他自己的事实”,我从此引为圭臬。
但随着经验和阅历的增长,我又感悟到,大千世界,之所以意见纷争、共识稀少,还是因为每个人拥有他自己的事实,事实确实只有一个,但一个事实却有千万面,人因为自己的局限,往往只能看到自己认同的那一面,很少有人能面面俱到、看到一个事实的全貌。
导致的结果,各人还是各有“事实”。
这真是个很可怕的结果,数据越多,分歧也可能越多,因为每一个不同的观点,都能找到相应的数据来支持,一定程度上,比没有数据还糟糕。
在我还没到阿里巴巴工作之前,阿里就有业务线上的高管咨询我,说阿里有很多数据,也有很多部门,仅仅预测顾客下一件可能要买的东西,就有9个部门在做,这些部门,往往得出不一样的结论,而且都认为自己的预测最占理、最准确!
我的第一反应,是这些部门依据的应该是各自收集的、不同环节的数据,一问果然如此。我建议说,阿里的正确做法,应该是合并部门、归整数据,形成一个多维度的、尽可能大的数据,再进行预测。
这个案例其实隐藏着一个巨大的时代风险。数量庞大的数据,将导致“人人皆有理”。一个人要做出一个与其它人迥异的结论,总可以找到相应的数据来支撑自己。
其中的本因,就是数据再多,我们都可能无法掌握事实的全貌。数据再大都不是事实,但它逼近事实。事实确实是只有一个,但有千万个棱面,任何一组数据,可能都只仅仅描绘了“一个”面。
如果有上帝,那只有他的眼睛才能看到万事万物的全貌。人,不可以。
再大的数据,也不可以。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19在零售行业大数据分析与精细化运营领域,纸尿裤旁摆放啤酒是最经典、最具代表性的商业案例。两种看似毫无关联的商品,一个是婴幼 ...
2026-08-19 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-08-19在数据分析、业务监控、质量检测与风险管控工作中,数据波动性是衡量数据稳定性、业务健康度、结果可信度的核心依据。数据波动代 ...
2026-08-18很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当导致 ...
2026-08-18在数据分析、业务评价、产品评级、用户分层与综合决策场景中,单一指标往往无法全面、客观地评价事物整体水平。现实中的评价对象 ...
2026-08-18在数理统计、假设检验、数据分析与机器学习领域中,卡方分布(χ²分布)是继正态分布、t分布之后最重要的连续型概率分布之一。 ...
2026-08-17在Python数据清洗、文本校验、账号密码规则校验、脏数据过滤、字符串规整化处理中,正则表达式是最高效、最常用的文本匹配工具。 ...
2026-08-17 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-08-17手游行业具备用户迭代快、竞争激烈、用户粘性易流失的典型特征。随着新游持续上线、玩家审美升级、玩法疲劳等问题出现,存量用户 ...
2026-08-14在数字化产品运营、商业数据分析、业务增长管理中,零散的指标统计无法支撑系统性的业务决策。单一的点击率、转化率、销量数据只 ...
2026-08-14 很多数据分析师每天都在写SQL,但当被问到“数据查询语言(DQL)的本质是什么”“SELECT语句中各子句的书写顺序与实际执行顺 ...
2026-08-14在数据库数据分析、数据清洗、报表统计与业务查询场景中,日期时间是最高频、最核心的基础字段。数据库中存储的日期格式多样,包 ...
2026-08-13在数据统计分析与数据清洗工作中,箱线图是一种简洁高效、客观性强的数据可视化图表,能够直观呈现数据集的分布特征、离散程度和 ...
2026-08-13 很多数据分析师写过无数个SELECT查询,但当被问到“如何新建一张表来固化中间数据”“创建视图和创建物理表有什么区别”“视 ...
2026-08-13在自动化办公、数据采集、定时统计、日志清理、系统监控等场景中,程序往往需要按照固定时间间隔重复执行指定任务,这种运行机制 ...
2026-08-12