
7月9日,美国《连线》杂志近日刊登了一篇关于大数据的评论文章。作者认为,如果缺乏对人们现实生活的实地调查,大数据没有什么意义。
在短短的几十年里,“技术天才”与社会的关系已经改变:他们从关在屋里的孤独者变成救世主,从反社会者变成社会的最大希望。许多人现在似乎相信,理解我们这个世界的最佳方式,就是坐在电脑屏幕前分析我们称之为“大数据”的海量信息。
关于这一点,我们只要看看 “谷歌(微博)流感趋势(Google Flu Trends)”。2008年,当谷歌推出这项服务时,硅谷的许多人将它鼓吹为表明大数据将很快淘汰传统分析方式的一个标志性产品。
但他们错了。
“谷歌流感趋势”不仅没有提供流感传播的精确描述,也无法实现大数据鼓吹者的美梦。这是因为,如果没有“厚数据”(丰富的、具有前后关联性的数据,它们只能通过丢开电脑、深入实际生活才能获得),大数据就没有意义。电脑极客们曾经因为不能适应社会生活而被嘲笑,他们被告知应该“多出去走走”。实际上,如果大数据的信徒们希望理解这个他们也在参与塑造的世界,他们真的需要多出去走走。
谷歌的失败与算法无关
“谷歌流感趋势”的目的是:找出人们在流感季节常用的搜索词,然后实时跟踪这些搜索词的使用高峰期。这样,谷歌就可以在新流感爆发之前发出警报,而且预警时间要比官方疾病防治中心的预警时间早大约两周。
对很多人来说,“谷歌流感趋势”已经成为大数据的一个典型代表,它表现了大数据的巨大力量。在畅销书《大数据:一场改变生活、工作和思考方式的革命》(A Revolution That Will Transform How We Live, Work and Think)中,作者维克托•迈尔•舍恩柏格(Viktor Mayer-Schönberger)和肯尼斯•库克耶(Kenneth Cukier)宣称,与政府滞后的数据相比,“谷歌流感趋势”是更有用、更及时的流感指示器。
然而,著名的《科学》杂志本月刊登一篇文章告诉我们,自2011年8月以来,“谷歌流感趋势”几乎每周都会高估流感的盛行率。
而在2009年,就在“谷歌流感趋势”推出后不久,它竟然完全没有察觉猪流感的爆发。事实上,人们在流感季节的许多常用搜索词与流感无关,而与流感的通常爆发季节——冬季——密切相关。
许多人争论道,“谷歌流感趋势”的失败缘于大数据的不成熟。这种观点没有切中要害。当然,调整算法、提高数据收集技术将会让下一代大数据工具变得更有效。然而,大数据鼓吹者真正的狂妄之处不在于对一套不成熟的算法过于自信,而在于盲目地相信坐在电脑屏幕前捣鼓一些数字就可以充分理解世界。
为什么需要厚数据
大数据仅仅是大量的“薄数据”,它们是通过对人们的活动和行为进行跟踪而获得的。我们最常去的地方,我们在网上搜索的东西,我们每天睡了多久,我们有多少联系人,我们所听的音乐类型等等。这些数据是通过你浏览器中的“cookies”、你戴在手上的FitBit腕带或你手机上的GPS来收集的。这些信息无疑是重要的,但我们不能通过它们来获得对人的完整理解。
为了真正地了解人,我们不久需要大数据,而且需要厚数据。厚数据不仅包括事实,而且包括事实的前后联系。比如说,美国有86%的家庭每周会喝掉6夸脱以上的牛奶,但是她们为什么喝牛奶?他们是怎么喝的?一块包含三种颜色、绣着星星和条纹图案的布,这是薄数据;一面在风中飘扬的美国国旗,这是厚数据。
基于“我们做了什么”,大数据对我们进行简单化的理解;厚数据则试图通过我们与周围世界的联系来理解我们。只有理解人与周围世界的联系,人们才能从整体上认识这个世界,这恰恰也是谷歌、facebook等公司想要做的。
理解我们这个世界
想想硅谷的那些宏伟宣言。谷歌的宗旨是“组织全球信息,使人人皆可访问它们并从中获益。”马克·扎克伯格(Mark Zuckerberg)最近对投资者表示,在全球化和知识经济日益受到重视的当今世界,Facebook致力于一个新的使命:“理解这个世界”。他说:“人们每天在Facebook上发布数十亿条内容和链接。在他们的帮助下,我们通过专门的算法机制为世界上所有事物建立最清晰的模型。”甚至有一些小公司也参与了“理解这个世界”。去年,Jawbone公司的副总裁耶利米•罗宾逊(Jeremiah Robison)说,他们的健康跟踪设备Jawbone UP的目标是“理解(人的)行为变化的科学。”
这些目标的确很大。企业渴望更好地理解社会,这不足为怪。毕竟,了解与客户行为及社会文化相关的信息,这对企业经营来说是必不可少的。而且,在知识经济时代,这些信息本身已经成为一种通货,它们可以换来点击率、浏览量和广告收入。或者更简单地说,它们可以换来权力。在这个过程中,如果谷歌、facebook等公司能不断帮助我们增进对自身的集体知识,它们获得更多权力也是正当的。问题在于,如果它们声称计算机能够组织我们的所有数据,或能够向我们提供关于流感、健康或社会关系等各方面的完整理解,那么,它们从根本上小看了“数据”和“理解”的意义。
如果硅谷的大数据鼓吹者真想“了解世界”,那么他们不仅需要掌握大数据,也需要掌握厚数据。不幸的是,要获得后者,他们需要丢开电脑去实地体验这个世界,而不是仅仅通过谷歌眼镜(或通过facebook的虚拟现实设备)来观察世界。
人们的行为情境
如果你对一个领域高度熟悉,有能力填补信息空白并想象人们的行为原因,那么“薄数据”将是有用的。换句话说,如果你能够想象并重建人们的行为的发生情境,你所观察到的行为才是有意义的。如果缺乏对行为情境的了解,就不可能推出任何因果关系,也不可能理解人们的行为原因。
这就是为什么研究人员在科学实验中要竭尽全力控制实验室的环境,以创造一个各种影响因素都被考虑在内、彻底的人工场所。不过,真实世界并不是一个实验室。要确保你对陌生世界的情境有所了解,唯一的途径是实地观察并内化和解释正在发生的每一件事。
人们的背景知识
如果说大数据擅长观察人们的行为,那么它不擅长的就是理解人们对每样事物的背景知识。我是怎么知道每次刷牙时该用多少牙膏的?我是怎么知道何时该进入另一个交通通道的?眨眼是表示“真有趣”还是“我的眼睛进了东西”?这些都涉及人们的内在能力、无意识和背景知识,它们控制着人们的大多数行为。跟周围的事物一样,这些不可见的背景知识只有在观察者主动去看的情况下才能被发现。不过,它们却对每个人的行为有着重要影响。它能够解释事物与人的联系,以及事物对人的意义。
人类学及社会科学中有大量观察和解释人类行为的方法。研究人员不但观察人的行为,而且考查他们所处的情境和他们拥有的背景知识。这些方法有一个共同的特点:它们要求研究者深入混乱而真实的人类生活。
没有哪一个单独的工具能够成为理解人类的超级武器。尽管硅谷有许多出色的发明,不过我们对任何数字技术的期望都应该有个限度。“谷歌流感趋势”真正教给我们的是:不能仅仅问这些数据有多“大”,还要问这些数据有多“厚”。
有时,走进真实的生活会得到更好的结果。有时,我们必须要丢下电脑。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01CDA 数据分析师:企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”, ...
2025-09-01数据清洗工具全景指南:从入门到进阶的实操路径 在数据驱动决策的链条中,“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化:以预测结果为核心的闭环调优路径 在机器学习模型落地中,“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29CDA 数据分析与量化策略分析流程:协同落地数据驱动价值 在数据驱动决策的实践中,“流程” 是确保价值落地的核心骨架 ——CDA ...
2025-08-29CDA含金量分析 在数字经济与人工智能深度融合的时代,数据驱动决策已成为企业核心竞争力的关键要素。CDA(Certified Data Analys ...
2025-08-28CDA认证:数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据,当苏州银行的数字金融部连夜部署新的风控 ...
2025-08-28PCU:游戏运营的 “实时晴雨表”—— 从数据监控到运营决策的落地指南 在游戏行业,DAU(日活跃用户)、MAU(月活跃用户)是衡量 ...
2025-08-28Excel 聚类分析:零代码实现数据分群,赋能中小团队业务决策 在数字化转型中,“数据分群” 是企业理解用户、优化运营的核心手段 ...
2025-08-28CDA 数据分析师:数字化时代数据思维的践行者与价值推动者 当数字经济成为全球经济增长的核心引擎,数据已从 “辅助性信息” 跃 ...
2025-08-28ALTER TABLE ADD 多个 INDEX:数据库批量索引优化的高效实践 在数据库运维与性能优化中,索引是提升查询效率的核心手段。当业务 ...
2025-08-27Power BI 去重函数:数据清洗与精准分析的核心工具 在企业数据分析流程中,数据质量直接决定分析结果的可靠性。Power BI 作为主 ...
2025-08-27CDA 数据分析师:数据探索与统计分析的实践与价值 在数字化浪潮席卷各行业的当下,数据已成为企业核心资产,而 CDA(Certif ...
2025-08-27