
大数据也有黑暗面,what比why重要
对于大数据的四个特性我们当然了解,相关性也找到了,接下来就是如何利用大数据创造出价值。“大数据是什么”,“大数据跟我有什么关系”,这是很多人第一次听到大数据心中所产生的疑问。
据《30杂志》报道,麦尔•荀伯格在千余名想了解未来趋势的观众面前,做了一场精彩易懂的演说,告诉了企业及民众,什么是大数据。
大数据找出相关性
2009年,全球出现一种新的流感病毒H1N1,当时美国也无法幸免,疾病管制局(CDC)要求第一线的医师遇到H1N1流感病例,必须立刻通报。即使如此,通报速度仍总是慢一步,会晚1到2个星期。这样的时效让疾管局无法掌握真实情况,对症下药。
当时有几位Google 工程师在著名的《自然》科学期刊中发表了一篇论文。他们透过美国最常使用的前5000万个搜寻关键字,再与疾管局2003-2008年间的流感传播资料加以比对,用高达4.5亿种不同的数学模型,找出这些字出现的频率、时间及地点,有没有统计上的相关性(correlation)。最后被他们挖到宝了,这套软件找出了45个流感关键字眼,放进数学模型之后,预测结果与官方公布的真实资料吻合,有强烈的相关性。
Google 运用这套数学模型,再一次精准地掌握了流感发生的高峰及地区,让防疫工作同步进行,不落后。
再说另一例子,天文学来说,美国太空总署执行一项叫史隆数码巡天计划(Sloan Digital Sky Survey),从2000年开始,他们用位于美国新墨西哥州的天文望远镜去收集资料,计划开始不过几星期,收到的天文资料量就已超过了过去所有天文学历史的总和。到了2010年,这个计划收到了140TB 的资料量。但是接续的新计划,预计2016年登场,未来的巡天望远镜在5天内,就可收到这些资料量。
荀伯格说,当资料进入天文数字时代,荀伯格提醒:到底大数据有多大?其实不是那么重要,重点是在放大,扩大资料量等级,就能做出少量资料做不到的事。
举例来说,画一张马的图画,不是太难的事,但如果画了很多张马的图画,再以每秒24帧来呈现这些图画,就成了动画。这里要强调的是“量变”产生了“质变”,巨量就是这个道理,量的不同,也改变了本质。
what比why重要
量增加了,就出现另一项大数据的特色:乱(messy)。巨量资料的内容常是混乱不齐,质量不一。这是因为,巨量资料的收集过程中,它只要一个大方向即可,不需要讲究到一寸、一分。“这并不是说我们放弃了精准这件事,只是不再将精准奉为圭臬,”荀伯格说。
举例来说,我们要测量某个葡萄园的温度,如果整片葡萄园只有一支温度计,那这支温度计就要十分精准,不能故障,但也意味着它会很贵。换句话说,就是不能有任何杂乱或出错;相反的,如果我们今天在葡萄园里放了100支温度计去测温度,就可以用便宜一些,简单的温度计测出很精准的温度。
100支温度计代表的是量大,尽管其中几支可能不那么精准,但却可以收集到大量数据。比起只靠一支温度计来说,更可看到全貌,代表全体。那此时,一点杂乱就显得微不足道。
重点又来了,荀伯格忽然站起来向所有在场的观众说,大数据时代,资料数量比资料质量更重要。更不要为了一点点信息的偏差而影响了整体分析,想处理掉不精准的信息,成本会很高,也没有必要!
另一个有趣的例子是沃尔玛(73.54, 0.00, 0.00%)(Walmart),他们从庞大的交易记录上发现,在飓风来袭前,销量大增的不只是手电筒,还有一种美国小甜点 Top-Tarts,店家会在每次飓风来临前,把一盒一盒的 Top-Tarts放在风灾的必需品架上,方便急忙的顾客一次满足,“特别是草莓口味的,卖得最好。”
请注意,这里Walmart不去弄清楚为什么飓风时人们特别想吃Top-Tarts,而是把这个相关性找出来,直接采取更有利的营销动作。
荀伯格特别强调,大数据时代,what比why重要。
再举一个例子,发生在他朋友,也是大数据专家,任教于华盛顿大学的教授伊兹奥尼(Oren Etzioni)身上。2003 年时他想从西雅图塔机到洛杉矶参加弟弟的婚礼,他想愈早订票愈能买到便宜,几个月前他就买好了机票,也觉得买得很便宜。没想到他在航程中,出于好奇问了隔壁乘客买多少钱,何时买的。结果,一问之下,都回答最近才买,且都比他买得便宜,他十分生气。
下了飞机后,他决定去好好研究一下购买机票这件事。他发现,如果平均票价呈现下跌,买票就可以慢慢来;如果价格上扬中,你就要先订票,以免它水涨船高。
伊兹奥尼花了41天的时间去比对一旅游网站中超过12000笔的票价资料,他建立了一个模型,让模拟的消费者都省下了大笔的机票钱。在这模型里,消费者不懂“为什么(why)”,只知道“正是如此(what)”,消费者要决定现在是“买或是不买”。
后来这套模型发展出创业计划,他创了一个Farecast网站,消费者可以做出最佳判断,何时该买,还是不买。
大数据与价值
当我们知道了大数据的特性,也找到了相关性,接下来就是靠着它创造出价值来。
美国西雅图有一家专门收集车辆实时定位的资料公司Inrix,它的资料来自上亿台的车辆。同时,它也推出手机 App服务,通过提供服务换取特定的司机资料,包括他们曾开车去的地方、天气及路况等。他们将收到的资料再出售给一家投资基金,该基金根据大型零售商场附近的路况推测业绩,在零售商公布季报前,抢先决定该买入或卖出。因为车潮就是钱潮。这就是价值。
英国的罗尔斯罗伊斯是著名的飞机引擎制造商,它通过在引擎上安装了一个监控器,以掌控引擎是否正常运转。结果随着他们收集到的资料中发现,当引擎出现哪些信号异常,引擎可能会发生问题,这个监控变成了预测,大大减少飞安事故。罗尔斯罗伊斯从过去单单的制造引擎公司,转型为服务咨询,他们让数据产生出价值。
荀伯格说了许多大数据的美好,但他强调,大数据有其黑暗面:隐私当然是一个该关注的焦点,但他强调,更可怕的是各种算法,去预测是不是会患心脏病?或你是否会犯罪等。有时,依靠大数据做出的演算与预测,如果与自由意志不符时,孰轻孰重?
同时,我们也担心,愈来愈多的企业会掌握更多资料,但如此庞大的资料为他们所收集,拿去做了什么?什么用途?不一定能受到监督与管理,这是重要议题。
“巨量资料是为人类所掌控,而不是被巨量资料所掌控,”这是荀伯格最后的提醒。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01CDA 数据分析师:企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”, ...
2025-09-01数据清洗工具全景指南:从入门到进阶的实操路径 在数据驱动决策的链条中,“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化:以预测结果为核心的闭环调优路径 在机器学习模型落地中,“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29CDA 数据分析与量化策略分析流程:协同落地数据驱动价值 在数据驱动决策的实践中,“流程” 是确保价值落地的核心骨架 ——CDA ...
2025-08-29CDA含金量分析 在数字经济与人工智能深度融合的时代,数据驱动决策已成为企业核心竞争力的关键要素。CDA(Certified Data Analys ...
2025-08-28CDA认证:数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据,当苏州银行的数字金融部连夜部署新的风控 ...
2025-08-28