京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据也有黑暗面,what比why重要
对于大数据的四个特性我们当然了解,相关性也找到了,接下来就是如何利用大数据创造出价值。“大数据是什么”,“大数据跟我有什么关系”,这是很多人第一次听到大数据心中所产生的疑问。
据《30杂志》报道,麦尔•荀伯格在千余名想了解未来趋势的观众面前,做了一场精彩易懂的演说,告诉了企业及民众,什么是大数据。
大数据找出相关性
2009年,全球出现一种新的流感病毒H1N1,当时美国也无法幸免,疾病管制局(CDC)要求第一线的医师遇到H1N1流感病例,必须立刻通报。即使如此,通报速度仍总是慢一步,会晚1到2个星期。这样的时效让疾管局无法掌握真实情况,对症下药。
当时有几位Google 工程师在著名的《自然》科学期刊中发表了一篇论文。他们透过美国最常使用的前5000万个搜寻关键字,再与疾管局2003-2008年间的流感传播资料加以比对,用高达4.5亿种不同的数学模型,找出这些字出现的频率、时间及地点,有没有统计上的相关性(correlation)。最后被他们挖到宝了,这套软件找出了45个流感关键字眼,放进数学模型之后,预测结果与官方公布的真实资料吻合,有强烈的相关性。
Google 运用这套数学模型,再一次精准地掌握了流感发生的高峰及地区,让防疫工作同步进行,不落后。
再说另一例子,天文学来说,美国太空总署执行一项叫史隆数码巡天计划(Sloan Digital Sky Survey),从2000年开始,他们用位于美国新墨西哥州的天文望远镜去收集资料,计划开始不过几星期,收到的天文资料量就已超过了过去所有天文学历史的总和。到了2010年,这个计划收到了140TB 的资料量。但是接续的新计划,预计2016年登场,未来的巡天望远镜在5天内,就可收到这些资料量。
荀伯格说,当资料进入天文数字时代,荀伯格提醒:到底大数据有多大?其实不是那么重要,重点是在放大,扩大资料量等级,就能做出少量资料做不到的事。
举例来说,画一张马的图画,不是太难的事,但如果画了很多张马的图画,再以每秒24帧来呈现这些图画,就成了动画。这里要强调的是“量变”产生了“质变”,巨量就是这个道理,量的不同,也改变了本质。
what比why重要
量增加了,就出现另一项大数据的特色:乱(messy)。巨量资料的内容常是混乱不齐,质量不一。这是因为,巨量资料的收集过程中,它只要一个大方向即可,不需要讲究到一寸、一分。“这并不是说我们放弃了精准这件事,只是不再将精准奉为圭臬,”荀伯格说。
举例来说,我们要测量某个葡萄园的温度,如果整片葡萄园只有一支温度计,那这支温度计就要十分精准,不能故障,但也意味着它会很贵。换句话说,就是不能有任何杂乱或出错;相反的,如果我们今天在葡萄园里放了100支温度计去测温度,就可以用便宜一些,简单的温度计测出很精准的温度。
100支温度计代表的是量大,尽管其中几支可能不那么精准,但却可以收集到大量数据。比起只靠一支温度计来说,更可看到全貌,代表全体。那此时,一点杂乱就显得微不足道。
重点又来了,荀伯格忽然站起来向所有在场的观众说,大数据时代,资料数量比资料质量更重要。更不要为了一点点信息的偏差而影响了整体分析,想处理掉不精准的信息,成本会很高,也没有必要!
另一个有趣的例子是沃尔玛(73.54, 0.00, 0.00%)(Walmart),他们从庞大的交易记录上发现,在飓风来袭前,销量大增的不只是手电筒,还有一种美国小甜点 Top-Tarts,店家会在每次飓风来临前,把一盒一盒的 Top-Tarts放在风灾的必需品架上,方便急忙的顾客一次满足,“特别是草莓口味的,卖得最好。”
请注意,这里Walmart不去弄清楚为什么飓风时人们特别想吃Top-Tarts,而是把这个相关性找出来,直接采取更有利的营销动作。
荀伯格特别强调,大数据时代,what比why重要。
再举一个例子,发生在他朋友,也是大数据专家,任教于华盛顿大学的教授伊兹奥尼(Oren Etzioni)身上。2003 年时他想从西雅图塔机到洛杉矶参加弟弟的婚礼,他想愈早订票愈能买到便宜,几个月前他就买好了机票,也觉得买得很便宜。没想到他在航程中,出于好奇问了隔壁乘客买多少钱,何时买的。结果,一问之下,都回答最近才买,且都比他买得便宜,他十分生气。
下了飞机后,他决定去好好研究一下购买机票这件事。他发现,如果平均票价呈现下跌,买票就可以慢慢来;如果价格上扬中,你就要先订票,以免它水涨船高。
伊兹奥尼花了41天的时间去比对一旅游网站中超过12000笔的票价资料,他建立了一个模型,让模拟的消费者都省下了大笔的机票钱。在这模型里,消费者不懂“为什么(why)”,只知道“正是如此(what)”,消费者要决定现在是“买或是不买”。
后来这套模型发展出创业计划,他创了一个Farecast网站,消费者可以做出最佳判断,何时该买,还是不买。
大数据与价值
当我们知道了大数据的特性,也找到了相关性,接下来就是靠着它创造出价值来。
美国西雅图有一家专门收集车辆实时定位的资料公司Inrix,它的资料来自上亿台的车辆。同时,它也推出手机 App服务,通过提供服务换取特定的司机资料,包括他们曾开车去的地方、天气及路况等。他们将收到的资料再出售给一家投资基金,该基金根据大型零售商场附近的路况推测业绩,在零售商公布季报前,抢先决定该买入或卖出。因为车潮就是钱潮。这就是价值。
英国的罗尔斯罗伊斯是著名的飞机引擎制造商,它通过在引擎上安装了一个监控器,以掌控引擎是否正常运转。结果随着他们收集到的资料中发现,当引擎出现哪些信号异常,引擎可能会发生问题,这个监控变成了预测,大大减少飞安事故。罗尔斯罗伊斯从过去单单的制造引擎公司,转型为服务咨询,他们让数据产生出价值。
荀伯格说了许多大数据的美好,但他强调,大数据有其黑暗面:隐私当然是一个该关注的焦点,但他强调,更可怕的是各种算法,去预测是不是会患心脏病?或你是否会犯罪等。有时,依靠大数据做出的演算与预测,如果与自由意志不符时,孰轻孰重?
同时,我们也担心,愈来愈多的企业会掌握更多资料,但如此庞大的资料为他们所收集,拿去做了什么?什么用途?不一定能受到监督与管理,这是重要议题。
“巨量资料是为人类所掌控,而不是被巨量资料所掌控,”这是荀伯格最后的提醒。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在大数据时代背景下,海量行业数据亟需通过专业化工具挖掘潜在价值,辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28SQL是数据分析领域最基础、最核心的工具,承担着取数、清洗、统计、分层、归因的全流程工作。不同于单纯的语法练习,实战化SQL数 ...
2026-08-28 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-28随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19