京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据or传统数据,只需找到合适工具
在近期举行的Enterprise Data World大会上,参会者纷纷对"大数据"这一话题发表了自己的看法。来自InfoAdvisors的首席咨询师Karen Lopez作为其中一员,认为大数据并不像看上去那么靠谱。
Lopez说:"从最基本的问题来说,到底什么是大数据?我相信根本就没有人能真正讲清楚。"Lopez拿维基百科上的解释举例,上面说大数据是指那些数据量增长到很大以至于难以处理的数据集。Lopez说:"这到底算是哪门子定义?"
这位在Twitter上非常知名的咨询师又谈到了Apache Hadoop和其他一些相关的技术,她表示Hadoop的伟大之处在于所有跟它相关的事务都会以Hadoop命名,比如Hadoop Column,Hadoop分布式文件系统,Hadoop MapReduce等等等等。那只黄色的小象吉祥物为什么不叫Harry或者Harvey,而偏偏叫Hadoop这么奇怪的名字呢?
Lopez还列出了一些没有以Hadoop命名的技术,包括了Hive、Pig、Zookeeper和Mahout(在印度语中是骑象人的意思)。她略带嘲讽地说:"用到这些技术的项目肯定不能按时完成,因为骑象人要和猪(Pig)、饲养员(Zookeeper)一起工作,听上去就不那么快。"
除此之外,Lopez还对大数据的不可预知性做出来自己的判断。她说:"你不可能提前知道会得到什么类型的数据,它是缺乏Schema的。现在的问题是,只有在数据到达并展现出来之后,你才能知道如何去设计架构。也就是说,在进行数据建模的时候,你要以冲刺的速度来完成。我所谓的冲刺的速度应该是接近光速了,所以希望你们现在就开始练习。"
当然这只是句玩笑话,但是Lopez解释了她为什么要给用户泼泼冷水。她认为大数据的火爆很大一部分源自于厂商的炒作,在她看来,大数据技术同其他任何技术都一样,并不是"包治百病"的"万灵丹".Lopez表示:"没有理由认为大数据与传统的关系型数据或者结构化数据是对立的,我们对于后者已经非常熟悉。我们要的是正确的工具来应对正确的工作,大或者小都不妨碍我们找到这个工具。"
也有一些用户发表了不同的见解,来自Phasic Systems公司的CEO Geoffrey P. Malafsky博士认为,关系型数据库技术已经十分陈旧,会被技术的洪流所抛弃。大数据不是无缘无故流行起来的。无schema的数据是不存在的,只要是数据存储在系统中,它就是有一个schema的。
来自Oracle公司的金融服务技术总监Amir Halfon没有像Malafsky博士一样断然反驳Lopez的说法,但是他认为Lopez讽刺Hadoop的做法并不合适。Halfon也是半开玩笑地说,Hadoop的作者是个技术大牛,他还发起了许多其他的技术项目,不可能给每一个技术都起一个让她满意的名字。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据统计分析、数据清洗、异常值识别与数据分布研究中,箱型图是最直观、高效、专业的可视化分析工具。相较于柱状图、折线图仅 ...
2026-05-29Tkinter是Python内置的标准GUI图形界面库,具备无需额外安装、调用简单、兼容性强、轻量化高效等优势,是Python快速开发桌面小程 ...
2026-05-29 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-05-29【核心关键词】大数据、经理、专业、金融、客户、传统、建模、数据产品、互联网金融、产品经理、数据分析、金融行业、数据模型 ...
2026-05-28 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-05-28随着大数据技术的快速普及,各行各业积累了海量的用户数据、交易数据、生产数据与行为数据。单纯的数据统计与报表分析只能呈现表 ...
2026-05-28在Python网络请求、接口测试、数据爬取、业务对接开发中,Requests库是最简洁、最高效的HTTP请求工具,凭借简洁的语法、完善的适 ...
2026-05-272025 年,零售与服务行业的竞争已从 “经验驱动” 全面转向 “数据驱动”。中小企业门店普遍面临数据零散、分析浅层、决策凭感觉 ...
2026-05-27 很多数据分析师每天都在写SQL,但当被问到“数据查询语言(DQL)的本质是什么”“SELECT语句中各子句的书写顺序与实际执行顺 ...
2026-05-27在统计学分析、实验研究、业务数据复盘过程中,单因素方差分析是检验自变量对因变量是否存在显著影响的核心方法。其中,两个水平 ...
2026-05-26【核心关键词】算法、客户、大数据、互联网、调优、建模、模型优化、机器学习、评分卡模型、模型开发、智能风控、业务场景、数 ...
2026-05-26 很多数据分析师写过无数个 SELECT,但当被问到“新建一张表,该如何定义字段类型来保证数据质量”“创建视图和存储物理表有 ...
2026-05-26在数据清洗、统计分析与数据质量检测工作中,箱型图(又称箱线图、Box Plot)是最直观、最高效的可视化分析工具之一。相较于柱状 ...
2026-05-25在大数据分析、数据清洗、质量管控、风险监测等领域,异常数据识别是保障数据质量、确保分析结论精准、规避业务决策失误的核心基 ...
2026-05-25 很多数据分析师精通Excel函数和透视表,但当被问到“数据从哪里来”“表和视图有什么区别”“数据库管理系统和SQL是什么关系 ...
2026-05-25数字化经营时代,企业的市场竞争早已从经验决策转向数据决策。门店营收、用户转化、产品销量、成本损耗、存量资产等所有经营行为 ...
2026-05-22在MySQL数据库日常运维、业务数据校验、数据迁移与数据清洗场景中,自增主键ID的连续性校验是一项基础且关键的工作。MySQL的Auto ...
2026-05-22 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-05-22【核心关键词】大数据、可视化、存储、架构、客户、离线、产品、同步、实时、数据仓库、数据分析、数据可视化、存储数据、离线 ...
2026-05-21在电商流量红利消退、公域获客成本持续走高的当下,存量用户深度挖掘已成为店铺增收增效的核心抓手。相较于付费投放获取的陌生新 ...
2026-05-21