京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据还有不少潜能
近两年来,大数据被公众广泛讨论,甚至成为不少商家宣传营销的卖点。毋庸置疑,智能设备的发展和普及,使海量的数据采集成为可能。但大数据并不是单纯的“数据大”,它更蕴含着一种计算和思维方式的转变,想要发挥出大数据的洞察力,还面临着采集、管理、分析数据的挑战。这些障碍如何破除?大数据在未来将如何应用,能否创造出更大的价值?这些问题值得我们在大数据热中,做出冷静判断。
4月26日,清华大学成立“清华—青岛数据科学研究院”,同时召开大数据时代高端论坛。就在此前两天,百度在第四届技术开放日上,正式宣布对外开放大数据引擎,提供大数据存储、分析及挖掘的技术能力。大数据被学界纳入研究范畴,商家开放引擎,这是否意味着大数据应用进入了一个新阶段?
传统统计方法追求精确,大数据只预测宏观趋势
本是技术概念的大数据,如今越来越像一种营销手段。从汽车、化妆品到体育,在营销人员口中,似乎所有行业都可以借助大数据,精确定位、找到消费者,预测趋势、赢得未来。
中国人民大学新闻学院教授喻国明认为,目前从国内的情况看,真正运用大数据分析成功的案例其实不多,很多公司都是将大数据作为一个营销噱头,所做的分析也主要是基于传统的数据分析方法。
事实上,对于数据多大能称之为“大数据”,业界并没有统一的认识,通常认为100TB(太字节)是大数据的门槛。简而言之,传统方法无法处理的数据即为大数据。
大数据的产生得益于移动互联网以及智能手机、各种智能穿戴产品的发展,人们行为、位置,甚至身体的生理特征等数据都可以便捷地被记录,这使海量数据采集成为可能。事实上,目前数据采集量正呈现快速的增长趋势。一家国际数据统计机构最新预测指出,2020年,全世界产生的数据量有望达到40ZB(泽字节,1泽字节等于10亿太字节)。
但大数据不能单纯理解为数据大。大数据研究专家、北京航空航天大学校长怀进鹏表示,大数据具有“规模大、变化快、种类杂、价值密度低”四个特征,是对传统计算和思维方式的一种挑战。
首先,因为几乎每个数据点都可以采集,全面数据代替了抽样、片面、局部的数据。“拿炒菜打比方,传统的抽样,我们需要在开始和中间时候‘尝一尝’,‘尝一尝’就是抽样数据,但在大数据时代,随机抽样的方式可能就失效了。”怀进鹏说。
怀进鹏认为,因为抽样分析时数据测量能力有限,统计追求的是精确,希望用最少数据获得最多的信息。而大数据比较杂乱,完整的精确不存在,也不再是追求的绝对目标,大数据只需对宏观趋势给出快速预测。
另一个改变是,从关注因果转向数据之间关联。在大数据时代,“数据背后的原因不再重要,人们只需要知道数据之间有统计相关性就行。仅需知其然,无需知其所以然。”怀进鹏说。
在大数据的支持者看来,数据已经能够自己说话,传统的科学统计模型已经过时,理论也可能被终结。
大数据营销大多是噱头,一些机构甚至无法收集海量数据
被誉为开大数据系统研究先河之作的《大数据时代》作者指出,大数据是社会的一种新型能力:以一种前所未有的方式,通过对海量数据进行分析,获得巨大价值的产品和服务,或深刻的洞见。
大数据蕴含的发现事实、挖掘价值、预测未来的洞察力,也是各色大数据营销的理论出发点。实际上,大数据洞察力确实在公共卫生、交通运输等行业开始发挥。
中国疾病预防控制中心副主任、中科院院士高福也认同大数据在公共卫生预防控制上的作用。他说,通过大数据,可以在流感到来之前为人们提供一些解释性信息,为流感的预防提供缓冲时间。
同样,在智能交通时代,海量车辆信息没法通过传统方式分析,但借助大数据,则可能提前预测未来的车流量、行进路线等信息,从而为改善城市交通状况提出优化方案。
然而,“自己能够讲话的大数据”,是否真如营销人员畅想得那么美好?
分析人士指出,数据存储和搬运虽然越来越便利,但目前大数据应用面临着数据收集,管理、分析海量数据并创造价值的挑战。
“如果将数据比作书,书增多后,首先要找到储存大数据的‘大图书馆’,下一步则要解决数据查询问题,没有好的查询引擎,书找不到,数据也就很难利用。”百度大数据总监李钢江说。而现实是,大部分机构和企业都没有海量数据收集存储以及分析管理的能力。
业内人士指出,大数据在一些领域的营销还只是噱头,先不论大数据分析结果是否有效,有些行业连基本的大数据采集和管理条件还不具备,更谈不上精确定位和预测。
百度高级副总裁王劲也表示,传统的数据库没有管理大数据的能力,传统行业如何进入大数据时代,利用大数据价值,是摆在很多行业面前的新课题。
提升计算能力和降低云存储成本,将有利于大数据技术变革
百度首席执行官李彦宏认为,随着计算能力的提升和云存储等技术产品成本的不断降低,大数据走到了技术变革的临界点。不久前,百度就推出了“百度大数据引擎”,百度希望借助该工具,对大数据进行收集、存储、计算、挖掘和管理,并通过深度学习技术和数据建模技术,使数据具有“智能”的技术能力,服务传统行业。
据了解,百度大数据引擎包括开放云、数据工厂、百度大脑三大组件。其中,开放云解决的是数据存储和计算问题;“数据工厂”则对行业数据进行规范化处理,提供数据管理和分析;而“百度大脑”则让机器和人脑一样思考,分析处理数据。
不过,分析人士指出,虽然各方面为挖掘大数据开发了很多工具,但大数据的成熟应用还有很长一段时间。首先,数据杂乱,价值密度低,如何有效的收集数据信息仍没有成熟的方案。同时,数据的规模并不能决定一切,不论是那种数据分析方式,都可能存在统计上的缺陷,不能说数据更大、更新、更快就没有问题。
英特尔中国研究院首席工程师吴甘沙表示,大数据作为一种新的数据形态和实践,它将丰富数据应用方法,却不能取代传统统计分析方法,更不能神化大数据。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在大数据时代背景下,海量行业数据亟需通过专业化工具挖掘潜在价值,辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28SQL是数据分析领域最基础、最核心的工具,承担着取数、清洗、统计、分层、归因的全流程工作。不同于单纯的语法练习,实战化SQL数 ...
2026-08-28 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-28随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19