
[数据分析师]_大数据还有不少潜能
近两年来,大数据被公众广泛讨论,甚至成为不少商家宣传营销的卖点。毋庸置疑,智能设备的发展和普及,使海量的数据采集成为可能。但大数据并不是单纯的“数据大”,它更蕴含着一种计算和思维方式的转变,想要发挥出大数据的洞察力,还面临着采集、管理、分析数据的挑战。这些障碍如何破除?大数据在未来将如何应用,能否创造出更大的价值?这些问题值得我们在大数据热中,做出冷静判断。
4月26日,清华大学成立“清华—青岛数据科学研究院”,同时召开大数据时代高端论坛。就在此前两天,百度在第四届技术开放日上,正式宣布对外开放大数据引擎,提供大数据存储、分析及挖掘的技术能力。大数据被学界纳入研究范畴,商家开放引擎,这是否意味着大数据应用进入了一个新阶段?
传统统计方法追求精确,大数据只预测宏观趋势
本是技术概念的大数据,如今越来越像一种营销手段。从汽车、化妆品到体育,在营销人员口中,似乎所有行业都可以借助大数据,精确定位、找到消费者,预测趋势、赢得未来。
中国人民大学新闻学院教授喻国明认为,目前从国内的情况看,真正运用大数据分析成功的案例其实不多,很多公司都是将大数据作为一个营销噱头,所做的分析也主要是基于传统的数据分析方法。
事实上,对于数据多大能称之为“大数据”,业界并没有统一的认识,通常认为100TB太字节是大数据的门槛。简而言之,传统方法无法处理的数据即为大数据。
大数据的产生得益于移动互联网以及智能手机、各种智能穿戴产品的发展,人们行为、位置,甚至身体的生理特征等数据都可以便捷地被记录,这使海量数据采集成为可能。事实上,目前数据采集量正呈现快速的增长趋势。一家国际数据统计机构最新预测指出,2020年,全世界产生的数据量有望达到40ZB泽字节,1泽字节等于10亿太字节。
但大数据不能单纯理解为数据大。大数据研究专家、北京航空航天大学校长怀进鹏表示,大数据具有“规模大、变化快、种类杂、价值密度低”四个特征,是对传统计算和思维方式的一种挑战。
首先,因为几乎每个数据点都可以采集,全面数据代替了抽样、片面、局部的数据。“拿炒菜打比方,传统的抽样,我们需要在开始和中间时候‘尝一尝’,‘尝一尝’就是抽样数据,但在大数据时代,随机抽样的方式可能就失效了。”怀进鹏说。
怀进鹏认为,因为抽样分析时数据测量能力有限,统计追求的是精确,希望用最少数据获得最多的信息。而大数据比较杂乱,完整的精确不存在,也不再是追求的绝对目标,大数据只需对宏观趋势给出快速预测。
另一个改变是,从关注因果转向数据之间关联。在大数据时代,“数据背后的原因不再重要,人们只需要知道数据之间有统计相关性就行。仅需知其然,无需知其所以然。”怀进鹏说。
在大数据的支持者看来,数据已经能够自己说话,传统的科学统计模型已经过时,理论也可能被终结。
大数据营销大多是噱头,一些机构甚至无法收集海量数据
被誉为开大数据系统研究先河之作的《大数据时代》作者指出,大数据是社会的一种新型能力:以一种前所未有的方式,通过对海量数据进行分析,获得巨大价值的产品和服务,或深刻的洞见。
大数据蕴含的发现事实、挖掘价值、预测未来的洞察力,也是各色大数据营销的理论出发点。实际上,大数据洞察力确实在公共卫生、交通运输等行业开始发挥。
中国疾病预防控制中心副主任、中科院院士高福也认同大数据在公共卫生预防控制上的作用。他说,通过大数据,可以在流感到来之前为人们提供一些解释性信息,为流感的预防提供缓冲时间。
同样,在智能交通时代,海量车辆信息没法通过传统方式分析,但借助大数据,则可能提前预测未来的车流量、行进路线等信息,从而为改善城市交通状况提出优化方案。
然而,“自己能够讲话的大数据”,是否真如营销人员畅想得那么美好?
分析人士指出,数据存储和搬运虽然越来越便利,但目前大数据应用面临着数据收集,管理、分析海量数据并创造价值的挑战。
“如果将数据比作书,书增多后,首先要找到储存大数据的‘大图书馆’,下一步则要解决数据查询问题,没有好的查询引擎,书找不到,数据也就很难利用。” 百度大数据总监李钢江说。而现实是,大部分机构和企业都没有海量数据收集存储以及分析管理的能力。
业内人士指出,大数据在一些领域的营销还只是噱头,先不论大数据分析结果是否有效,有些行业连基本的大数据采集和管理条件还不具备,更谈不上精确定位和预测。
百度高级副总裁王劲也表示,传统的数据库没有管理大数据的能力,传统行业如何进入大数据时代,利用大数据价值,是摆在很多行业面前的新课题。
提升计算能力和降低云存储成本,将有利于大数据技术变革
百度首席执行官李彦宏认为,随着计算能力的提升和云存储等技术产品成本的不断降低,大数据走到了技术变革的临界点。不久前,百度就推出了“百度大数据引擎”,百度希望借助该工具,对大数据进行收集、存储、计算、挖掘和管理,并通过深度学习技术和数据建模技术,使数据具有“智能”的技术能力,服务传统行业。
据了解,百度大数据引擎包括开放云、数据工厂、百度大脑三大组件。其中,开放云解决的是数据存储和计算问题;“数据工厂”则对行业数据进行规范化处理,提供数据管理和分析;而“百度大脑”则让机器和人脑一样思考,分析处理数据。
不过,分析人士指出,虽然各方面为挖掘大数据开发了很多工具,但大数据的成熟应用还有很长一段时间。首先,数据杂乱,价值密度低,如何有效的收集数据信息仍没有成熟的方案。同时,数据的规模并不能决定一切,不论是那种数据分析方式,都可能存在统计上的缺陷,不能说数据更大、更新、更快就没有问题。
英特尔中国研究院首席工程师吴甘沙表示,大数据作为一种新的数据形态和实践,它将丰富数据应用方法,却不能取代传统统计分析方法,更不能神化大数据。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01CDA 数据分析师:企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”, ...
2025-09-01数据清洗工具全景指南:从入门到进阶的实操路径 在数据驱动决策的链条中,“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化:以预测结果为核心的闭环调优路径 在机器学习模型落地中,“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29CDA 数据分析与量化策略分析流程:协同落地数据驱动价值 在数据驱动决策的实践中,“流程” 是确保价值落地的核心骨架 ——CDA ...
2025-08-29CDA含金量分析 在数字经济与人工智能深度融合的时代,数据驱动决策已成为企业核心竞争力的关键要素。CDA(Certified Data Analys ...
2025-08-28CDA认证:数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据,当苏州银行的数字金融部连夜部署新的风控 ...
2025-08-28