
大数据’是第三次浪潮的华彩乐章_数据分析师
美国社会思想家托夫勒在 《第三次浪潮》中提出,如果说IBM的主机拉开了信息化革命的大幕,那么‘大数据’才是第三次浪潮的华彩乐章。大数据以其浅显易懂的概念、广泛的潜在应用需求和可展望的巨大经济社会效益,正成为继云计算、物联网之后信息技术领域的又一热点,并将在社会经济各领域产生深刻影响。
麦肯锡全球研究院 (MGI)于2011年6月发布了题为《大数据:下一个创新、竞争和生产力的前沿》的研究报告,最早提出大数据时代已经到来,并从经济角度引发全球对大数据的关注。报告指出,当前大数据规模以及其存储容量正在迅速增长,已经渗透到各个行业和业务职能领域,成为可以与物质资产和人力资本相提并论的重要的生产要素。大数据是继传统IT之后下一个提高生产率的技术前沿。只要具有适当的政策推动,大数据的使用将成为未来提高竞争力、生产力、创新能力以及创造消费者盈余的关键要素,成为领军企业与其他企业之间最大的显着差别。那些没有引入新的分析技术和新的数据类型的企业,不太可能成为其行业的领军者。
2012年3月,美国奥巴马政府宣布推出 大数据的研究和发展计划。该计划涉及美国国家科学基金、美国国家卫生研究院、美国能源部、美国国防部、美国国防部高级研究计划局、美国地质勘探局等6个联邦政府部门,承诺将投资两亿多美元,大力推动和改善与大数据相关的收集、组织和分析工具及技术,以推进从大量的、复杂的数据集合中获取知识和洞见的能力。美国奥巴马政府宣布投资大数据领域,是大数据从商业行为上升到国家战略的分水岭,表明大数据正式提升到战略层面,大数据在经济社会各个层面、各个领域都开始受到重视。
大数据的三重内涵
大数据在业内并没有统一的定义。不同厂商、不同用户,站的角度不同,对大数据的理解也不一样。麦肯锡报告中对大数据的基本定义是:大数据是指其大小超出了典型数据库软件的采集、储存、管理和分析等能力的数据集合。赛迪智库指出,大数据是一个相对的概念,并没有一个严格的标准限定多大规模的数据集合才称得上是大数据。事实上,随着时间推移和数据管理与处理技术的进步,符合大数据标准的数据集合的规模也在并将继续增长。同时,对于不同行业领域和不同应用而言,大数据的规模也不统一。
虽然大数据直接代表的是数据集合这一静态对象,但赛迪智库经过深入研究认为,目前所提到的大数据,并不仅仅是大规模数据集合本身,而应当是数据对象、技术与应用三者的统一:
1.从对象角度看,大数据是大小超出典型数据库软件采集、储存、管理和分析等能力的数据集合。需要注意的是,大数据并非大量数据简单、无意义的堆积,数据量大并不意味着一定具有可观的利用前景。由于最终目标是从大数据中获取更多有价值的新信息,所以必然要求这些大量的数据之间存在着或远或近、或直接或间接的关联性,才具有相当的分析挖掘价值。数据间是否具有结构性和关联性,是 大数据与大规模数据的重要差别。
2.从技术角度看,大数据技术是从各种各样类型的大数据中,快速获得有价值信息的技术及其集成。大数据与大规模数据、海量数据等类似概念间的最大区别,就在于大数据这一概念中包含着对数据对象的处理行为。为了能够完成这一行为,从大数据对象中快速挖掘更多有价值的信息,使大数据活起来,就需要综合运用灵活的、多学科的方法,包括数据聚类、数据挖掘、分布式处理等,而这就需要拥有对各类技术、各类软硬件的集成应用能力。可见,大数据技术是使大数据中所蕴含的价值得以发掘和展现的重要工具。
3.从应用角度看,大数据是对特定的大数据集合、集成应用大数据技术、获得有价值信息的行为。正由于与具体应用紧密联系,甚至是一对一的联系,才使得应用成为大数据不可或缺的内涵之一。
需要明确的是,大数据分析处理的最终目标,是从复杂的数据集合中发现新的关联规则,继而进行深度挖掘,得到有效用的新信息。如果数据量不小,但数据结构简单,重复性高,分析处理需求也仅仅是根据已有规则进行数据分组归类,未与具体业务紧密结合,依靠已有基本数据分析处理技术已足够,则不能算作是完全的大数据,只是大数据的初级发展阶段。
大数据对信息产业的影响
大数据的热潮兴起于新一代信息技术的融合发展,物联网、移动互联网、数字家庭、社会化网络等应用使得数据规模快速扩大,对大数据的处理和分析的需求日益旺盛,推动了大数据领域的发展。反过来,大数据的分析、优化结果又反馈到这些应用中,进一步改善其使用体验,支撑和推动新一代信息技术产业的发展。
赛迪智库 《软件与信息服务研究》指出,大数据将为信息产业带来新的增长点。IDC预测,全球数据在2015年将达到10万亿TB。面对爆发式增长的海量数据,基于传统架构的信息系统已难以应对,同时传统商业智能系统和数据分析软件面对以视频、图片、文字等非结构化数据为主的大数据时,也缺少有效的分析工具和方法。信息系统普遍面临升级换代的迫切需求为信息产业带来新的、更为广阔的增长点。
同时,大数据将加速信息技术产品的创新融合发展。大数据面临着有效存储、实时分析等挑战,必将对芯片、存储产业产生重要影响,将推动一体化数据存储处理服务器、内存计算等产品的升级创新。对数据快速处理和分析的需求,将推动商业智能、数据挖掘等软件在企业级的信息系统中得到融合应用,成为业务创新的重要手段。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01CDA 数据分析师:企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”, ...
2025-09-01数据清洗工具全景指南:从入门到进阶的实操路径 在数据驱动决策的链条中,“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化:以预测结果为核心的闭环调优路径 在机器学习模型落地中,“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29CDA 数据分析与量化策略分析流程:协同落地数据驱动价值 在数据驱动决策的实践中,“流程” 是确保价值落地的核心骨架 ——CDA ...
2025-08-29CDA含金量分析 在数字经济与人工智能深度融合的时代,数据驱动决策已成为企业核心竞争力的关键要素。CDA(Certified Data Analys ...
2025-08-28CDA认证:数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据,当苏州银行的数字金融部连夜部署新的风控 ...
2025-08-28PCU:游戏运营的 “实时晴雨表”—— 从数据监控到运营决策的落地指南 在游戏行业,DAU(日活跃用户)、MAU(月活跃用户)是衡量 ...
2025-08-28Excel 聚类分析:零代码实现数据分群,赋能中小团队业务决策 在数字化转型中,“数据分群” 是企业理解用户、优化运营的核心手段 ...
2025-08-28CDA 数据分析师:数字化时代数据思维的践行者与价值推动者 当数字经济成为全球经济增长的核心引擎,数据已从 “辅助性信息” 跃 ...
2025-08-28ALTER TABLE ADD 多个 INDEX:数据库批量索引优化的高效实践 在数据库运维与性能优化中,索引是提升查询效率的核心手段。当业务 ...
2025-08-27Power BI 去重函数:数据清洗与精准分析的核心工具 在企业数据分析流程中,数据质量直接决定分析结果的可靠性。Power BI 作为主 ...
2025-08-27CDA 数据分析师:数据探索与统计分析的实践与价值 在数字化浪潮席卷各行业的当下,数据已成为企业核心资产,而 CDA(Certif ...
2025-08-27t 检验与 Wilcoxon 检验:数据差异比较的两大统计利器 在数据分析中,“比较差异” 是核心需求之一 —— 如新药疗效是否优于旧药 ...
2025-08-26季节性分解外推法:解锁时间序列预测的规律密码 在商业决策、资源调度、政策制定等领域,准确的预测是规避风险、提升效率的关键 ...
2025-08-26CDA 数据分析师:数据治理驱动下的企业数据价值守护者 在数字经济时代,数据已成为企业核心战略资产,其价值的释放离不开高 ...
2025-08-26