京公网安备 11010802034615号
经营许可证编号:京B2-20210330
剖析大数据市场:继续发展并逐渐迁移云端
大数据市场呈一片欣欣向荣的景象,近年来,随着技术的不断发展创新,大数据顺着时代发展的潮流,发展迅猛。“大数据”一词最早出现在1990年的一本科技词典中,当时这个词是用于形容庞大且增长猛烈的企业数据,利用当时的技术,人们很难存储并分析这些数据。
2001年,分析师DougLaney提出了大数据的定义,它包含三个“V”的维度:数量(volume)、速度(velocity)和种类(variety)。在随后的几年里,Laney的定义成为了行业通用的标准,有些人还加入了第四个V来定义它——可变性(variability)。
2014年,IDC和EMC发布了最新版本的《数字世界研究报告》,其中指出全球数字化系统中存储的数据量正在以每年40%的速度增长着。报告还预测,到2020年,整个数字化世界中将存储44泽字节的信息。这些数据就如同宇宙中的繁星一样多,要把这些信息装进2014年代的数据表里,表格的长度是日月距离的6.6倍。
现如今,大数据依然在快速地发展,不过人们已经渐渐不去把数据存储量的增长当成焦点。相反地,越来越多的组织开始把目光放在数据分析、数据科学以及机器学习上。他们直接把管理大数据当做是业务的一部分,如果想要在竞争中获得胜利,他们就需要找到将存储的大数据转化为高价值洞察的方式。
大数据市场概况
根据IDC报告,全球大数据及商业分析的收入可能将从2017年的1508亿美元增长到2020年的2100亿美元,复合年增长率高达11.9%。这也意味着,在大数据发展的这些年,企业在大数据技术上的花费越来越多。
IDC集团副总裁DanVesset说:“在经历了S型曲线式的多年发展以后,大数据和商业分析解决方案已经完全成为了主流。”
大部分组织和企业认为大数据项目对他们的营收有积极的影响。在《NewVantage Partners 大数据管理调查》中,80.7%的受访者反馈针对大数据的投资是成功的,48.4%的人认为他们通过大数据项目实现了可以被计量的好处。
这样的结果可能会鼓励企业继续向大数据投资,但他们所采纳的大数据解决方案的类型正在发生转变。根据Forrester的一项调查,“大数据正在向云端迁移。事实上,全球范围内,通过云端订阅购买大数据解决方案的增长速度是本地化订阅的7.5倍。”Forrester还补充道,“此外,根据我们2016-2017年针对数据分析专家的调查,公有云是大数据领域首选的技术。”
对于依赖机器学习技术的大数据分析而言,云端解决方案特别受欢迎。机器学习需要高级且昂贵的计算机硬件,但在云端进行机器学习的方式能够令企业以极少的成本实现这一过程,这样的成本只是自行安装数据中心的一小部分。虽然企业面临着和云端分析相关的种种困难,但专家认为云端分析发展的趋势未来几年将会加快。
大数据技术
随着大数据市场的逐渐成熟,供应商们也开发出了各式各样不同的大数据技术来满足企业的需求。这是一个非常广阔的市场,但大部分大数据解决方案都可以根据以下标准进行分类:
商业智能(BI):商业智能解决方案能够基于存储在数据仓库中的业务数据提供分析及报告能力。根据Gartner报告,BI和分析的市场预计将从2017年的183亿美元增长到2020年的228亿美元。但是,它们的增长速率比以前更慢。
数据湖:数据湖能够消化各种来源渠道的数据,并以数据源原始的格式进行存储。它与数据仓库之间的差别在于,数据仓库中的数据都是经过清洗并且调整到可分析格式的数据。对于那些希望同时进行结构化和非结构化分析的组织而言,数据湖非常受欢迎。
数据整合:大数据分析技术面临的一个巨大挑战就是要从各个分散的数据源收集各种相关的数据,并把他们统一到一个能够轻松实现分析的格式。这为我们带来了很多的数据整合解决方案,有时大家把它叫做ETL(数据提取、转换、加载)解决方案。根据Markets and Markets的研究报告,数据整合业务的收入到2022年可能会增长到124亿美元。
数据管理:这类型的解决方案中包含了能够帮助企业整合、清洗、存储、维护并保证数字数据质量的各种工具。Markets and Markets预计这类型大数据工具到2022年将产生1052亿美元的收入。
数据挖掘:数据挖掘的范围很广,其中包括了各式各样的找到大数据模式与规律的技术。虽然很多大数据解决方案依然在异同数据挖掘的能力,但这个概念已经不太受到供应商的欢迎了,因为他们开始用“预测性分析”和“机器学习”来形容自己的解决方案。
开源技术:很多市面上最常用的大数据技术都是通过开源的授权来实现的。特别像Hadoop和Spark这样以Apache为基础进行管理的技术,已经非常受欢迎。很多供应商都能够提供这些开源大数据技术的商业化支持版本。
NoSQL数据库:不同于关系型数据库管理系统(RDBMSes),NoSQL数据库不通过传统的行列表格形式存储信息,而是通过各种模型,例如行列、文件、数据追踪图等改格式进行存储。很多企业都在使用NoSQL数据库用于非结构化数据的存储和分析
预测性分析:这是目前最受欢迎的大数据分析形势。预测性分析关注过往的历史趋势,目的是对未来会发生什么做出预测。很多现代的预测性分析解决方案都加入了机器学习的能力,目的是随着时间的增加提高预测的准确性。Zion的一项市场调研报告指出,预测性分析的指出将从2016年的34.9亿美元增长到2022年的109.5亿美元。
诊断分析:诊断分析在预测性分析上更进了一步。除了告诉企业未来可能会发生什么,这样的解决方案还能够基于事件发生的原因提出建议,达成期望的结果。专家认为,目前市面上只有少数的大数据分析解决方案拥有真正的预测性分析能力,但很多供应商都在大力研究这个领域。
内存数据库:内存技术大大提升了大数据分析的速度。在任何的计算机系统中,内存数据的存取(有时也叫RAM)相比存储在硬件或实体硬盘中的数据存取都是快的多的。内存数据库能够帮助用户在内存中存储大量的数据,大幅提升速度。
数据科学平台:很多供应商都开始将他们的大数据分析解决方案标榜为“数据科学平台”。这个领域的产品通常而言都把很多不同的功能整合到了同一个平台上。这个领域里几乎所有的产品都有一些分析或者机器学习的功能,很多也有数据整合和数据管理的能力。
人工智能和机器学习:很多新一代的大数据分析工具都加入了机器学习能力,这是人工智能(AI)领域的一个子集。机器学习利用算法帮助系统随着时间的增长优化任务处理的能力,并且不需要直接的编程行动。这是大数据领域中发展最快的部分。
在2018年的大数据市场中,大数据还将继续发展,而重心也逐渐迁移向云端。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
一、问题:为什么 ID 会"断号" 很多刚接触 MySQL 的同学都会有一个困惑:表里的主键 ID 是自增的,删了中间几行数据之后,ID 变 ...
2026-10-22一、问题场景:为什么会重复 JOIN 同一个子查询 在写复杂 SQL 时,经常遇到这种需求:同一张表或同一个聚合子查询,要和主表关联 ...
2026-10-22人力资源专员是HR体系的执行入口。招聘信息发布、简历初筛、面试安排、考勤汇总、入离职手续、劳动合同与档案管理,大多由这个岗 ...
2026-10-22人力资源经理问“必学技巧”,真正要解决的不是知识清单不够长,而是时间有限、业务催得紧,学完却用不上。更有效的路径是:先用 ...
2026-10-22内容营销岗位的核心任务,不是“把文案写得更漂亮”,而是围绕目标受众,用持续的内容供给影响认知、推动转化并沉淀复购。它至少 ...
2026-10-22理财经理培训课程很多,难的是判断“先学什么、后学什么、学完能做什么”。与其按课程名称罗列,不如先看岗位任务:客户分层与维 ...
2026-10-22理财经理的知识结构,可以先用一句话概括:合规与产品知识决定“不出错”,客户经营与资产配置决定“够不够专业”,市场研判与数 ...
2026-10-22经济学背景做数据分析,优势不在工具,而在问题意识:供需如何相互作用、成本与收益如何权衡、变量之间是相关还是因果。真正的缺 ...
2026-10-22需要,但要把“需要”理解准确。经济学本身就在处理数据:GDP、物价、就业、企业营收、问卷调研,都是经济分析的原料。真正的区 ...
2026-10-22经济学分析能力不是单一技能,它至少由三层构成:把现实问题转成可检验假设的理论框架能力、用数据与统计方法验证假设的工具能力 ...
2026-10-22金融分析师的知识提升,先补的不是更多模型,而是让结论可复核的底层能力。按任务顺序,大致是四层:财务与业务理解、指标口径管 ...
2026-10-22金融分析师的“通用技能”,指换到不同机构、不同行业组仍用得上的底层能力,而非某家公司内部系统的操作经验。按任务拆,日常要 ...
2026-10-22先给结论:数据分析证书不是金融分析师的准入条件,招聘方也不会因为一张证书就直接判断你能做分析。要不要考,取决于你当前任务 ...
2026-10-22金融分析师的核心技能,不是“会看K线”或“会讲宏观”,而是能把一家公司、一个行业或一类资产,转化为可核查的数据判断与书面 ...
2026-10-22产品经理的知识提升,不是把需求文档、原型、SQL、数据分析、项目管理都学一遍,而是先对准目标岗位的真实任务,找出自己最缺的 ...
2026-10-22产品专员提升工作知识,最有效的方式不是先囤课程,而是围绕日常交付的四件事来补:需求调研与优先级判断、原型与PRD表达、竞品 ...
2026-10-22产品运营专员提升个人能力,常见误区是先把Excel、SQL、Python列成一张学习清单,然后从第一个工具开始学。更有效的做法是先回答 ...
2026-10-22产品运营的能力提升,最怕从“课程目录”出发:今天学增长模型,明天背SQL语法,学完却说不清自己负责的功能为什么激活率低。更 ...
2026-10-22产品经理的技能和影响力不是两条分开的赛道。技能决定你能不能把问题分析清楚、把方案设计对;影响力决定你的判断能否被团队接受 ...
2026-10-22产品经理要学的数据分析能力,不是“会写SQL”或“会用BI工具”这么简单。更准确地说,是围绕需求评估、功能迭代、指标监控、实 ...
2026-10-22