京公网安备 11010802034615号
经营许可证编号:京B2-20210330
剖析大数据市场:继续发展并逐渐迁移云端
大数据市场呈一片欣欣向荣的景象,近年来,随着技术的不断发展创新,大数据顺着时代发展的潮流,发展迅猛。“大数据”一词最早出现在1990年的一本科技词典中,当时这个词是用于形容庞大且增长猛烈的企业数据,利用当时的技术,人们很难存储并分析这些数据。
2001年,分析师DougLaney提出了大数据的定义,它包含三个“V”的维度:数量(volume)、速度(velocity)和种类(variety)。在随后的几年里,Laney的定义成为了行业通用的标准,有些人还加入了第四个V来定义它——可变性(variability)。
2014年,IDC和EMC发布了最新版本的《数字世界研究报告》,其中指出全球数字化系统中存储的数据量正在以每年40%的速度增长着。报告还预测,到2020年,整个数字化世界中将存储44泽字节的信息。这些数据就如同宇宙中的繁星一样多,要把这些信息装进2014年代的数据表里,表格的长度是日月距离的6.6倍。
现如今,大数据依然在快速地发展,不过人们已经渐渐不去把数据存储量的增长当成焦点。相反地,越来越多的组织开始把目光放在数据分析、数据科学以及机器学习上。他们直接把管理大数据当做是业务的一部分,如果想要在竞争中获得胜利,他们就需要找到将存储的大数据转化为高价值洞察的方式。
大数据市场概况
根据IDC报告,全球大数据及商业分析的收入可能将从2017年的1508亿美元增长到2020年的2100亿美元,复合年增长率高达11.9%。这也意味着,在大数据发展的这些年,企业在大数据技术上的花费越来越多。
IDC集团副总裁DanVesset说:“在经历了S型曲线式的多年发展以后,大数据和商业分析解决方案已经完全成为了主流。”
大部分组织和企业认为大数据项目对他们的营收有积极的影响。在《NewVantage Partners 大数据管理调查》中,80.7%的受访者反馈针对大数据的投资是成功的,48.4%的人认为他们通过大数据项目实现了可以被计量的好处。
这样的结果可能会鼓励企业继续向大数据投资,但他们所采纳的大数据解决方案的类型正在发生转变。根据Forrester的一项调查,“大数据正在向云端迁移。事实上,全球范围内,通过云端订阅购买大数据解决方案的增长速度是本地化订阅的7.5倍。”Forrester还补充道,“此外,根据我们2016-2017年针对数据分析专家的调查,公有云是大数据领域首选的技术。”
对于依赖机器学习技术的大数据分析而言,云端解决方案特别受欢迎。机器学习需要高级且昂贵的计算机硬件,但在云端进行机器学习的方式能够令企业以极少的成本实现这一过程,这样的成本只是自行安装数据中心的一小部分。虽然企业面临着和云端分析相关的种种困难,但专家认为云端分析发展的趋势未来几年将会加快。
大数据技术
随着大数据市场的逐渐成熟,供应商们也开发出了各式各样不同的大数据技术来满足企业的需求。这是一个非常广阔的市场,但大部分大数据解决方案都可以根据以下标准进行分类:
商业智能(BI):商业智能解决方案能够基于存储在数据仓库中的业务数据提供分析及报告能力。根据Gartner报告,BI和分析的市场预计将从2017年的183亿美元增长到2020年的228亿美元。但是,它们的增长速率比以前更慢。
数据湖:数据湖能够消化各种来源渠道的数据,并以数据源原始的格式进行存储。它与数据仓库之间的差别在于,数据仓库中的数据都是经过清洗并且调整到可分析格式的数据。对于那些希望同时进行结构化和非结构化分析的组织而言,数据湖非常受欢迎。
数据整合:大数据分析技术面临的一个巨大挑战就是要从各个分散的数据源收集各种相关的数据,并把他们统一到一个能够轻松实现分析的格式。这为我们带来了很多的数据整合解决方案,有时大家把它叫做ETL(数据提取、转换、加载)解决方案。根据Markets and Markets的研究报告,数据整合业务的收入到2022年可能会增长到124亿美元。
数据管理:这类型的解决方案中包含了能够帮助企业整合、清洗、存储、维护并保证数字数据质量的各种工具。Markets and Markets预计这类型大数据工具到2022年将产生1052亿美元的收入。
数据挖掘:数据挖掘的范围很广,其中包括了各式各样的找到大数据模式与规律的技术。虽然很多大数据解决方案依然在异同数据挖掘的能力,但这个概念已经不太受到供应商的欢迎了,因为他们开始用“预测性分析”和“机器学习”来形容自己的解决方案。
开源技术:很多市面上最常用的大数据技术都是通过开源的授权来实现的。特别像Hadoop和Spark这样以Apache为基础进行管理的技术,已经非常受欢迎。很多供应商都能够提供这些开源大数据技术的商业化支持版本。
NoSQL数据库:不同于关系型数据库管理系统(RDBMSes),NoSQL数据库不通过传统的行列表格形式存储信息,而是通过各种模型,例如行列、文件、数据追踪图等改格式进行存储。很多企业都在使用NoSQL数据库用于非结构化数据的存储和分析
预测性分析:这是目前最受欢迎的大数据分析形势。预测性分析关注过往的历史趋势,目的是对未来会发生什么做出预测。很多现代的预测性分析解决方案都加入了机器学习的能力,目的是随着时间的增加提高预测的准确性。Zion的一项市场调研报告指出,预测性分析的指出将从2016年的34.9亿美元增长到2022年的109.5亿美元。
诊断分析:诊断分析在预测性分析上更进了一步。除了告诉企业未来可能会发生什么,这样的解决方案还能够基于事件发生的原因提出建议,达成期望的结果。专家认为,目前市面上只有少数的大数据分析解决方案拥有真正的预测性分析能力,但很多供应商都在大力研究这个领域。
内存数据库:内存技术大大提升了大数据分析的速度。在任何的计算机系统中,内存数据的存取(有时也叫RAM)相比存储在硬件或实体硬盘中的数据存取都是快的多的。内存数据库能够帮助用户在内存中存储大量的数据,大幅提升速度。
数据科学平台:很多供应商都开始将他们的大数据分析解决方案标榜为“数据科学平台”。这个领域的产品通常而言都把很多不同的功能整合到了同一个平台上。这个领域里几乎所有的产品都有一些分析或者机器学习的功能,很多也有数据整合和数据管理的能力。
人工智能和机器学习:很多新一代的大数据分析工具都加入了机器学习能力,这是人工智能(AI)领域的一个子集。机器学习利用算法帮助系统随着时间的增长优化任务处理的能力,并且不需要直接的编程行动。这是大数据领域中发展最快的部分。
在2018年的大数据市场中,大数据还将继续发展,而重心也逐渐迁移向云端。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
近日,由 CDA 数据科学研究院重磅发布的《2026 全球数智化人才指数报告》,被中国教育科学研究院官方账号正式收录, ...
2026-04-22在数字化时代,客户每一次点击、浏览、下单、咨询等行为,都在传递其潜在需求与决策倾向——这些按时间顺序串联的行为轨迹,构成 ...
2026-04-22数据是数据分析、建模与业务决策的核心基石,而“数据清洗”作为数据预处理的核心环节,是打通数据从“原始杂乱”到“干净可用” ...
2026-04-22 很多数据分析师每天盯着GMV、转化率、DAU等数字看,但当被问到“什么是指标”“指标和维度有什么区别”“如何搭建一套完整的 ...
2026-04-22在数据分析与业务决策中,数据并非静止不变的数值,而是始终处于动态波动之中——股市收盘价的每日涨跌、企业月度销售额的起伏、 ...
2026-04-21在数据分析领域,当研究涉及多个自变量与多个因变量之间的复杂关联时,多变量一般线性分析(Multivariate General Linear Analys ...
2026-04-21很多数据分析师精通描述性统计,能熟练计算均值、中位数、标准差,但当被问到“用500个样本如何推断10万用户的真实满意度”“这 ...
2026-04-21在数据处理与分析的全流程中,日期数据是贯穿业务场景的核心维度之一——无论是业务报表统计、用户行为追踪,还是风控规则落地、 ...
2026-04-20在机器学习建模全流程中,特征工程是连接原始数据与模型效果的关键环节,而特征重要性分析则是特征工程的“灵魂”——它不仅能帮 ...
2026-04-20很多数据分析师沉迷于复杂的机器学习算法,却忽略了数据分析最基础也最核心的能力——描述性统计。事实上,80%的商业分析问题, ...
2026-04-20在数字化时代,数据已成为企业决策的核心驱动力,数据分析与数据挖掘作为解锁数据价值的关键手段,广泛应用于互联网、金融、医疗 ...
2026-04-17在数据处理、后端开发、报表生成与自动化脚本中,将 SQL 查询结果转换为字符串是一项高频且实用的操作。无论是拼接多行数据为逗 ...
2026-04-17面对一份上万行的销售明细表,要快速回答“哪个地区卖得最好”“哪款产品增长最快”“不同客户类型的购买力如何”——这些看似复 ...
2026-04-17数据分析师一天的工作,80% 的时间围绕表格结构数据展开。从一张销售明细表到一份完整的分析报告,表格结构数据贯穿始终。但你真 ...
2026-04-16在机器学习无监督学习领域,Kmeans聚类因其原理简洁、计算高效、可扩展性强的优势,成为数据聚类任务中的主流算法,广泛应用于用 ...
2026-04-16在机器学习建模实践中,特征工程是决定模型性能的核心环节之一。面对高维数据集,冗余特征、无关特征不仅会增加模型训练成本、延 ...
2026-04-16在数字化时代,用户是产品的核心资产,用户运营的本质的是通过科学的指标监测、分析与优化,实现“拉新、促活、留存、转化、复购 ...
2026-04-15在企业数字化转型、系统架构设计、数据治理与AI落地过程中,数据模型、本体模型、业务模型是三大核心基础模型,三者相互支撑、各 ...
2026-04-15数据分析师的一天,80%的时间花在表格数据上,但80%的坑也踩在表格数据上。 如果你分不清数值型和文本型的区别,不知道数据从哪 ...
2026-04-15在人工智能与机器学习落地过程中,模型质量直接决定了应用效果的优劣——无论是分类、回归、生成式模型,还是推荐、预测类模型, ...
2026-04-14