
蕴含巨大潜在经济社会价值 “大数据”热冷静面对
继物联网、云计算之后,大数据已经成为当前信息技术产业最受关注的概念之一。面对社会各界纷纷关注的“大数据”热,应充分认识其内在机理及带来的挑战,进一步理清对策思路。
大数据蕴含着巨大的潜在经济及社会价值
种类繁杂、数量庞大的大数据,为我们更深入、更准确地认识和把握事物发展的内在规律提供了信息基础,其中蕴涵着非常大的潜在价值。这一点不仅是许多业内研究机构的共识,也已经在商业应用中得到了体现。
大数据的应用已经有了许多典型案例,如IBM日本公司利用互联网搜索数据建立的经济指标预测系统,以及美国印第安纳大学利用谷歌公司提供的心情分析工具对道琼斯工业指数变化的预测,已经达到比较高的准确率。除了经济分析外,在农业、医药卫生、制造业等领域,也有一些成功应用大数据进行预测的案例。
据美国麦肯锡公司预测,大数据将为美国医疗服务业每年带来3000亿美元的潜在增加值,为欧洲的公共管理每年带来2500亿欧元的潜在价值,为位置服务产业带来6000亿美元的潜在年收入。零售商充分利用大数据可实现运营利润增长60%,制造业充分利用大数据可降低设备装配成本50%。经合组织(OECD)的一项最新研究成果还对互联网数据的市场价值进行了估计,佐证了大数据的巨大潜在价值。
总体而言,大数据的应用和发展离不开以下三大要素:
一是不同参与主体产生的大量数据信息。这是大数据应用发展的“原材料”基础,也是催生这一概念的基本条件。日本EMC公司与美国IDC公司于2013年年初共同公布了关于大数据方面的最新预测结果:到2020年,人类产生的数据总量将达到40ZB。除了拥有大数据平台的互联网和电子商务企业之外,政府部门、科研院所、高等院校、非营利机构等组织也拥有大量尚未得到有效利用的数据。
二是支撑大数据存储和运算的IT基础设施。这是大数据应用发展所必需的“设备”基础。大数据的存储和高效处理需要云计算数据中心的支撑,大数据的高速传输则需要足够带宽的互联网通道。有了足够的数据承载能力,才有可能进行进一步的分析挖掘。
三是挖掘大数据潜在价值并进行应用的能力。这是大数据产业能否成功发展的“瓶颈”所在。数据量的不断增长尽管带来了巨大的潜在价值,但同时也对我们的价值挖掘能力提出了巨大挑战。2012年全球被创建和被复制的数据总量达2.7ZB,其中较容易处理的有序的结构化数据相对较少,而大量的文本、图片、音视频、医疗影像等非结构化数据则超过85%。如何把这些庞杂无序的数据进行分析、处理和集成,变成有用的信息,是大数据应用发展面临的核心问题。
我国发展大数据应用需冷静面对诸多挑战
据国内有关研究机构初步统计,目前我国大数据产业还处于发展初期,市场规模仍然比较小,2012年仅为4.5亿元,而且主导厂商仍以外企居多。据预测,2016年我国大数据应用的整体市场规模将突破百亿元量级,未来将形成全球最大的大数据产业带。事实上,相对于发展前景的乐观预测,我国发展大数据产业面临的现实挑战更值得认真分析和对待。
首先,如何使分散在不同部门和主体的数据得到合理有效应用。需要明确哪些数据可以用、哪些数据不能任意地进行商业应用。大量的互联网数据掌控在企业手中,但是属于个人隐私或涉及国家信息安全的则应该进行合理限制和规范。对于政府部门、研究机构和高校掌握的专业数据,则须明确是否应向社会公众开放。
其次,如何构建可支撑大数据的IT基础设施。这一点涉及到对传统数据中心的改造和利用、新型云计算存储和处理系统的建设,以及如何尽快建设一个高速、方便接入的互联网通道。
第三,如何掌握大数据挖掘技术和培养大数据专业人才。大数据分析需要相关技术与人才的支撑。发达国家的部分IT企业已经初步掌握了一些数据分析预测的关键技术,我国相关企业的技术能力还比较落后。麦肯锡公司预测美国到2018年需要大数据分析人才40多万,人才缺口将达10多万。我国刚刚引入大数据概念,人才匮乏问题更加突出。
第四,如何避免未来出现大数据产业重复建设甚至产能过剩问题。近几年来,部分新兴产业已经出现了产能过剩的苗头,体制性原因导致的重复、超前建设问题比较突出。对于热度正高的大数据产业,如何避免因政府不当干预导致这些问题重演,是对我国当前区域竞争下产业发展体制的一个挑战。
做好基础性工作,促进大数据应用发展
面对社会各界的“大数据”热,应理性分析、冷静观察,扎实做好几个方面的基础性工作。这些工作可能是长期性、前瞻性的,需要逐步推进,很难立竿见影、一蹴而就。
第一,不必急于出台战略性规划和设立产业专项资金。国内的IT企业和地方政府已经意识到大数据产业的发展前景,对发展大数据应用有着较大热情。某些城市已经启动了大数据发展战略,计划到2017年形成至少500亿元的产业规模。在这种情况下,以规划和专项资金等方式进行鼓励,有可能扭曲正常的市场行为,甚至催生泡沫。
第二,合理改造、建设和布局IT基础设施。对现有的传统数据中心及大量的旧服务器资源,可以通过建立虚拟数据中心或进行就近合并等方式进行改造利用,探索如何通过虚拟化技术和云计算平台管理软件来提高利用效率。对新建的大规模云计算数据中心应进行统筹、合理布局,协调不同省市之间加强互补合作,将能源和气候因素作为项目建设的重要条件,保证经济上的合理性。按照网络建设适度超前于产业发展的原则,加快“宽带普及提速工程”的推进速度,尽快解决大数据应用发展的网络带宽瓶颈。
第三,推动数据隐私保护和公共机构信息公开等立法修法工作。2012年12月,全国人大常委会通过了《关于加强网络信息保护的决定》。应在此基础上继续完善个人隐私保护的相关立法,对哪些互联网个人数据可以进行商业化应用、应用范围如何界定、数据滥用应承担哪些责任等具体问题做出规范。应继续推动政府及公益性机构信息公开,对政府信息公开条例进行修改完善,清晰界定各部门和机构数据公开的对象、时限和应用范围,使更多的可公开数据得到合理应用。此外,对于哪些数据可以向境外流动或允许境外企业开发利用,也应有相应的法律规定。
第四,资助大数据竞争前技术的研究,培养大数据分析人才。在现有政府科技计划中,适度安排项目资金支持大数据关键技术的研发,重点在于竞争前技术,鼓励企业牵头或参与承担。人才培养应从高等教育和企业技术人员再培训两个方面入手,允许大学设立大数据相关专业并进行招生,鼓励地方政府出台关于大数据技术人才培训的相关政策。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
用 SQL 验证业务逻辑:从规则拆解到数据把关的实战指南 在业务系统落地过程中,“业务逻辑” 是连接 “需求设计” 与 “用户体验 ...
2025-09-11塔吉特百货孕妇营销案例:数据驱动下的精准零售革命与启示 在零售行业 “流量红利见顶” 的当下,精准营销成为企业突围的核心方 ...
2025-09-11CDA 数据分析师与战略 / 业务数据分析:概念辨析与协同价值 在数据驱动决策的体系中,“战略数据分析”“业务数据分析” 是企业 ...
2025-09-11Excel 数据聚类分析:从操作实践到业务价值挖掘 在数据分析场景中,聚类分析作为 “无监督分组” 的核心工具,能从杂乱数据中挖 ...
2025-09-10统计模型的核心目的:从数据解读到决策支撑的价值导向 统计模型作为数据分析的核心工具,并非简单的 “公式堆砌”,而是围绕特定 ...
2025-09-10CDA 数据分析师:商业数据分析实践的落地者与价值创造者 商业数据分析的价值,最终要在 “实践” 中体现 —— 脱离业务场景的分 ...
2025-09-10机器学习解决实际问题的核心关键:从业务到落地的全流程解析 在人工智能技术落地的浪潮中,机器学习作为核心工具,已广泛应用于 ...
2025-09-09SPSS 编码状态区域中 Unicode 的功能与价值解析 在 SPSS(Statistical Product and Service Solutions,统计产品与服务解决方案 ...
2025-09-09CDA 数据分析师:驾驭商业数据分析流程的核心力量 在商业决策从 “经验驱动” 向 “数据驱动” 转型的过程中,商业数据分析总体 ...
2025-09-09R 语言:数据科学与科研领域的核心工具及优势解析 一、引言 在数据驱动决策的时代,无论是科研人员验证实验假设(如前文中的 T ...
2025-09-08T 检验在假设检验中的应用与实践 一、引言 在科研数据分析、医学实验验证、经济指标对比等领域,常常需要判断 “样本间的差异是 ...
2025-09-08在商业竞争日益激烈的当下,“用数据说话” 已从企业的 “加分项” 变为 “生存必需”。然而,零散的数据分析无法持续为业务赋能 ...
2025-09-08随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03