京公网安备 11010802034615号
经营许可证编号:京B2-20210330
全球数据每两年翻番 催生大数据机遇和IT新职位
EMC公司今天宣布,由EMC赞助的题为“从混乱中挖掘价值”的IDC最新“数字宇宙”研究结果,全世界的信息量每两年以超过翻番的速度增长,2011年将产生和复制1.8ZB的海量数据,其增长速度超过摩尔定律。
今年是IDC第五次进行每年一次的“数字宇宙”研究,该研究衡量和预测每年产生及复制的数字信息量,并分析这些数字信息对个人、企业以及IT专业人士的意义。今年的IDC“数字宇宙”研究对大数据而言有着巨大的经济、社会和技术意义,而且揭示了其他一些商机。
仅就数据量而言,1.8ZB数据相当于:
中国每个人每分钟发送3条微博且连续6217年不间断。
全世界每个人每天进行逾2.15亿次高分辨率核磁共振成像(MRI)扫描。
超过2000亿个高清电影(每个长度为两小时),一个人24小时不间断地看这些电影,全部看完需要4700万年。
这些信息将填满575亿个32GB的苹果iPad。如果有这么多iPad,我们可以:
建起一堵长4005英里、高61英尺、从美国阿拉斯加安克雷奇一直延伸到佛罗里达迈阿密的iPad墙。
在中国建起一堵iPad长城,平均高度是真实长城的两倍。
围着南美建起一堵高20英尺的墙。
覆盖86%的墨西哥城。
建起一座比富士山高25倍的山峰。
这种数据持续增长背后的驱动力是技术和金钱。新的“掌控与利用信息”的技术正在促使信息产生、获取、管理和存储成本的下降,现在该成本是2005年的1/6。此外,自2005年以来,企业在数字宇宙领域的年度投资已经增加了50%,达到了4万亿美元。这些投资指云计算、硬件、软件、服务和人员的投资,以产生、管理和存储信息并从信息产生收入。
研究结果要点:
服务器、数据管理和文件的海量增长与人员配备不匹配:IDC特别提到,管理海量数据所需的技能、经验和资源根本跟不上所有领域的增长。在下一个10年(到2020年),全世界的IT部门都将看到:
服务器数量增加10倍(虚拟的和物理的)。
有待管理的信息量增加50倍。
文件或在数字宇宙中封装信息的器件的数量增加75倍,文件或容器甚至比信息本身增加得还快,因为出现了越来越多的嵌入式系统,如衣服、桥梁或医疗设备中的传感器。
能够管理这一切的IT专业人员的数量增加1.5倍。
云计算的成本和运营效率:尽管在今天的IT支出中,云计算占不到2%,但是IDC估计,到2015年,将近20%的信息要通过云计算服务提供商才能接触到,这意味着,字节在从产生到废弃的过程中,将经过在云中存储或处理这一环。也许多达10%将存储在云中。
数字影子有自己的头脑:个人产生的信息量(写文件、拍照片、下载音乐等的信息量)远远少于在数字宇宙中产生的有关这些人的信息量。
企业负有大部分责任和义务:尽管数字宇宙中75%的信息由个人产生,但是在信息数字生命的某个点上,企业对数字宇宙中80%的信息负有某种责任。
EMC公司首席市场官Jeremy Burton表示:“大量杂乱无章的信息无休止地增加,带来了无穷无尽的机会,将促使社会、技术、科学和经济发生根本性改变。信息是企业最重要的资产,大数据正在促使企业改变信息管理方式,并从信息中挖掘出更大的价值。EMC正处于云计算与大数据的理想交汇点,从全世界最大的企业、政府机构到成长型企业,所有客户在云计算之旅中,都可以在EMC的帮助下,利用数字宇宙中隐藏的价值。”
其他重要结果
新的获取、搜索、发现和分析工具可以帮助企业获得有关非结构化数据的深入信息,非结构化数据在数字宇宙中所占比超过90%。与标记Facebook照片的面部识别程序类似,这些工具可以自动产生有关数据的资料。有关数据的资料或称元数据的增长率是数字宇宙总体增长率的两倍。
商务智能工具越来越多地用来处理实时数据,无论是基于驾车目的地收取汽车保险费、通过智能电网送电,还是基于社交网络的反应实时更改市场信息,都可以使用商务智能工具。
新的存储管理工具,如重复数据消除、自动分层和虚拟化,可用来降低我们在数字宇宙存储内容方面的成本,并帮助我们准确地决定存储什么,就像采用内容管理解决方案一样。
新的信息安全实践和工具可帮助企业确定,哪些信息需要保证安全性,需要保证什么级别的安全性,并利用特定预防安全威胁的设备和软件、欺诈管理系统、声誉保护服务等来保护信息安全。
云计算解决方案:与传统IT环境相比,公有云、私有云及混合云为企业提供了更高的规模经济性、敏捷性和灵活性。长远来看,云计算将成为应对数字宇宙复杂性的关键方法。
云计算使IT即服务成为可能,再加上与大数据交汇,企业将越来越多地将IT作为外部服务而非内部基础设施投资。
数字宇宙的增速将继续超过存储容量的增速。不过请记住,1GB的存储内容可能产生1PB或更多的瞬态数据,我们一般不会存储这种瞬态数据(例如:我们观看数字电视但不会录制;在主干网络中数字化的语音仅在通话期间存在)。
数字宇宙中有不到1/3的信息,其安全性或保护至少是最低限度的;应该得到保护的信息仅约一半得到了保护。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22在企业数据分析中,“数据孤岛” 是制约分析深度的核心瓶颈 —— 用户数据散落在注册系统、APP 日志、客服记录中,订单数据分散 ...
2025-10-22在神经网络设计中,“隐藏层个数” 是决定模型能力的关键参数 —— 太少会导致 “欠拟合”(模型无法捕捉复杂数据规律,如用单隐 ...
2025-10-21在特征工程流程中,“单变量筛选” 是承上启下的关键步骤 —— 它通过分析单个特征与目标变量的关联强度,剔除无意义、冗余的特 ...
2025-10-21在数据分析全流程中,“数据读取” 常被误解为 “简单的文件打开”—— 双击 Excel、执行基础 SQL 查询即可完成。但对 CDA(Cert ...
2025-10-21在实际业务数据分析中,我们遇到的大多数数据并非理想的正态分布 —— 电商平台的用户消费金额(少数用户单次消费上万元,多数集 ...
2025-10-20在数字化交互中,用户的每一次操作 —— 从电商平台的 “浏览商品→加入购物车→查看评价→放弃下单”,到内容 APP 的 “点击短 ...
2025-10-20在数据分析的全流程中,“数据采集” 是最基础也最关键的环节 —— 如同烹饪前需备好新鲜食材,若采集的数据不完整、不准确或不 ...
2025-10-20在数据成为新时代“石油”的今天,几乎每个职场人都在焦虑: “为什么别人能用数据驱动决策、升职加薪,而我面对Excel表格却无从 ...
2025-10-18数据清洗是 “数据价值挖掘的前置关卡”—— 其核心目标是 “去除噪声、修正错误、规范格式”,但前提是不破坏数据的真实业务含 ...
2025-10-17在数据汇总分析中,透视表凭借灵活的字段重组能力成为核心工具,但原始透视表仅能呈现数值结果,缺乏对数据背景、异常原因或业务 ...
2025-10-17在企业管理中,“凭经验定策略” 的传统模式正逐渐失效 —— 金融机构靠 “研究员主观判断” 选股可能错失收益,电商靠 “运营拍 ...
2025-10-17在数据库日常操作中,INSERT INTO SELECT是实现 “批量数据迁移” 的核心 SQL 语句 —— 它能直接将一个表(或查询结果集)的数 ...
2025-10-16在机器学习建模中,“参数” 是决定模型效果的关键变量 —— 无论是线性回归的系数、随机森林的树深度,还是神经网络的权重,这 ...
2025-10-16在数字化浪潮中,“数据” 已从 “辅助决策的工具” 升级为 “驱动业务的核心资产”—— 电商平台靠用户行为数据优化推荐算法, ...
2025-10-16在大模型从实验室走向生产环境的过程中,“稳定性” 是决定其能否实用的关键 —— 一个在单轮测试中表现优异的模型,若在高并发 ...
2025-10-15在机器学习入门领域,“鸢尾花数据集(Iris Dataset)” 是理解 “特征值” 与 “目标值” 的最佳案例 —— 它结构清晰、维度适 ...
2025-10-15在数据驱动的业务场景中,零散的指标(如 “GMV”“复购率”)就像 “散落的零件”,无法支撑系统性决策;而科学的指标体系,则 ...
2025-10-15在神经网络模型设计中,“隐藏层层数” 是决定模型能力与效率的核心参数之一 —— 层数过少,模型可能 “欠拟合”(无法捕捉数据 ...
2025-10-14