京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据:网络时代的“蒸汽机”
有人说大数据是大“忽悠”,有人说大数据没商业模式,凡此种种都反映出一个问题——大数据落地难。但就此否定大数据,无疑又走到了一个极端。可以把大数据理解为最初的蒸汽机,初期不是也有人驾马车一教高低吗?大数据也是如此!
传统数据挖掘和应用
从业务开始应用IT之日起,人们就没有停止过对数据的挖掘和利用。人们总是希望透过一定的技术方法,透视数据背后所隐藏的秘密。
在传统数据挖掘应用中,OLTP(On-Line Transaction Processing,联机事务处理系统)和OLAP(On-Line Analytical Processing,联机分析处理)是用户最为熟悉的技术应用。
大数据价值和路径
如今,大数据也是如此,根据IDC调查显示,“提高竞争优势”、“削减成本”和“提高客户忠诚度”是用户对于大数据分析的期待。
谈到大数据,很多人知道大数据具有4个V的特点,即Volume、Variety、Value、Velocity,其中,价值密度低(Value)的特点,就注定了没有办法用传统OLAP方法进行大数据处理。
但价值密度低并不意味着数据价值低。众所周知,奥巴马竞选总统,大数据功不可没。大数据带给人们无限的遐想。不要小看Facebook、微博、微信等社交媒体的一个“顶”或“赞”,尽管从个体来讲,其传递的信息价值有限,但从群体高度进行审视,结果将大大不同。
大数据不仅需要思考问题的方法,也需要可以挖掘、探索数据的平台和工具。鉴于传统OLAP的局限,NoSQL和列式数据库技术应运而生。
英特尔至强和大数据先行者们
大数据真正开始落地,始于互联网行业。以Google为代表,他们以x86服务器作为基础硬件平台,在其上构建了以NoSQL为核心的数据存储和处理方式,对外提供各种基于大数据分析和处理的服务,开创了大数据服务的先河。
目前没有人能够准确说出Google有多少台服务器,有人说100万台,也有消息称高达1000万台服务器。这是一个相当惊人的数量。根据相关统计显示,目前全球每年服务器的销量不过120万台。因此,大数据对于计算能力的需求高的惊人。
大数据具有海量、价值密度低的特征。因此,对于掌握大数据的互联网公司而言,如何按照其应用场景及需求对,对如此海量数据进行处理、分析,才是至关重要的。而他们也对于底层基础设施提出了更高的要求。,除了处理能力之外,成本是一个必须考量的因素开放的平台以及超高的性价比也是必须考量的因素。
与之相比,如果采用RISC处理大数据,其成本将难以支撑。很难想象Google用100万台RISC服务器处理数据,不要说100万台,1万台都不是Google可以承受的。随着大数据时代的来临,英特尔也敏锐洞察到了大数据市场的需求和发展,在硬件与软件层面对用户进行全面的大数据技术支持为此,英特尔推出了Hadoop分发版,从技术给用户以支持。
小结
目前大数据应用已经不局限在互联网企业,而是开始向传统行业/企业市场蔓延,以x86服务器为基础,无论是Vertica、Greenplum、GBase等列式数据库,还是Cloudera等Hadoop分布式数据库管理和开发工具,大数据服务提供商,如Splunk、Acitan、SAS、Tibco,从硬件、软件平台到大数据分析、应用和展示,一个完整的产业生态链已经比较成熟,未来值得期待。
毫无疑问,我们正处于一个数据爆炸的时代,移动互联网、社交媒体的发达,为行业/企业研究消费者提供了充足的数据,如何驾驭好大数据,将关系到企业的业务创新。可以说,生长在当下这样的一个时代,企业与用户从没有今日如此之接近,因此大数据堪称未来行业/企业的胜负手。
未来的市场不再是看不见,摸不着的市场,大数据能力的强与弱,既有可能成为企业、社会乃至一个国家、民族的分水岭,人类文明将迎来前所未有的高速成长,历史的车轮将会提速,滚滚向前!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在MySQL数据库日常查询、数据统计、后台接口开发、数据导出等场景中,开发者经常需要查询数据表除某几列之外的所有字段。例如查 ...
2026-06-09在Python网络请求、爬虫开发、接口测试、数据抓取等实操场景中,requests库是最常用的第三方请求工具,而content属性是requests ...
2026-06-09 数据分析正在重塑每一个行业。CDA认证的三本官方教材,分别对应Level I、Level II、Level III,为你铺就从业务数据分析到数 ...
2026-06-09在数字财务、智慧财税、业财融合深度推进的当下,传统财务模式下数据标准混乱、业务流程碎片化、知识无法沉淀、系统互通性差等问 ...
2026-06-08随着数字经济深度渗透各行各业,数据正式成为继土地、劳动力、资本、技术之后的第五大生产要素,是企业数字化转型、精细化运营、 ...
2026-06-08 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-06-08【核心关键词】贷款、报表、课程、专业、建模、缺失值、营销、互联网、银行、办公自动化、数据分析、数据预处理、特征工程、贷 ...
2026-06-05在数据库数据查询、业务报表统计、多表关联分析中,LEFT JOIN左连接是使用率最高的SQL关联查询语句。其核心特性是保留左表全部数 ...
2026-06-05 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-06-05任何一款产品从诞生、普及到最终退出市场,都会遵循一套固定的发展规律,这就是产品生命周期理论。在市场竞争日益激烈、产品迭代 ...
2026-06-04在Excel数据分析、办公统计、业务报表制作场景中,数据透视表是数据汇总、分类统计、快速复盘的核心工具,能够高效完成海量原始 ...
2026-06-04 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-06-04在问卷调查与社会科学数据分析中,卡方检验是最常用、最基础的非参数检验方法,广泛应用于市场调研、用户分析、行为统计、满意度 ...
2026-06-03【核心关键词】贷款、报表、课程、专业、建模、缺失值、营销、互联网、银行、办公自动化、数据分析、数据预处理、特征工程、贷 ...
2026-06-03 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-06-03逻辑回归是数据分析、机器学习、统计建模中应用最广泛的二分类预测模型,常用于风险判断、行为预测、归因分析等场景。在SPSS、Py ...
2026-06-02数字经济时代,市场竞争日趋同质化,用户消费需求愈发个性化、多元化,传统依托经验、粗放式、广撒网的营销模式弊端日益凸显。长 ...
2026-06-02 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-06-02在市场竞争日趋饱和、用户需求不断细分的当下,企业创业创新、产品迭代与市场拓展不再依赖经验决策,而是需要系统化、工具化的商 ...
2026-06-01【核心关键词】调度、岗位、数据库、企业、报表、培训、程序、数据分析、数据加工、业务部门、企业数据、调度工具、业务指标、 ...
2026-06-01