
二、大数据面面观
当前,大数据正处于快速发展期,每个人对于大数据都有不同的认识,那么什么是大数据?其基本特征又是什么呢?这就需要我们从多个维度来理解和认识大数据。
(一)何谓大数据
所谓大数据,是指以服务于决策为目的,需要新型数据处理模式才能对其内容进行采集、存储、管理和分析的海量、高增长率和多样化的信息资本。认真分析大数据,其本质体现在如下五个方面:第一,数据量大。相对于传统的抽样调查的数据,大数据无疑是巨大的,尤其是依靠传统的计算手段难以有效计算的。第二,服务于决策。大数据的主要目的是服务于各类决策,能够帮助各类组织和个人大幅度提升决策能力。第三,需要新处理模式。由于大数据数量大且非结构化数据很多,现有的处理模式不能有效处理大数据,需要新处理模式。第四,信息资本。大数据是一种信息资本,而不仅仅是一堆数据和成本。所谓信息资本,是指其能够为政府和企业带来未来经济利益的信息资源,更是和土地、资本、人才等一样的新生产要素。第五,更为复杂。大数据比海量数据更为复杂,海量数据包括结构化和半结构化的交易数据,而大数据除此之外还包括非结构化数据和交互数据。
(二)大数据的特点
大数据在量度、频度、速度、维度和温度五个方面具有显著的特点,具体如下:
第一,在量度方面,具有海量性特点,即大数据规模巨大,当前通常指10TB规模以上的数据量,而且随着数据的迅猛增加,大数据的量级还会进一步增加。
第二,在频度方面,具有高频率的特点,即发生的频率很高,重点在于用户参与与互动而产生的数据。在这方面,传统媒体的发行用户数据的价值就很小,关键在于其发行用户非在线,基本上一年才更新一次。
第三,在速度方面,具有实时性的特点,即大数据能够实时反应。例如,在Google搜索框内输入一个关键词,就能够瞬间呈现与其相关的信息,一旦其反应速度稍有不及,就会有大量的用户流失。
第四,在维度方面,具有全样本、多维度、非结构化的特点,即大数据是全体样本的数据,而不是抽样的数据;大数据是多个维度的数据,而不是单个维度的数据;大数据既有惯常的结构化的数据,也有音频、视频等非结构化的数据,而不仅仅是结构化数据。
第五,在温度方面,具有在线性特点,即大数据是永远在线的,能够随时被调用的,这就要求必须基于用户数量巨大的互联网平台。这些平台记录了用户的行为、情感、思想、爱好与需求,能够科学地分析用户的需求。
此外,可以按照生产的主体不同,把大数据分为商务过程数据(由传统的信息系统产生)、环境状态数据(由传感器产生)、社会行为数据(由社交媒体产生)、物理实体数据(由数字化制造产生)四种类型。当然也可以按照归属主体分为政府数据和企业数据,其中政府数据又分为民意数据、业务数据和环境数据。
(三)大数据蕴含着新思想和新思维
在大数据出现之前的小数据时代,我们只能通过抽样调查的方式来回答“为什么”,即找出“因果关系”,找出事情的前因后果。即使有相关关系的研究,重点也是研究“因果关系”。
在大数据时代,大数据大大拓宽了研究范围,大数据能通过全样本的方式来回答“是什么”,即发现相关关系,这能够帮助我们更好地认识和了解世界。因此,大数据既能处理“因果关系”,又能处理“相关关系”,即不仅能够回答“为什么”,又能够回答“是什么”。
典型的相关关系而非因果关系的案例主要有:沃尔玛啤酒与尿布的混搭;鲨鱼对人类的攻击次数和冰淇淋的销量是正相关的;儿童的蛀牙数量与他们的词汇量是正相关的;在美国,自2004年以来,“体重增加”与“房屋出租”的相关性达到90%。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
Pandas 选取特定值所在行:6 类核心方法与实战指南 在使用 pandas 处理结构化数据时,“选取特定值所在的行” 是最高频的操作之 ...
2025-09-30球面卷积神经网络(SCNN) 为解决这一痛点,球面卷积神经网络(Spherical Convolutional Neural Network, SCNN) 应运而生。它通 ...
2025-09-30在企业日常运营中,“未来会怎样” 是决策者最关心的问题 —— 电商平台想知道 “下月销量能否达标”,金融机构想预判 “下周股 ...
2025-09-30Excel 能做聚类分析吗?基础方法、进阶技巧与场景边界 在数据分析领域,聚类分析是 “无监督学习” 的核心技术 —— 无需预设分 ...
2025-09-29XGBoost 决策树:原理、优化与工业级实战指南 在机器学习领域,决策树因 “可解释性强、处理非线性关系能力突出” 成为基础模型 ...
2025-09-29在标签体系的落地链路中,“设计标签逻辑” 只是第一步,真正让标签从 “纸上定义” 变为 “业务可用资产” 的关键,在于标签加 ...
2025-09-29在使用 Excel 数据透视表进行多维度数据汇总时,折叠功能是梳理数据层级的核心工具 —— 通过点击 “+/-” 符号可展开明细数据或 ...
2025-09-28在使用 Pandas 处理 CSV、TSV 等文本文件时,“引号” 是最容易引发格式混乱的 “隐形杀手”—— 比如字段中包含逗号(如 “北京 ...
2025-09-28在 CDA(Certified Data Analyst)数据分析师的技能工具箱中,数据查询语言(尤其是 SQL)是最基础、也最核心的 “武器”。无论 ...
2025-09-28Cox 模型时间依赖性检验:原理、方法与实战应用 在生存分析领域,Cox 比例风险模型(Cox Proportional Hazards Model)是分析 “ ...
2025-09-26检测因子类型的影响程度大小:评估标准、实战案例与管控策略 在检测分析领域(如环境监测、食品质量检测、工业产品合规性测试) ...
2025-09-26CDA 数据分析师:以数据库为基石,筑牢数据驱动的 “源头防线” 在数据驱动业务的链条中,“数据从哪里来” 是 CDA(Certified D ...
2025-09-26线性相关点分布的四种基本类型:特征、识别与实战应用 在数据分析与统计学中,“线性相关” 是描述两个数值变量间关联趋势的核心 ...
2025-09-25深度神经网络神经元个数确定指南:从原理到实战的科学路径 在深度神经网络(DNN)的设计中,“神经元个数” 是决定模型性能的关 ...
2025-09-25在企业数字化进程中,不少团队陷入 “指标困境”:仪表盘上堆砌着上百个指标,DAU、转化率、营收等数据实时跳动,却无法回答 “ ...
2025-09-25MySQL 服务器内存碎片:成因、检测与内存持续增长的解决策略 在 MySQL 运维中,“内存持续增长” 是常见且隐蔽的性能隐患 —— ...
2025-09-24人工智能重塑工程质量检测:核心应用、技术路径与实践案例 工程质量检测是保障建筑、市政、交通、水利等基础设施安全的 “最后一 ...
2025-09-24CDA 数据分析师:驾驭通用与场景指标,解锁数据驱动的精准路径 在数据驱动业务的实践中,指标是连接数据与决策的核心载体。但并 ...
2025-09-24在数据驱动的业务迭代中,AB 实验系统(负责验证业务优化效果)与业务系统(负责承载用户交互与核心流程)并非独立存在 —— 前 ...
2025-09-23CDA 业务数据分析:6 步闭环,让数据驱动业务落地 在企业数字化转型中,CDA(Certified Data Analyst)数据分析师的核心价值,并 ...
2025-09-23