京公网安备 11010802034615号
经营许可证编号:京B2-20210330
今天,数据比以往任何时候都更加根植于我们生活中的每个角落。我们试图用数据去解决问题、改善福利,并且促成新的经济繁荣。伴随着数据处理能力的提 升、运算与储存成本的井喷及越来越多的设备中嵌入各种传感技术,数据的收集、储存与分析正处于一个近乎无限上升的趋势。2011年,有人估算全世界的人们 一年创造与复制的信息量超过了1.8泽字节,而到2013年,这个数字上升到了4泽字节。
每一天,全世界会上传超过5亿张图片,每分钟就有20小时时长的视频被分享。然而,即使是人们每天创造的全部信息——包括语音通话、电子邮件和信息在内的各种通信,以及上传的全部图片、视频与音乐,其信息量也无法匹及每一天所创造出的关于人们自身的数字信息量。
这样的趋势会持续下去。我们现在还处于所谓“物联网”的最初级阶段,而随着技术成熟,我们的设备、交通工具和迅速发展的“可穿戴”科技将能互相 连接与沟通。科技的进步已经使创造、捕捉和管理信息的成本降至2005年的六分之一,而从2005年起,用在硬件、软件、人才及服务之上的商业投资也增长 了整整50%,达到了4000亿美元。
大数据的定义有很多,对于计算机科学家、金融分析师亦或是力图争取风险投资的企业家,这个定义都不尽相同。大多数的定义反映出了一种捕获、总和 与分析更大规模、更高速、更多样的数据的技术能力。换句话说,“现在人们可以更快地获取数据,数据涵盖更广阔的领域,衡量数据的数量级也是过去所达不到 的。”更准确地说,大数据集就是“产生于设备、传感器、网络交易、电子邮件、视频、点击流等当今与未来各种可能的数码资源,更大、更多样、更复杂、更长纵 深的分散性数据集。”
不论我们如何定义大数据这种科技现象,大数据分析所具有的无限潜力都对我们的法律、伦理及社会规范发起了挑战,考验我们能否在大数据的世界中保 护隐私和其他价值观。前所未有的运算能力带给了我们不可思议的发现、创新,并推动着我们生活质量的进步。然而,大多数普通消费者却难以看到这种力量,所以 这也造成了掌握数据的人与有意无意间提供数据的人之间权力的不对等。所以,比“大数据是什么”更加重要的是,“大数据能做到什么“,以及个人与数据收集者 之间的关系。
那么,大数据的精彩之处究竟是什么?下文将界定什么是大数据真正创新、真正不同的东西。要研究大数据,我们需关注那些数量之庞大、种类之繁多、 传输速度之快使传统数据捕捉分析方式无法胜任的数据,这样的特征被约定俗称为“三个V”(规模Volume,种类Varity,速度Velocity)。 不断降低的收集、储存、处理数据成本,以及越来越多的新数据源如传感器、相机、定位装置等观察性设备的出现,使得我们如今身处于一个数据采集无处不在的世 界。数据的收集和处理量是前所未有的。可联网设备、可穿戴科技和高级传感器监测着从生命迹象到能量使用再到慢跑者步速的一切,这样的数据爆炸对运算能力提 出了更高的要求,也将会推动更复杂数据管理技术的发展。
数据不仅仅是更多了,它的来源也更加广泛,形式也更加多元。一些数据是“数码原生”的,就是说它本身就是由计算机或数据处理系统创造出来的数码 信息,比如电子邮件、网页浏览和GPS位置数据。另一些数据是“虚拟原生“的,也就是说它来自实体世界,但被人为转换成数码形式,比如手机、相机和录像机 等拍摄的音视频,或者可穿戴设备监测下的心率、排汗等物理活动数据。随着数据融合能力的增强,越来越多本不相干的数据被综合到一起,大数据将会带给人们非 同寻常的洞察力。
此外,数据收集与分析的速度正在逐渐趋于实时,这就意味着数据分析可以对人所处的环境产生即时的影响,甚至左右人们的选择。高速数据的典型实例 是记录用户与网页交互活动的点击流数据、移动设备上的GPS实时定位数据,及各种社交媒体上的用户分享。客户和公司都有更大的实时分析、实时受益的需求。 当然了,一个手机地图应用如果不能实时、准确地定位,显然就失去了它的意义;车载系统的实时运算也是保障我们行车安全的关键。
如果应用得当,大数据分析能提高经济效率、改进消费习惯、完善政府服务,甚至挽救人的生命。比如:
一、大数据与“物联网”的发展具有融合工业经济与信息经济的潜力。如今,我们可以在飞机引擎和货运汽车上装备传感器,监测各种数据,并在需要维修的时候发出自动警报。不仅可以降低维修成本,更能增强安全性。
二、医疗保险和医疗补助中心已经开始使用预测分析软件标记潜在的医保诈骗行为,防骗保系统帮助实时识别高危人群,已成功防止了涉及一亿一千五百万美元的诈骗性支取,在应用此技术的第一年,每1美元的投入就获得了3美元的收益。
三、一项大数据研究汇总了来自新生儿重症监护室的数百万数据样本,用以判断哪些新生儿更容易接受致命的感染。通过分析这些数据,这套系统不用等 值班医生注意,就能辨认出诸多感染发生的早期征兆,例如体温升高、心率加速等等。在传统实践中,有些早期征兆是经验丰富的医师也难以注意到的。
大数据技术还在其他很多领域拥有不可限量的前景,如按需管理电网、改善能源效率、增加发展中国国家农产量,防止传染病传播等等。
新机遇也带来了新挑战。大数据科技从庞大的数据集中获取价值,赋予了研究者以往无法想象的洞察力。当然,大数据的技术力量如此广泛与深远,我们 也需要关注它对社会伦理造成的挑战。历史学家克朗兹伯格(Melvin Kranzberg)在他的《科技第一法则》中写道:“科技本身非善非恶,但它也不是中立的。”我们应该时刻记住,科技既可以为公众谋福利,也可能对人造 成伤害。关键就是,如何在机遇与挑战间寻找到最佳的平衡。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 MySQL 实际应用中,“频繁写入同一表” 是常见场景 —— 如实时日志存储(用户操作日志、系统运行日志)、高频交易记录(支付 ...
2025-10-30为帮助教育工作者、研究者科学分析 “班级规模” 与 “平均成绩” 的关联关系,我将从相关系数的核心定义与类型切入,详解 “数 ...
2025-10-30对 CDA(Certified Data Analyst)数据分析师而言,“相关系数” 不是简单的数字计算,而是 “从业务问题出发,量化变量间关联强 ...
2025-10-30在构建前向神经网络(Feedforward Neural Network,简称 FNN)时,“隐藏层数目设多少?每个隐藏层该放多少个神经元?” 是每个 ...
2025-10-29这个问题切中了 Excel 用户的常见困惑 —— 将 “数据可视化工具” 与 “数据挖掘算法” 的功能边界混淆。核心结论是:Excel 透 ...
2025-10-29在 CDA(Certified Data Analyst)数据分析师的工作中,“多组数据差异验证” 是高频需求 —— 例如 “3 家门店的销售额是否有显 ...
2025-10-29在数据分析中,“正态分布” 是许多统计方法(如 t 检验、方差分析、线性回归)的核心假设 —— 数据符合正态分布时,统计检验的 ...
2025-10-28箱线图(Box Plot)作为展示数据分布的核心统计图表,能直观呈现数据的中位数、四分位数、离散程度与异常值,是质量控制、实验分 ...
2025-10-28在 CDA(Certified Data Analyst)数据分析师的工作中,“分类变量关联分析” 是高频需求 —— 例如 “用户性别是否影响支付方式 ...
2025-10-28在数据可视化领域,单一图表往往难以承载多维度信息 —— 力导向图擅长展现节点间的关联结构与空间分布,却无法直观呈现 “流量 ...
2025-10-27这个问题问到了 Tableau 中两个核心行级函数的经典组合,理解它能帮你快速实现 “相对位置占比” 的分析需求。“index ()/size ( ...
2025-10-27对 CDA(Certified Data Analyst)数据分析师而言,“假设检验” 绝非 “套用统计公式的机械操作”,而是 “将模糊的业务猜想转 ...
2025-10-27在数字化运营中,“凭感觉做决策” 早已成为过去式 —— 运营指标作为业务增长的 “晴雨表” 与 “导航仪”,直接决定了运营动作 ...
2025-10-24在卷积神经网络(CNN)的训练中,“卷积层(Conv)后是否添加归一化(如 BN、LN)和激活函数(如 ReLU、GELU)” 是每个开发者都 ...
2025-10-24在数据决策链条中,“统计分析” 是挖掘数据规律的核心,“可视化” 是呈现规律的桥梁 ——CDA(Certified Data Analyst)数据分 ...
2025-10-24在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22