京公网安备 11010802034615号
经营许可证编号:京B2-20210330
企业致力于收集和存储大量数据,但通常只分析其中的一小部分。他们发现数据是新的货币,因为数据中隐藏着很多价值。他们正在利用数据科学和大数据分析工具从其“数据宝库”中提取价值。这有助于他们进行数字化转型。一些组织在这方面取得了巨大的成功,并不断创新、获得市场份额、增加价值(例如Amazon、谷歌、Facebook等公司),而其他公司也在努力效仿。
麦肯锡全球研究院于2011年5月发表了一篇开创性论文,名为“大数据:创新,竞争和生产力的下一个前沿”,使得大数据和分析开始引起人们的关注。根据谷歌公司的趋势分析(它提高了人们对关键词的搜索兴趣),大数据和分析热潮在2016年6月达到了顶峰。而云计算一直持续受到人们的高度关注,因为越来越多的企业继续实施云计算技术,以提高业务灵活性、运营弹性、改进性能,以及更高的效率。
数字化转型需要在组织层面上发挥作用,并将成为一种永久的运营方式。
人们可能会想知道,在大数据和分析达到发展顶峰之后将会变成什么样子。只要所公布的客户调查、供应商利益、分析师报告、收入来源等资料具有价值,那么企业都将采用大数据和分析来获取。调研机构Gartner公司2016年进行的一项调查报告表明,在过去五年中,企业对大数据和分析的投资一直在不断增长,但对其未来投资的兴趣似乎有所下降。这可能是由于这些投资获得实际收益的一种停顿。而Gartner公司的另一份调查报告显示,只有大约12%的大数据项目取得了可衡量的成果。然而,社交媒体、物联网(IoT)、智能手机、移动设备、游戏装备、可穿戴设备、传感器、无人机、远程监控器、精密医疗、精准农业、智能城市、智能建筑、自动驾驶汽车、远程控制车辆等技术将产生大量需要收集、汇总和分析的数据,以做出有用且有价值的决策。
而使用传统方法和系统来人工分析数据是不可能的。来自大数据和分析的潜在价值每年达到数十亿美元。这被认为是一个保守的估计。因为麦肯锡公司2011年进行的调查报告仅仅占据了大数据潜在价值的一小部分。只有基于位置的数据的采用率和价值捕获率高达50%-60%,其次是美国零售业,达到30%-40%,制造业占20%-30%,美国医疗保健行业为10%-20%,欧盟公共部门为10%-20%。因此,大数据和分析的兴趣和投资在几乎所有行业都会增加,以捕捉大数据中隐藏的价值。预计在未来几年中企业对云计算的大数据会持续产生兴趣。
数据安全
随着越来越多的数据被收集、汇总、分析,并用于做出影响人们生活的决策,数据安全性成为人们最为关切的问题。数据治理需要处理从不同来源收集的数据高峰以及管理这些数据元素所涉及的风险的中心阶段。美国联邦、州、市和地方政府机构以及其他非营利性公共服务组织需要符合严格的保密性、完整性和可用性(CIA)规则,并且还要提供良好的治理、满足合规要求和管理风险(GCR)。
人们一个常见的误解是,组织需要从不同来源收集的大量结构化和非结构化数据,包括外部来源(需要验证和风险评估)来开始分析。企业不需要大量数据来启动分析项目。可以从已有的“黄金标准数据”开始,并考虑单独使用这些数据或将其与其他内部数据集结合使用,以解决业务问题作为向决策者购买的概念证明的可能性。企业可以尝试和分析以前没有查看的不同变量,以确定相关性、因果关系和预测因素,谨慎发现,并避免重合。这是行业领域知识和专业知识发挥作用的地方。利用可用且经济实惠的计算能力、存储和网络容量,企业可以轻松地分析更多数据,以查看隐藏在数据中的模式和概率。基于业务需求,分析可用于描述性、诊断性、预测性、规定性的目的。物联网、传感器、操作技术、设备维护、精密医疗、电网、航运、物流、执法和精准农业正在越来越多地利用上述不同类型的分析来处理一个或多个业务问题,或根据需要来提供解决方案。
大数据的需求
大数据对不同的人意味着不同的事物。不同的IT分析师、商业领袖、顾问、学术研究人员、标准组织已经根据他们的观点定义了大数据,其中包括数量、速度、品种、准确性、复杂性等因素。虽然在大数据方面没有明确的共识,他们现有的能力在人员、过程和技术方面的处理能力太大了。就大数据和分析而言,人员是最难的部分。存在组织惯性、缺乏决策者的支持,以及难以找到正确理解分析的数据和业务领域的数据科学家等问题。同样,大数据分析师也很缺乏。世界各地的许多高校或认证机构都在提供数据科学和分析方面的新课程,以满足日益增长的需求。
由于大数据领域是新兴行业,很难找到适合的专家,因此所谓的“大数据专家或数据科学家”被金融交易、银行、信用评级机构,以及信用卡公司等大型金融组织所吸引。此外,谷歌、Facebook、LinkedIn、雅虎、微软、亚马逊等行业巨头也求贤若渴,因为他们为这些人才提供了丰厚的薪酬、股票期权,以及更好的发展前景。在争夺同样的人才方面,美国的联邦、州、市和地方政府以及非营利组织都处于劣势。但是,一些具有深谋远虑的政府组织已经成功招募了一些优秀的大数据科学家。
克服人才短缺的挑战
为了克服数据科学家短缺的挑战,许多企业正在建立一个数据科学团队,其中包括具有大数据分析方面知识和专业知识的人员,以及行业专家,例如IT和业务领域。他们可以一起补充彼此的专业知识,互相协作并提出业务问题的解决方案。一个成功的大数据分析团队的一个重要特征是能够用商业术语讲述故事,并实现数据可视化,而这些数据可视化只需要很少的解释。这是一项非常特殊的技能,需要销售技能来完成交易。这些能力有助于建立数据科学团队或大数据和分析团队的可信度,以获得高级管理人员的支持,并将分析从一个业务领域扩展到另一个业务领域,并最终扩展到整个组织或企业。这些人员则是“翻译者”,他们可以从数据分析中获得结果,并将其置于商业术语中,以便企业能够理解和适应。数字化转型需要在组织层面上发挥作用,并成为一种永久的运营方式。大数据和分析是私营或公共企业数字化转型的一个组成部分。因此,许多组织开始了数字化转型之旅,通过分析释放隐藏在大数据中的价值。今后将会有更多的组织效仿跟随。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在分类变量关联分析中(如 “吸烟与肺癌的关系”“性别与疾病发病率的关联”),卡方检验 P 值与 OR 值(比值比,Odds Ratio)是 ...
2025-11-05CDA 数据分析师的核心价值,不在于复杂的模型公式,而在于将数据转化为可落地的商业行动。脱离业务场景的分析只是 “纸上谈兵” ...
2025-11-05教材入口:https://edu.cda.cn/goods/show/3151 “纲举目张,执本末从。” 若想在数据分析领域有所收获,一套合适的学习教材至 ...
2025-11-05教材入口:https://edu.cda.cn/goods/show/3151 “纲举目张,执本末从。” 若想在数据分析领域有所收获,一套合适的学习教材至 ...
2025-11-04【2025最新版】CDA考试教材:CDA教材一级:商业数据分析(2025)__商业数据分析_cda教材_考试教材 (cdaglobal.com) ...
2025-11-04在数字化时代,数据挖掘不再是实验室里的技术探索,而是驱动商业决策的核心能力 —— 它能从海量数据中挖掘出 “降低成本、提升 ...
2025-11-04在 DDPM(Denoising Diffusion Probabilistic Models)训练过程中,开发者最常困惑的问题莫过于:“我的模型 loss 降到多少才算 ...
2025-11-04在 CDA(Certified Data Analyst)数据分析师的工作中,“无监督样本分组” 是高频需求 —— 例如 “将用户按行为特征分为高价值 ...
2025-11-04当沃尔玛数据分析师首次发现 “啤酒与尿布” 的高频共现规律时,他们揭开了数据挖掘最迷人的面纱 —— 那些隐藏在消费行为背后 ...
2025-11-03这个问题精准切中了配对样本统计检验的核心差异点,理解二者区别是避免统计方法误用的关键。核心结论是:stats.ttest_rel(配对 ...
2025-11-03在 CDA(Certified Data Analyst)数据分析师的工作中,“高维数据的潜在规律挖掘” 是进阶需求 —— 例如用户行为包含 “浏览次 ...
2025-11-03在 MySQL 数据查询中,“按顺序计数” 是高频需求 —— 例如 “统计近 7 天每日订单量”“按用户 ID 顺序展示消费记录”“按产品 ...
2025-10-31在数据分析中,“累计百分比” 是衡量 “部分与整体关系” 的核心指标 —— 它通过 “逐步累加的占比”,直观呈现数据的分布特征 ...
2025-10-31在 CDA(Certified Data Analyst)数据分析师的工作中,“二分类预测” 是高频需求 —— 例如 “预测用户是否会流失”“判断客户 ...
2025-10-31在 MySQL 实际应用中,“频繁写入同一表” 是常见场景 —— 如实时日志存储(用户操作日志、系统运行日志)、高频交易记录(支付 ...
2025-10-30为帮助教育工作者、研究者科学分析 “班级规模” 与 “平均成绩” 的关联关系,我将从相关系数的核心定义与类型切入,详解 “数 ...
2025-10-30对 CDA(Certified Data Analyst)数据分析师而言,“相关系数” 不是简单的数字计算,而是 “从业务问题出发,量化变量间关联强 ...
2025-10-30在构建前向神经网络(Feedforward Neural Network,简称 FNN)时,“隐藏层数目设多少?每个隐藏层该放多少个神经元?” 是每个 ...
2025-10-29这个问题切中了 Excel 用户的常见困惑 —— 将 “数据可视化工具” 与 “数据挖掘算法” 的功能边界混淆。核心结论是:Excel 透 ...
2025-10-29在 CDA(Certified Data Analyst)数据分析师的工作中,“多组数据差异验证” 是高频需求 —— 例如 “3 家门店的销售额是否有显 ...
2025-10-29