
有没有想过 你的数据分析方法可能已经过时
信息时代,能吃到虫子的已不再是早起的鸟儿,而是那些数据驱动的、早起的鸟儿。像百度、阿里巴巴和腾讯这样的大公司,都在不断囤积数据,因为他们都知道数据是金灿灿的宝贝。
但仅仅囤积数据是不够的。你需要熟练地筛选、全盘了解数据湖中溢出的所有数据。只有这样,你才能通过这些数据,做出更好的决策,打造更智能的产品。
然而,在拥挤不堪、投资过剩的数据分析市场上,供应商为了卖出自己的产品不断放出烟雾弹,想要穿过烟雾看到“真相”,却是一大难事。以下五点,是未来数据分析市场可能的走向,仅供参考。
1. BI迁移到应用程序
在过去的20年里,我们见证了一场革命。不是一夜之间发生的那种,而是逐渐发生的,缓慢的,可能很多人没有注意到。BI(商业智能)正走向死亡。或者更准确地说,BI正在进行着彻头彻尾的改变。
每年,用户都在通过他们使用的应用程序——比如HubSpot、SalesForce和MailChimp——进行更多的分析。分析正在迁移到业务应用程序的结构中。
从本质上讲,业务应用程序正在获取它们自己的分析接口,根据它们的数据和用例进行定制。这种集成和自定义使得其分析接口比深奥的、复杂的通用BI更容易被用户接受。随着B2B应用程序开始在数据智能产品上展开竞争,这一趋势将会继续下去。
2. 编译器超越分析引擎
历史上,数据分析有两种提供方式:通过预计算,或者通过分析引擎。
分析引擎,如Spark和Tableau的数据引擎,负责执行所需的计算,以回答关于组织数据的关键问题。
现在,这个领域出现了一个新的玩家:分析编译器。分析编译器可以灵活地将计算部署到不同的基础设施。分析编译器的例子包括现在大火的TensorFlow,它可以将计算部署到GPU或CPU等。
编译器比分析引擎灵活得多,因为它们可以进行数据处理,而且我们可以将它们进行转换,以在不同的基础设施中运行(在数据库中,在Spark中,在GPU中,等等)。在理论上,编译器也可以生成比任何解释引擎都快的工作流。
甚至Spark也一直在获取基本的编译工具,这无疑是编译器在此驻留的标志,并且可能最终会使遗留的纯计算引擎相形见绌。
3. ETL多样化
很少有一个术语能比“ETL”(提取转换加载)更让大佬们头疼。ETL堆积了大量不完整的、重复的、不相关的数据,像污水一样被排放出来,清理干净,然后被推到一个可以处理这些数据的地方。
ETL是现代、敏捷和数据驱动等关键词的对立面。ETL意味着不断重复的数据,无数的延迟,以及高额的费用。它无法回答重要的问题。
为了让ETL变得更加灵活,行业内已经开发出了各种各样的替代方案。这些解决方案包括高级的ETL工具——使ETL更容易进入Hadoop或数据仓库,到流ETL解决方案,再到利用机器学习交叉引用和删除重复数据的ETL解决方案。
另一个非常有趣的技术类别包括像Dremio和Xcalar这样的工具,它们将ETL重构为提取-加载-转换(或ELT)。本质上,它们将转换的步骤推到最后,因此不必再预先进行提取、加载或转换。
从历史上看,ELT的速度很慢,但这些下一代解决方案通过动态调整、索引和缓存常见的转换来快速地进行拼写。这提供了传统ETL的性能,同时具有后期转换的灵活性。
不管你如何看待它,ETL正在经历着戏剧性的演变,这将使组织能够比以往更容易地快速地利用数据,而无需耗费大量时间和昂贵的前期投入。
4. 数据仓库开放
大型组织的问题多数在于无法从专注于精心设计的分析。大多数公司甚至无法合计和计算他们有多少数据。不是因为计数很困难,而是因为一个大型组织中的数据一般分散在万个数据竖井中。
不过由于云(包括API革命和管理数据解决方案)和ETL最近的进展,使得组织以结构化的方式访问更多的数据变得比以往任何时候都要容易。
下一代数据管理解决方案将在利用这些技术进步中发挥重要作用,使所有的组织的数据能够及时地对所有合适的人进行分析。
5. 机器学习落到实处
机器学习刚刚度过了炒作的高峰期,或者至少我们可以希望是如此。机器学习是不完美和无罪的致命组合。当机器学习出错的时候(通常也是不可避免的),我们不知道该去责怪谁。
这对于任何一种关键任务分析都是绝对不能容忍的。
因此,距离我们把人工智能训练成社会最聪明的人,吸收全部知识,仍是非常遥远的,远超过5年。
在此之前,我们很可能会看到机器学习专注于某些场景的应用。例如结构化数据集的黑盒预测分析;人类辅助技术可以让人们看到不同数据源之间的连接,纠正常见错误,发现异常现象。这些并不是科幻小说中所提到的超级大脑,但它们会让用户更容易找到问题,并帮助引导他们找到正确的答案。
虽然分析是一个巨大的市场,充斥着令人困惑的营销言论,但一些大的趋势也可以帮助企业决定在哪里进行投入。
未来5年,这些大的趋势可能会影响到组织使用的工具,得到融资的数据分析型创业公司,以及我们在整个数据分析领域中看到的创新,从数据仓库到可视化分析前端。在需要弄清楚数据架构和技术堆栈应该是什么样子的时候,要根据自身实际情况,做出明智的决策。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据成为新时代“石油”的今天,几乎每个职场人都在焦虑: “为什么别人能用数据驱动决策、升职加薪,而我面对Excel表格却无从 ...
2025-10-18数据清洗是 “数据价值挖掘的前置关卡”—— 其核心目标是 “去除噪声、修正错误、规范格式”,但前提是不破坏数据的真实业务含 ...
2025-10-17在数据汇总分析中,透视表凭借灵活的字段重组能力成为核心工具,但原始透视表仅能呈现数值结果,缺乏对数据背景、异常原因或业务 ...
2025-10-17在企业管理中,“凭经验定策略” 的传统模式正逐渐失效 —— 金融机构靠 “研究员主观判断” 选股可能错失收益,电商靠 “运营拍 ...
2025-10-17在数据库日常操作中,INSERT INTO SELECT是实现 “批量数据迁移” 的核心 SQL 语句 —— 它能直接将一个表(或查询结果集)的数 ...
2025-10-16在机器学习建模中,“参数” 是决定模型效果的关键变量 —— 无论是线性回归的系数、随机森林的树深度,还是神经网络的权重,这 ...
2025-10-16在数字化浪潮中,“数据” 已从 “辅助决策的工具” 升级为 “驱动业务的核心资产”—— 电商平台靠用户行为数据优化推荐算法, ...
2025-10-16在大模型从实验室走向生产环境的过程中,“稳定性” 是决定其能否实用的关键 —— 一个在单轮测试中表现优异的模型,若在高并发 ...
2025-10-15在机器学习入门领域,“鸢尾花数据集(Iris Dataset)” 是理解 “特征值” 与 “目标值” 的最佳案例 —— 它结构清晰、维度适 ...
2025-10-15在数据驱动的业务场景中,零散的指标(如 “GMV”“复购率”)就像 “散落的零件”,无法支撑系统性决策;而科学的指标体系,则 ...
2025-10-15在神经网络模型设计中,“隐藏层层数” 是决定模型能力与效率的核心参数之一 —— 层数过少,模型可能 “欠拟合”(无法捕捉数据 ...
2025-10-14在数字化浪潮中,数据分析师已成为企业 “从数据中挖掘价值” 的核心角色 —— 他们既要能从海量数据中提取有效信息,又要能将分 ...
2025-10-14在企业数据驱动的实践中,“指标混乱” 是最常见的痛点:运营部门说 “复购率 15%”,产品部门说 “复购率 8%”,实则是两者对 ...
2025-10-14在手游行业,“次日留存率” 是衡量一款游戏生死的 “第一道关卡”—— 它不仅反映了玩家对游戏的初始接受度,更直接决定了后续 ...
2025-10-13分库分表,为何而生? 在信息技术发展的早期阶段,数据量相对较小,业务逻辑也较为简单,单库单表的数据库架构就能够满足大多数 ...
2025-10-13在企业数字化转型过程中,“数据孤岛” 是普遍面临的痛点:用户数据散落在 APP 日志、注册系统、客服记录中,订单数据分散在交易 ...
2025-10-13在数字化时代,用户的每一次行为 —— 从电商平台的 “浏览→加购→购买”,到视频 APP 的 “打开→搜索→观看→收藏”,再到银 ...
2025-10-11在机器学习建模流程中,“特征重要性分析” 是连接 “数据” 与 “业务” 的关键桥梁 —— 它不仅能帮我们筛选冗余特征、提升模 ...
2025-10-11在企业的数据体系中,未经分类的数据如同 “杂乱无章的仓库”—— 用户行为日志、订单记录、商品信息混杂存储,CDA(Certified D ...
2025-10-11在 SQL Server 数据库操作中,“数据类型转换” 是高频需求 —— 无论是将字符串格式的日期转为datetime用于筛选,还是将数值转 ...
2025-10-10