京公网安备 11010802034615号
经营许可证编号:京B2-20210330
作者 | Oleksii Kharkovyna
编译 | 夏夜
当下我们生活在数据的时代里。机器学习和数据分析技术已经成为了我们当今生活密不可分的一部分。那接下来会怎样呢?
在这篇博客中,我不打算预测数据科学面对的未来是什么,不会去猜测它的未来是光明有前途,还是毫无希望。这里我只结合自己,还有我认识的一些人的经历,提供一些决定性因素帮忙做预测。
抛开这些,我先大致勾勒一下今后 10 年影响数据科学未来的关键因素。我希望它会在工作流程上带给你一些有价值的见解。不用多说,这只是我的个人预测。如果你感兴趣,请继续读下去!
数据科学的未来:我怎样看待?
1、更多的数据科学策略
数据科学就是通过定量的方式解决问题的一门学科。在过去,由于缺少数据或数据处理能力,我们只能依赖其它东西,比如“独裁者的突发奇想”、“专家的直觉”和“普遍的共识”等。今天,这些根本都不管用了,而且毫无疑问,10 年后它们的作用会更有限。数据科学家转而在搭建一些系统,这些系统可以输出语音、预测、给出期望并输出真正的结果。
数据科学技术的泡沫不会破裂,相反,数据驱动策略的引入将继续占据主流。更多的人会关注数据,从数据中获得真知灼见,所以数据科学团队成为任何成功组织机构,至少是大部分组织不可或缺的一部分,由此组织之间会竞争,渴望争得领域前沿的位置。
2、更多界定明确的角色
因此数据科学会更受欢迎,绝大多数顾客会更清楚数据科学家到底是做什么的。现在,数据科学家是一个宽泛的头衔。目前领域内的人使用相关名称和描述时有一些不严谨,所以外界对该领域中人的角色有很多困惑。
我们一般把数据科学领域的角色分成 4 类,它们角色职能不同但有重叠。
我认为随着时间推移,所有这些角色我们会更熟悉,我们也会更了解它们的不同点。因此,顾客会对什么可得什么不可得,有更切实际的期待,头脑中会有更清晰的工作流程,还有从中获得的收益。
3、更多的软技能需求
随着时间推移,我们会更清楚地看到,大量的数据科学家会熟练运用 Python 或 R 语言。但是,向管理层推销你的想法的能力,说服他们相信你的洞察和见解才值得追求的能力,这种能力会怎样?可视化描述可以承担一半工作,而另一半就是老旧的市场营销能力。结果,我们会看到市场更青睐那些知道如何围绕出售产品创造关键性对话的人。因此,那些能将硬软技能结合的人会永远吃香。
4、数据会更多,处理数据的人工智能也会更多
现在我们谈一些严肃的东西。每天我们产生的数据量多到难以想象,以我们现在的速度,每天产生数据量有 2.5 个 10 的 18 次方字节,而且这个速度只会加快。看一下 Raconteur 网站做出的每日关键数据信息图:
到 2025 年,预计全球每天将产生 463 艾字节(463*10^18 字节)数据,相当于每天 212,765,957 张 DVD 的数据量!
实际上,仅靠数据科学家,无法管理和处理这么庞大的数据。届时,人工智能很可能成为协助数据科学家处理数据的有效工具。自动化数据分析工具和机器学习会“聪明”到取代数据科学家做例行工作,比如探索性数据分析、数据清理、统计建模和构建机器学习模型。
5、更少的代码,相当少的代码
据特斯拉 AI 总监 A. Karpathy 说,不久的将来,我们可以不用写代码了。我们只需要找到数据,并输入到机器学习系统即可。此种场景下,软件工程师的角色会成为“数据监管者”。未来大多数程序员都不再需要复杂的软件仓库,不用写复杂的程序。Karpathy 说,程序员会从事搜集、清理、操作、标记、分析数据以及对神经网络产生的数据进行可视化的工作。
机器学习正在引领一种新的计算范式,在该范式中训练机器才是关键技能。随着机器学习技术的普及,以及通过工具的抽象达到更高程度,我们会看到大部分编程工作会逐渐消失。最终,制造产品的大部分步骤将是屏幕上的拖拽、刷卡、指向和点击操作。从业者会从中解放出来,在解决问题时更有策略性和创造性。你在《星际迷航》中看到过有谁写计算机程序吗?没有。
诸如 R 语言、Python 和 Spark 这样的工具会变得无用武之地吗?大多数数据科学家不再需要通过写程序的方式做统计分析或训练机器学习模型了吗?没有这么简单。无论如何,把希望寄托于这些方面意义不大。你仍然需要理解和熟悉所有这些处理过程,机器学习只是辅助一些日常事务。
6、尽可能多地使用 API(应用程序接口)
大部分公司是先做好一件事情,攒到名气,然后以此起步,以开源 API 的形式贡献到社区。10 年后,大部分软件的制作方式会可见地接入到终端,最大程度地利用一切所需的服务生成解决方案。数据科学家能快速构建测试模型,一次建立和测试多种算法,最后和整个团队可视化验证结果。未来随着适时地引入深度的技术思考,科学家将不再白费力气做重复工作了。
7、自我学习
传统的学术环境将逐渐失去意义。信息经济需要能快速改变信息的途径。人们通过 3-4 年的学习毕业后,所学的技能已经过时。人们开始掌控自己的学习过程为自己赋能,未来得以生存的学院将是那些拥抱在线学习、快速更新课程授予方式的学院。未来的学习会基于你能构建什么而定义,而不是缺乏现实世界应用的基础原理。
Q1. 数据科学家是否会被自动化算法替代
根据广受欢迎的 CRISP-DM 数据分析项目的管理方法论,数据分析项目的实施分为 6 个阶段,每个阶段中,分析师或者数据科学家都是直接参与的:
步骤 3 和 4 包括大量的例行化工作。为了利用机器学习解决每个具体的实力,你必须不断地:
在自动化的帮助下,分析师或数据科学家的例行操作,以及数据准备和清理中的部分操作可以被移除。但是,步骤 3 和 4 中的其他部分,以及 CRISP-DM 中的剩余步骤都会被保留,所以分析师的这种日常工作上的简化不会对他们的职业造成任何威胁。
机器学习仅仅是数据科学家使用的工具之一,此外还有可视化、数据调研、统计和计量经济学方法。即使在机器学习方法里,完全自动化也是不可能的。在解决新算法及其组合的开发和应用中存在的非标准化问题时,数据科学家的高级角色特性毫无疑问会继续保持。自动化算法能够梳理所有的标准组合,生成一个基础解决方案,专家们可以此为基础做进一步改进。但在很多情况下,自动化算法生成的结果已经足够好,不用改进即可直接使用。
很难想像,离开分析师的帮助,一种业务可以直接使用自动化机器学习方法生成的结果。任何情况下,上述方案的数据准备、对生成结果的解释以及其他阶段都是必需的。同时,现在许多公司的分析师,不断与数据打交道,拥有非常成熟的心态,在业务领域非常精通,但是掌握机器学习方法的水平还不够。
公司通常很难吸引到特别胜任的高薪机器学习专家,市场对他们的需求不断增长,而且超出供给很多倍。解决办法可能是为公司的分析师提供使用自动化机器学习工具的渠道,这需要自动化技术的普及。未来,许多公司不用组建高度专业化的团队,也不需要顾问企业的参与,就能享受到大数据带来的好处。
Q2. 数据工程师会比数据科学家更抢手吗?
我认为应该区分一下数据科学家和数据工程师了。
前者是接受过正规教育的应用数学家,他们研究数据科学,开发新算法,组建神经网络等等。
后者的兴趣关注点稍微不同,他们了解每种方法的理论和应用局限,能成功解决业务问题。
前者能做事情永远不缺,而后者的部分工作可以自动化完成,但无法完全自动化。新方法、新算法和新的解决途径总会出现。另外,对主题领域和数据本质的专业性理解,对顾客目标的理解,以及快速实现目标的能力,无法通过完全自动化的方法做到,所以这些能力仍然极其重要。
数据科学是切合实际的科学——但是世界正朝着功能性的数据科学发展,从业人员可以自己做数据分析。相比于数据科学家,你需要更多的数据工程师来启动数据流程和整合的数据结构。
聪明的机构拥有聪明的人才,他们很懂自己的数据。数据科学家之所以存在的原因是大多数机构还不太懂数据。但他们以后会懂的。
如果一名数据科学家创造了一项突破性算法,但没有数据工程师将该算法落地到业务生产中,那算法会产生价值吗?
我重申一下我最喜欢的 Gartner 数据,只有 15% 的大数据项目最后投入了生产领域。虽然他们从没有深入探寻剩下的 85% 为什么没能投入生产领域,但是我提出一些未能成功落地的几个关键原因:
这就是为什么每家数据科学公司都需要至少两名数据工程师的原因。
总结
数据科学家职业的未来前景如何,仍然很模糊,需要专业的判断。但是,每天都有新的代码库和工具出现,我们绝不是走在简化开发和创建业务模型这些基础设施的道路上。许多人都很自信地说不错,但还有不好的一面,我们创建的系统越复杂,系统就越随机,越基于概率。
目前人工智能阶段的主要问题是在预言结果的意义是缺乏直觉。我们只有定量的方法来解决某个特定的问题,基于此方法做出预测,但是预测的质量不高。目前为止,这个方法运行得很不错的,但未来不得而知。
让我们拭目以待吧。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在Python开发中,HTTP请求是与外部服务交互的核心场景——调用第三方API、对接微服务、爬取数据等都离不开它。虽然requests库已 ...
2025-12-12在数据驱动决策中,“数据波动大不大”是高频问题——零售店长关心日销售额是否稳定,工厂管理者关注产品尺寸偏差是否可控,基金 ...
2025-12-12在CDA(Certified Data Analyst)数据分析师的能力矩阵中,数据查询语言(SQL)是贯穿工作全流程的“核心工具”。无论是从数据库 ...
2025-12-12很多小伙伴都在问CDA考试的问题,以下是结合 2025 年最新政策与行业动态更新的 CDA 数据分析师认证考试 Q&A,覆盖考试内容、报考 ...
2025-12-11在Excel数据可视化中,柱形图因直观展示数据差异的优势被广泛使用,而背景色设置绝非简单的“换颜色”——合理的背景色能突出核 ...
2025-12-11在科研实验、商业分析或医学研究中,我们常需要判断“两组数据的差异是真实存在,还是偶然波动”——比如“新降压药的效果是否优 ...
2025-12-11在CDA(Certified Data Analyst)数据分析师的工作体系中,数据库就像“数据仓库的核心骨架”——所有业务数据的存储、组织与提 ...
2025-12-11在神经网络模型搭建中,“最后一层是否添加激活函数”是新手常困惑的关键问题——有人照搬中间层的ReLU激活,导致回归任务输出异 ...
2025-12-05在机器学习落地过程中,“模型准确率高但不可解释”“面对数据噪声就失效”是两大核心痛点——金融风控模型若无法解释决策依据, ...
2025-12-05在CDA(Certified Data Analyst)数据分析师的能力模型中,“指标计算”是基础技能,而“指标体系搭建”则是区分新手与资深分析 ...
2025-12-05在回归分析的结果解读中,R方(决定系数)是衡量模型拟合效果的核心指标——它代表因变量的变异中能被自变量解释的比例,取值通 ...
2025-12-04在城市规划、物流配送、文旅分析等场景中,经纬度热力图是解读空间数据的核心工具——它能将零散的GPS坐标(如外卖订单地址、景 ...
2025-12-04在CDA(Certified Data Analyst)数据分析师的指标体系中,“通用指标”与“场景指标”并非相互割裂的两个部分,而是支撑业务分 ...
2025-12-04每到“双十一”,电商平台的销售额会迎来爆发式增长;每逢冬季,北方的天然气消耗量会显著上升;每月的10号左右,工资发放会带动 ...
2025-12-03随着数字化转型的深入,企业面临的数据量呈指数级增长——电商的用户行为日志、物联网的传感器数据、社交平台的图文视频等,这些 ...
2025-12-03在CDA(Certified Data Analyst)数据分析师的工作体系中,“指标”是贯穿始终的核心载体——从“销售额环比增长15%”的业务结论 ...
2025-12-03在神经网络训练中,损失函数的数值变化常被视为模型训练效果的“核心仪表盘”——初学者盯着屏幕上不断下降的损失值满心欢喜,却 ...
2025-12-02在CDA(Certified Data Analyst)数据分析师的日常工作中,“用部分数据推断整体情况”是高频需求——从10万条订单样本中判断全 ...
2025-12-02在数据预处理的纲量统一环节,标准化是消除量纲影响的核心手段——它将不同量级的特征(如“用户年龄”“消费金额”)转化为同一 ...
2025-12-02在数据驱动决策成为企业核心竞争力的今天,A/B测试已从“可选优化工具”升级为“必选验证体系”。它通过控制变量法构建“平行实 ...
2025-12-01