京公网安备 11010802034615号
经营许可证编号:京B2-20210330
作者 | Oleksii Kharkovyna
编译 | 夏夜
当下我们生活在数据的时代里。机器学习和数据分析技术已经成为了我们当今生活密不可分的一部分。那接下来会怎样呢?
在这篇博客中,我不打算预测数据科学面对的未来是什么,不会去猜测它的未来是光明有前途,还是毫无希望。这里我只结合自己,还有我认识的一些人的经历,提供一些决定性因素帮忙做预测。
抛开这些,我先大致勾勒一下今后 10 年影响数据科学未来的关键因素。我希望它会在工作流程上带给你一些有价值的见解。不用多说,这只是我的个人预测。如果你感兴趣,请继续读下去!
数据科学的未来:我怎样看待?
1、更多的数据科学策略
数据科学就是通过定量的方式解决问题的一门学科。在过去,由于缺少数据或数据处理能力,我们只能依赖其它东西,比如“独裁者的突发奇想”、“专家的直觉”和“普遍的共识”等。今天,这些根本都不管用了,而且毫无疑问,10 年后它们的作用会更有限。数据科学家转而在搭建一些系统,这些系统可以输出语音、预测、给出期望并输出真正的结果。
数据科学技术的泡沫不会破裂,相反,数据驱动策略的引入将继续占据主流。更多的人会关注数据,从数据中获得真知灼见,所以数据科学团队成为任何成功组织机构,至少是大部分组织不可或缺的一部分,由此组织之间会竞争,渴望争得领域前沿的位置。
2、更多界定明确的角色
因此数据科学会更受欢迎,绝大多数顾客会更清楚数据科学家到底是做什么的。现在,数据科学家是一个宽泛的头衔。目前领域内的人使用相关名称和描述时有一些不严谨,所以外界对该领域中人的角色有很多困惑。
我们一般把数据科学领域的角色分成 4 类,它们角色职能不同但有重叠。
我认为随着时间推移,所有这些角色我们会更熟悉,我们也会更了解它们的不同点。因此,顾客会对什么可得什么不可得,有更切实际的期待,头脑中会有更清晰的工作流程,还有从中获得的收益。
3、更多的软技能需求
随着时间推移,我们会更清楚地看到,大量的数据科学家会熟练运用 Python 或 R 语言。但是,向管理层推销你的想法的能力,说服他们相信你的洞察和见解才值得追求的能力,这种能力会怎样?可视化描述可以承担一半工作,而另一半就是老旧的市场营销能力。结果,我们会看到市场更青睐那些知道如何围绕出售产品创造关键性对话的人。因此,那些能将硬软技能结合的人会永远吃香。
4、数据会更多,处理数据的人工智能也会更多
现在我们谈一些严肃的东西。每天我们产生的数据量多到难以想象,以我们现在的速度,每天产生数据量有 2.5 个 10 的 18 次方字节,而且这个速度只会加快。看一下 Raconteur 网站做出的每日关键数据信息图:
到 2025 年,预计全球每天将产生 463 艾字节(463*10^18 字节)数据,相当于每天 212,765,957 张 DVD 的数据量!
实际上,仅靠数据科学家,无法管理和处理这么庞大的数据。届时,人工智能很可能成为协助数据科学家处理数据的有效工具。自动化数据分析工具和机器学习会“聪明”到取代数据科学家做例行工作,比如探索性数据分析、数据清理、统计建模和构建机器学习模型。
5、更少的代码,相当少的代码
据特斯拉 AI 总监 A. Karpathy 说,不久的将来,我们可以不用写代码了。我们只需要找到数据,并输入到机器学习系统即可。此种场景下,软件工程师的角色会成为“数据监管者”。未来大多数程序员都不再需要复杂的软件仓库,不用写复杂的程序。Karpathy 说,程序员会从事搜集、清理、操作、标记、分析数据以及对神经网络产生的数据进行可视化的工作。
机器学习正在引领一种新的计算范式,在该范式中训练机器才是关键技能。随着机器学习技术的普及,以及通过工具的抽象达到更高程度,我们会看到大部分编程工作会逐渐消失。最终,制造产品的大部分步骤将是屏幕上的拖拽、刷卡、指向和点击操作。从业者会从中解放出来,在解决问题时更有策略性和创造性。你在《星际迷航》中看到过有谁写计算机程序吗?没有。
诸如 R 语言、Python 和 Spark 这样的工具会变得无用武之地吗?大多数数据科学家不再需要通过写程序的方式做统计分析或训练机器学习模型了吗?没有这么简单。无论如何,把希望寄托于这些方面意义不大。你仍然需要理解和熟悉所有这些处理过程,机器学习只是辅助一些日常事务。
6、尽可能多地使用 API(应用程序接口)
大部分公司是先做好一件事情,攒到名气,然后以此起步,以开源 API 的形式贡献到社区。10 年后,大部分软件的制作方式会可见地接入到终端,最大程度地利用一切所需的服务生成解决方案。数据科学家能快速构建测试模型,一次建立和测试多种算法,最后和整个团队可视化验证结果。未来随着适时地引入深度的技术思考,科学家将不再白费力气做重复工作了。
7、自我学习
传统的学术环境将逐渐失去意义。信息经济需要能快速改变信息的途径。人们通过 3-4 年的学习毕业后,所学的技能已经过时。人们开始掌控自己的学习过程为自己赋能,未来得以生存的学院将是那些拥抱在线学习、快速更新课程授予方式的学院。未来的学习会基于你能构建什么而定义,而不是缺乏现实世界应用的基础原理。
Q1. 数据科学家是否会被自动化算法替代
根据广受欢迎的 CRISP-DM 数据分析项目的管理方法论,数据分析项目的实施分为 6 个阶段,每个阶段中,分析师或者数据科学家都是直接参与的:
步骤 3 和 4 包括大量的例行化工作。为了利用机器学习解决每个具体的实力,你必须不断地:
在自动化的帮助下,分析师或数据科学家的例行操作,以及数据准备和清理中的部分操作可以被移除。但是,步骤 3 和 4 中的其他部分,以及 CRISP-DM 中的剩余步骤都会被保留,所以分析师的这种日常工作上的简化不会对他们的职业造成任何威胁。
机器学习仅仅是数据科学家使用的工具之一,此外还有可视化、数据调研、统计和计量经济学方法。即使在机器学习方法里,完全自动化也是不可能的。在解决新算法及其组合的开发和应用中存在的非标准化问题时,数据科学家的高级角色特性毫无疑问会继续保持。自动化算法能够梳理所有的标准组合,生成一个基础解决方案,专家们可以此为基础做进一步改进。但在很多情况下,自动化算法生成的结果已经足够好,不用改进即可直接使用。
很难想像,离开分析师的帮助,一种业务可以直接使用自动化机器学习方法生成的结果。任何情况下,上述方案的数据准备、对生成结果的解释以及其他阶段都是必需的。同时,现在许多公司的分析师,不断与数据打交道,拥有非常成熟的心态,在业务领域非常精通,但是掌握机器学习方法的水平还不够。
公司通常很难吸引到特别胜任的高薪机器学习专家,市场对他们的需求不断增长,而且超出供给很多倍。解决办法可能是为公司的分析师提供使用自动化机器学习工具的渠道,这需要自动化技术的普及。未来,许多公司不用组建高度专业化的团队,也不需要顾问企业的参与,就能享受到大数据带来的好处。
Q2. 数据工程师会比数据科学家更抢手吗?
我认为应该区分一下数据科学家和数据工程师了。
前者是接受过正规教育的应用数学家,他们研究数据科学,开发新算法,组建神经网络等等。
后者的兴趣关注点稍微不同,他们了解每种方法的理论和应用局限,能成功解决业务问题。
前者能做事情永远不缺,而后者的部分工作可以自动化完成,但无法完全自动化。新方法、新算法和新的解决途径总会出现。另外,对主题领域和数据本质的专业性理解,对顾客目标的理解,以及快速实现目标的能力,无法通过完全自动化的方法做到,所以这些能力仍然极其重要。
数据科学是切合实际的科学——但是世界正朝着功能性的数据科学发展,从业人员可以自己做数据分析。相比于数据科学家,你需要更多的数据工程师来启动数据流程和整合的数据结构。
聪明的机构拥有聪明的人才,他们很懂自己的数据。数据科学家之所以存在的原因是大多数机构还不太懂数据。但他们以后会懂的。
如果一名数据科学家创造了一项突破性算法,但没有数据工程师将该算法落地到业务生产中,那算法会产生价值吗?
我重申一下我最喜欢的 Gartner 数据,只有 15% 的大数据项目最后投入了生产领域。虽然他们从没有深入探寻剩下的 85% 为什么没能投入生产领域,但是我提出一些未能成功落地的几个关键原因:
这就是为什么每家数据科学公司都需要至少两名数据工程师的原因。
总结
数据科学家职业的未来前景如何,仍然很模糊,需要专业的判断。但是,每天都有新的代码库和工具出现,我们绝不是走在简化开发和创建业务模型这些基础设施的道路上。许多人都很自信地说不错,但还有不好的一面,我们创建的系统越复杂,系统就越随机,越基于概率。
目前人工智能阶段的主要问题是在预言结果的意义是缺乏直觉。我们只有定量的方法来解决某个特定的问题,基于此方法做出预测,但是预测的质量不高。目前为止,这个方法运行得很不错的,但未来不得而知。
让我们拭目以待吧。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数字化运营中,“凭感觉做决策” 早已成为过去式 —— 运营指标作为业务增长的 “晴雨表” 与 “导航仪”,直接决定了运营动作 ...
2025-10-24在卷积神经网络(CNN)的训练中,“卷积层(Conv)后是否添加归一化(如 BN、LN)和激活函数(如 ReLU、GELU)” 是每个开发者都 ...
2025-10-24在数据决策链条中,“统计分析” 是挖掘数据规律的核心,“可视化” 是呈现规律的桥梁 ——CDA(Certified Data Analyst)数据分 ...
2025-10-24在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22在企业数据分析中,“数据孤岛” 是制约分析深度的核心瓶颈 —— 用户数据散落在注册系统、APP 日志、客服记录中,订单数据分散 ...
2025-10-22在神经网络设计中,“隐藏层个数” 是决定模型能力的关键参数 —— 太少会导致 “欠拟合”(模型无法捕捉复杂数据规律,如用单隐 ...
2025-10-21在特征工程流程中,“单变量筛选” 是承上启下的关键步骤 —— 它通过分析单个特征与目标变量的关联强度,剔除无意义、冗余的特 ...
2025-10-21在数据分析全流程中,“数据读取” 常被误解为 “简单的文件打开”—— 双击 Excel、执行基础 SQL 查询即可完成。但对 CDA(Cert ...
2025-10-21在实际业务数据分析中,我们遇到的大多数数据并非理想的正态分布 —— 电商平台的用户消费金额(少数用户单次消费上万元,多数集 ...
2025-10-20在数字化交互中,用户的每一次操作 —— 从电商平台的 “浏览商品→加入购物车→查看评价→放弃下单”,到内容 APP 的 “点击短 ...
2025-10-20在数据分析的全流程中,“数据采集” 是最基础也最关键的环节 —— 如同烹饪前需备好新鲜食材,若采集的数据不完整、不准确或不 ...
2025-10-20在数据成为新时代“石油”的今天,几乎每个职场人都在焦虑: “为什么别人能用数据驱动决策、升职加薪,而我面对Excel表格却无从 ...
2025-10-18数据清洗是 “数据价值挖掘的前置关卡”—— 其核心目标是 “去除噪声、修正错误、规范格式”,但前提是不破坏数据的真实业务含 ...
2025-10-17在数据汇总分析中,透视表凭借灵活的字段重组能力成为核心工具,但原始透视表仅能呈现数值结果,缺乏对数据背景、异常原因或业务 ...
2025-10-17在企业管理中,“凭经验定策略” 的传统模式正逐渐失效 —— 金融机构靠 “研究员主观判断” 选股可能错失收益,电商靠 “运营拍 ...
2025-10-17在数据库日常操作中,INSERT INTO SELECT是实现 “批量数据迁移” 的核心 SQL 语句 —— 它能直接将一个表(或查询结果集)的数 ...
2025-10-16