京公网安备 11010802034615号
经营许可证编号:京B2-20210330
回顾与展望丨数据科学 机器学习:2017年的主要发展和2018年的关键趋势
KDnuggets邀请了数据科学相关领域杰出的代表人物对2017年的主要发展和2018年的趋势进行了总结和预测。主要内容涉及到 AI 、深度学习、机器学习、安全、AlphaGo Zero等等。
Kirk D. Borne
BoozAllen的首席数据科学家,天体物理学博士。数据科学和大数据领域的影响者。
回顾 2017
在2017年,技术成熟度曲线(Technology Hype Cycle)的中心位置由原来的大数据渐渐被 AI 取代。媒体和从业者对 AI 的关注在正面新闻,比如越来越强大的机器学习算法和 AI 在汽车、医疗影像、金融服务等行业的应用;以及负面新闻,关于机器将抢走人类工作的威胁。
我们还见证了数据方面创新的发展,包括更多地使用API,即服务提供、数据科学平台、深度学习,以及云机器学习服务。大数据、机器学习和 AI 的专业应用,包括机器智能、规范性分析、行为分析和物联网。
展望 2018
在2018年,我们还需要关注 AI 的其他方面。比如 AI 的价值,衡量它的投资回报率,让其可以实际操作。
主要的发展领域与2017年没有太大差别,主要包括过程自动化、机器智能、客户服务。我们还将见证物联网的日益成熟,包括更强大的安全特性、模块化平台、传感器数据流的AP等。在2018年,更多的从业人员将面对挑战,向持怀疑态度的公众传达 AI 的好处。
Tom Davenport
巴布森学院信息技术与管理专业的杰出教授,国际分析研究所联合创始人,麻省理工学院数字经济学的研究员,德勤分析的高级顾问。
回顾 2017
企业 AI 成为主流,许多大型的知名公司正在进行 AI 或机器学习。一些公司拥有超过50个用到各种技术的项目。大型供应商开始转为开源、自己动手的项目类型。当然,这意味着公司必须提高其数据科学技能。
机器学习应用到数据集成,数据分析和数据管理中之前存在的挑战现在能通过机器学习解决。通过劳动密集型方法对数据进行集成和管理正在被替换,至少是通过不同数据库中相似数据元素的“概率匹配”来实现的。这能够减少整合数据的时间。
开放源代码的企业接受开源,传统的银行、保险和医疗等行业,正在积极地接受开源分析、 AI 和数据管理软件。
展望 2018
我们已经进入了“后算法”时代。之前分析师和数据科学家需要一定的知识来确定使用哪种算法。但是,分析和机器学习过程的自动化能够思考100种以上的不同算法。重要的是模型的效果和整体表现。
独立的 AI 创业公司的吸引力开始减弱。在风险投资基金的推动下,过去几年中成立了数百家 AI 创业公司。当中大多数解决的是较小的问题。然而,即使能够有效地运作,能够与现有流程和系统集成是其主要挑战。因此,成熟的企业更倾向于开发自己的 AI “微服务”,这些服务相对更容易集成,或者从那些将 AI 嵌入到交易系统的供应商购买。
Jill Dyche
SAS Best Practice的副总裁,畅销商业书籍的作者。
回顾 2017
如今几乎每个人都会应用到 AI 和机器学习。2017年,许多供应商都在开发自己的 AI 产品。
展望 2018
在2018年,商业对话和案例中,AI/ML方面会显著增长。这是因为企业有许多业务问题需要解决,管理者不关心神经网络是否要处理稀疏的数据;对自然语言处理中的词汇推理挑战。相反,他们想要加速供应链,知道客户下一步想做什么,然后简单地告诉电脑他们想要什么。这是一种规范性分析,那些能够以简便的方式解决该问题的供应商能够笑到最后。
Carla Gentry
Analytical Solution的数据科学家
回顾 2017
2017年,每个人都开始讨论机器学习、AI 和预测分析。但实际上许多这些公司,供应商只是热衷于这些热词,而并没有他们宣称的相关背景。在这些领域的经验需要时间和才干,而不仅仅是盲目的呼吁行动。总之,经验才是最重要的!
展望 2018
2018年,我们需要关注数据科学和预测分析的领导者。不是因为这很热门,而是因为这能给你的企业带来巨大的变化。
对招聘进行预测可以节省数百万人的成本;AI 和机器学习可以在几秒钟内完成你需要几天去做的事情。技术可以把我们提升到新的高度,但作为数据科学家,需要通过法律和社会的基本道德。
Bob E. Hayes
研究人员,作家,Business Over Broadway的出版商,组织心理学博士。
回顾 2017
数据科学和机器学习越来越多地应用于各种行业和领域。在2017年,我们目睹了 AI 的巨大进步。虽然之前深度学习模型需要大量的数据教算法,但是神经网络和强化学习表明,创建高性能的算法时并不需要数据集。DeepMind采用了这些技术,开发了Alpha Go Zero,这更优于之前版本的算法。
展望 2018
随着 AI 在刑事司法、金融、教育等领域的持续发展,我们将需要建立算法标准,用来评估其不准确性和偏差。包括建立 AI 的使用规则(例如,避免决策中的暗箱操作),并理解深度学习算法如何做出决定。
数据中心的安全漏洞将继续攀升,即使互联网时代出现的公司(例如imgur, Uber)。因此,我们将看到安全措施方面的改革的,将增加区块链的可见性作为一种可行的方式,用来改善公司如何获得其选区的数据。
Gregory Piatetsky-Shapiro
KDnuggets总裁,数据科学家,KDD和SIGKDD会议(知识发现和数据挖掘专业组织)的联合创始人。
回顾 2017
·AlphaGo Zero可能是2017年 AI 最重要的研究进展。
· 数据科学方面自动化的增长,提供了更多提供自动化工具的机器学习平台。
· AI 的舆论热度和期望的增长甚至比 AI 和深度学习的发展还快。
展望 2018
· GDPR(欧洲通用数据保护条例)将在2018年5月25日生效,这将对数据科学产生重大影响,其中包括解释的权利(你的深度学习方法是否可以解释为什么某人被拒绝贷款等),以及防止偏见和歧视。
· 谷歌 DeepMind 团队将跟进AlphaGo Zero的惊人结果,并实现另一个强大的性能。在几年前,许多人认为这是计算机无法做到的。
(注: DeepMind 取得的另一个突破进展发生在2017年12月,AlphaZero在4个小时内就能熟练掌握国际象棋,同样的自我博弈学习程序可以在国际象棋、围棋和日本将棋方面达到超人般的表现。)
·我们将会看到更多的自动驾驶汽车的发展,包括首次出现的问题正在被解决(比如拉斯维加斯的无人驾驶飞机,一开始不知道如何让道,但之后能够让道)。
· AI 的泡沫将继续存在,但我们将看到重组和整合的迹象。
Paul Gearan,Heather Allen,Karl Rexer
Rexer Analytics的负责人,Rexer Analytics是一家数据挖掘和高级分析咨询公司。
回顾 2017
对于没有研究或分析背景的人群,使用商业智能软件仍然面临许多障碍。当然出现了Tableau、IBM Watson、Microsoft Power BI等软件。然而,根据Rexer Analytics在2017年收集的数据,只有近一半的受访者表示,除了数据科学团队,他们公司其他员工也有使用相关自助工具。工具使用时,常见的问题有难以理解分析过程以及对分析结果的误解。
展望 2018
对于2018年,实现推广数据科学工具的目标是扩大分析的使用范围,从而得出有效的结果,这是至关重要的。通常情况下,向非数据分析方面的员工和管理人员提供工具,让他们对自己的假设进行探索和可视化是很重要的。但同样重要的是,团队要与数据科学专业人员一起开发模型并解读得出的见解,这些专业人员经过培训,能够掌握特定分析技术的应用。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据工作的全流程中,数据清洗是最基础、最耗时,同时也是最关键的核心环节,无论后续是做常规数据分析、可视化报表,还是开展 ...
2026-03-20在大数据与数据驱动决策的当下,“数据分析”与“数据挖掘”是高频出现的两个核心概念,也是很多职场人、入门学习者容易混淆的术 ...
2026-03-20在CDA(Certified Data Analyst)数据分析师的全流程工作闭环中,统计制图是连接严谨统计分析与高效业务沟通的关键纽带,更是CDA ...
2026-03-20在MySQL数据库优化中,分区表是处理海量数据的核心手段——通过将大表按分区键(如时间、地域、ID范围)分割为多个独立的小分区 ...
2026-03-19在商业智能与数据可视化领域,同比、环比增长率是分析数据变化趋势的核心指标——同比(YoY)聚焦“长期趋势”,通过当前周期与 ...
2026-03-19在数据分析与建模领域,流传着一句行业共识:“数据决定上限,特征决定下限”。对CDA(Certified Data Analyst)数据分析师而言 ...
2026-03-19机器学习算法工程的核心价值,在于将理论算法转化为可落地、可复用、高可靠的工程化解决方案,解决实际业务中的痛点问题。不同于 ...
2026-03-18在动态系统状态估计与目标跟踪领域,高精度、高鲁棒性的状态感知是机器人导航、自动驾驶、工业控制、目标检测等场景的核心需求。 ...
2026-03-18“垃圾数据进,垃圾结果出”,这是数据分析领域的黄金法则,更是CDA(Certified Data Analyst)数据分析师日常工作中时刻恪守的 ...
2026-03-18在机器学习建模中,决策树模型因其结构直观、易于理解、无需复杂数据预处理等优势,成为分类与回归任务的首选工具之一。而变量重 ...
2026-03-17在数据分析中,卡方检验是一类基于卡方分布的假设检验方法,核心用于分析分类变量之间的关联关系或实际观测分布与理论期望分布的 ...
2026-03-17在数字化转型的浪潮中,企业积累的数据日益庞大且分散——用户数据散落在注册系统、APP日志、客服记录中,订单数据分散在交易平 ...
2026-03-17在数字化时代,数据分析已成为企业决策、业务优化、增长突破的核心支撑,从数据仓库搭建(如维度表与事实表的设计)、数据采集清 ...
2026-03-16在数据仓库建设、数据分析(尤其是用户行为分析、业务指标分析)的实践中,维度表与事实表是两大核心组件,二者相互依存、缺一不 ...
2026-03-16数据是CDA(Certified Data Analyst)数据分析师开展一切工作的核心载体,而数据读取作为数据生命周期的关键环节,是连接原始数 ...
2026-03-16在用户行为分析实践中,很多从业者会陷入一个核心误区:过度关注“当前数据的分析结果”,却忽视了结果的“泛化能力”——即分析 ...
2026-03-13在数字经济时代,用户的每一次点击、浏览、停留、转化,都在传递着真实的需求信号。用户行为分析,本质上是通过收集、整理、挖掘 ...
2026-03-13在金融、零售、互联网等数据密集型行业,量化策略已成为企业挖掘商业价值、提升决策效率、控制经营风险的核心工具。而CDA(Certi ...
2026-03-13在机器学习建模体系中,随机森林作为集成学习的经典算法,凭借高精度、抗过拟合、适配多场景、可解释性强的核心优势,成为分类、 ...
2026-03-12在机器学习建模过程中,“哪些特征对预测结果影响最大?”“如何筛选核心特征、剔除冗余信息?”是从业者最常面临的核心问题。随 ...
2026-03-12