京公网安备 11010802034615号
经营许可证编号:京B2-20210330
作者 | Susan Malaika编译 | CDA数据分析师
了解AutoAI如何实现数据准备,模型开发,功能工程和超参数优化的自动化。
近年来,数据驱动的决策已成为企业成功的关键。使用技术进行数据驱动的实践有很多好处,包括优化生产和制造,减少客户流失,减少数据冗余,增加利润和创造竞争优势。因此,随着组织采用以数据为依据的决策方法,数据科学已变得流行起来。数据科学家需要广泛的技能,包括数学和统计,机器学习和人工智能(AI),数据库和云计算以及数据可视化。但是,很难招募到足够的数据科学家,尤其是具有足够领域知识的专家,例如银行,医疗保健,人力资源,制造业和电信公司,对于要执行的任务和要做出的决定的岗位往往是人手不够的。与此同时,数据科学正日益成为一种素养,许多工作角色(包括员工没有很强的编码技能的角色)都需要了解数据科学技术。
因此,在与开发新工具以提高数据科学家工作效率的同时,也出现了一些技术开发,这些开发的重点是创建软件,使数据科学工作流程中的任务实现自动化,例如Google的AutoML,H2O,DataRobot,以及Auto-sklearn和TPOT等开源库。其中许多系统都基于scikit-learn Python机器学习库。它们是人工智能的例子,因为人工智能技术正被用于构建人工智能解决方案。$IBM^®$为人工智能技术生产了最先进的人工智能,并以AutoAI的形式将其整合到其产品组合中。
AutoAI是IBM Cloud Pak for Data的标准配置,可在混合多云环境中使用和扩展。AutoAI自动执行数据准备,模型开发,特征工程和超参数优化。AutoAI AI生命周期管理在入门和探索要问的问题时提供了很大的帮助。然后,它支持后续实验,模型修改和调整步骤。通过IBM Watson™Studio,也可以在不使用Cloud Pak for Data的情况下使用AutoAI。
AutoAI是人工智能一个令人兴奋的例子。AutoAI工具会自动分析您的数据并生成针对预测建模问题定制的候选模型方案。随着AutoAI算法了解有关您的数据集的更多信息,会发现最适合您的问题的数据转换,评估器算法和参数设置,这些模型方案会随着时间的推移而创建。结果会显示在一个排行榜上,显示自动生成的模型方案,并根据问题优化目标进行排序,从而鼓励您进行进一步的实验。
数据科学通常涉及提出更好的问题,例如,确定适当的属性,通过探索这些属性是预测结果。这意味着需要构建许多不同的模型,并且需要选择不同的特征并应用不同的超参数去优化模型。AutoAI中的选项可以通过加快人工智能流程或提供人员参与点来探索更好的问题。
整个AutoAI流程可在数分钟内自动完成(取决于数据量和其他考虑因素),而无需人工干预,创建出基础解决方案并使之适合初学者。然而,这个领域的专家可以轻松地与AutoAI进行交互,来将他们的知识整合到自动化方案中,以改进生成的模型并根据其特定需求进行定制。
专家可以在AutoAI流程中手动指定他们自己的偏好以使其符合该领域的知识要求,下面是几个可供选择的人机交互的点的示例:
有人声称,由人工智能构建的人工智能比人类更出色。Dakuo Wang博士及其团队最近进行的一项定性研究有许多数据科学家参与。一些参与者被要求使用IBM AutoAI构建模型。其他参与者在Jupyter Notebook环境中使用Python库操作完成相同的任务。该研究表明,与AutoAI一起工作的数据科学家可以显著更好地构建模型(ROC- AUC得分为0.92对0.90),更快(4.4分钟对15分钟),人为错误更少(100%对46.7%的参与者在指定的时间内成功完成了建模任务)。这项研究还揭示了数据科学家与AutoAI系统的互动的态度, 受访者认为,数据科学家与自动化AI系统之间存在协作关系,而不是竞争关系。
AutoAI的设计目的是在加快实验过程的同时,融入人类的反馈并增强数据科学实践。这使得没有较强编码技能的个人可以探索不同的选项,确定更好的问题,选择最合适的模型,然后将模型转移到项目部署中。
AutoAI的仪表板促进了人机交互,而不是取代人机交互,从而使数据科学家和领域专家能够做出明智的选择并为模型创建做出贡献。在IBM AutoAI系统的以下图形界面中,您可以看到如何构建八个模型(顶部可视化)以及根据所选度量(ROC-AUC)对模型进行排名的排行榜(底部列表)。在数十种算法中,AutoAI选择了逻辑回归和随机森林这两种算法,并为每种算法生成了四个模型。在全部使用逻辑回归算法的四个模型中,模型P2包括一个超参数优化步骤,该步骤将其与P1相区别。模型P3包括特征工程步骤,而P4包括第二个HPO步骤。
IBM研究人员将这种与AI系统一起工作的模式称为“Human-AI Collaboration”,即人与人工智能系统在特定任务上作为合作伙伴一起工作,在这种协作中,双方共同贡献出互补的不可或缺的能力。
AutoAI是IBM Cloud Pak for Data的标准配置,可在混合多云环境中使用和扩展。AutoAI有很多好处,特别是在支持人们更好地理解和预测其特定业务或专业方面。这些好处包括:
该技术正在迅速变化,因此需要继续关注迁移学习,业务限制等方面的进一步发展。
Watson Studio Cloud中的AutoAI现已上市。作为IBM Cloud Pak for Data一部分的AutoAI将于今年晚些时候上市。
Dakuo Wang是位于马萨诸塞州剑桥的IBM Research AI的一名研究科学家。他的研究在人机交互(HCI)和人工智能(AI)之间的交集。现在,他领导着一组研究人员,工程师和设计师来为IBM AutoAI进行研究和设计用户体验,这是一种使端到端(一端输入原始数据,一端输出结果,只关心输入和输出,中间步骤全不管的方法)机器学习模型自动化的解决方案。通过研究用户如何与各种AI系统(例如AutoAI,聊天机器人和临床决策支持系统(CDSS))一起协作,他提出了“人与AI协作”作为研究和设计与人类协作作的AI系统的新框架。加入IBM Research之前,Dakuo Wang获得了博士学位。加州大学欧文分校的信息和计算机科学硕士和硕士学位(MS )获得巴黎中央电子信息系统信息系统学位,并获得北京工业大学计算机科学学士学位。他曾在法国,中国和美国担任工程师,设计师和研究员。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析实战中,我们经常会遇到“多指标冗余”的问题——比如分析企业经营状况时,需同时关注营收、利润、负债率、周转率等十 ...
2026-02-04在数据分析场景中,基准比是衡量指标表现、评估业务成效、对比个体/群体差异的核心工具,广泛应用于绩效评估、业务监控、竞品对 ...
2026-02-04业务数据分析是企业日常运营的核心支撑,其核心价值在于将零散的业务数据转化为可落地的业务洞察,破解运营痛点、优化业务流程、 ...
2026-02-04在信贷业务中,违约率是衡量信贷资产质量、把控信用风险、制定风控策略的核心指标,其统计分布特征直接决定了风险定价的合理性、 ...
2026-02-03在数字化业务迭代中,AB测试已成为验证产品优化、策略调整、运营活动效果的核心工具。但多数业务场景中,单纯的“AB组差异对比” ...
2026-02-03企业战略决策的科学性,决定了其长远发展的格局与竞争力。战略分析方法作为一套系统化、专业化的思维工具,为企业研判行业趋势、 ...
2026-02-03在统计调查与数据分析中,抽样方法分为简单随机抽样与复杂抽样两大类。简单随机抽样因样本均匀、计算简便,是基础的抽样方式,但 ...
2026-02-02在数据驱动企业发展的今天,“数据分析”已成为企业经营决策的核心支撑,但实践中,战略数据分析与业务数据分析两个概念常被混淆 ...
2026-02-02在数据驱动企业发展的今天,“数据分析”已成为企业经营决策的核心支撑,但实践中,战略数据分析与业务数据分析两个概念常被混淆 ...
2026-02-02B+树作为数据库索引的核心数据结构,其高效的查询、插入、删除性能,离不开节点间指针的合理设计。在日常学习和数据库开发中,很 ...
2026-01-30在数据库开发中,UUID(通用唯一识别码)是生成唯一主键、唯一标识的常用方式,其标准格式包含4个短横线(如550e8400-e29b-41d4- ...
2026-01-30商业数据分析的价值落地,离不开标准化、系统化的总体流程作为支撑;而CDA(Certified Data Analyst)数据分析师,作为经过系统 ...
2026-01-30在数据分析、质量控制、科研实验等场景中,数据波动性(离散程度)的精准衡量是判断数据可靠性、稳定性的核心环节。标准差(Stan ...
2026-01-29在数据分析、质量检测、科研实验等领域,判断数据间是否存在本质差异是核心需求,而t检验、F检验是实现这一目标的经典统计方法。 ...
2026-01-29统计制图(数据可视化)是数据分析的核心呈现载体,它将抽象的数据转化为直观的图表、图形,让数据规律、业务差异与潜在问题一目 ...
2026-01-29箱线图(Box Plot)作为数据分布可视化的核心工具,能清晰呈现数据的中位数、四分位数、异常值等关键统计特征,广泛应用于数据分 ...
2026-01-28在回归分析、机器学习建模等数据分析场景中,多重共线性是高频数据问题——当多个自变量间存在较强的线性关联时,会导致模型系数 ...
2026-01-28数据分析的价值落地,离不开科学方法的支撑。六种核心分析方法——描述性分析、诊断性分析、预测性分析、规范性分析、对比分析、 ...
2026-01-28在机器学习与数据分析领域,特征是连接数据与模型的核心载体,而特征重要性分析则是挖掘数据价值、优化模型性能、赋能业务决策的 ...
2026-01-27关联分析是数据挖掘领域中挖掘数据间潜在关联关系的经典方法,广泛应用于零售购物篮分析、电商推荐、用户行为路径挖掘等场景。而 ...
2026-01-27