京公网安备 11010802034615号
经营许可证编号:京B2-20210330
谷歌教你学 AI -第二讲机器学习的7个步骤
Google Cloud发布了名为"AI Adventures"的系列视频,用简单易懂的语言让初学者了解机器学习的方方面面。
观看更多国外公开课,点击"阅读原文"
上一期主要讲了机器学习的概念(谷歌教你学 AI -第一讲机器学习是什么?),今天让我们一起看到第二讲:机器学习的7个步骤。
主讲人还是来自Google Cloud的开发人员,华裔小哥Yufeng Guo。让我们在学习AI知识的同时来提高英语吧。
CDA字幕组目前在对该系列视频进行汉化,之后将继续连载,欢迎关注和支持~
附有中文字幕的视频如下:
AI Adventures-第二讲机器学习的7个步骤
针对不方便打开视频的小伙伴,CDA字幕组也贴心的整理了文字版本,如下:
从检测皮肤癌到给黄瓜分类,以及检测需要维修的电梯,机器学习赋予了计算机系统全新的能力。但它的背后到底是如何运作的呢?我们来看一个简单的例子,并借此来聊一聊运用机器学习从你的数据中得到信息的过程。
欢迎来到Cloud AI Adventures,我的名字叫Yufeng Guo。在这个节目里,我们会探索机器学习的艺术性、科学性以及相关工具。
假设我们要构建一个系统用来判断酒水是红酒还是啤酒。我们构建的这个问答系统称为模型,构建这个模型的过程称为训练。
机器学习中训练的目的是建立一个准确模型,在大多数情况下能够地准确回答问题。但是为了训练这个模型,我们需要收集用于训练的数据,这就是我们开始着手的地方。
红酒还是啤酒
我们通过装着红酒或啤酒的杯子来收集数据,酒水中包含了方方面面的数据信息。比如泡沫的数量、杯子的形状等。
但是出于我们的目的,只需要两个简单的信息。颜色,记录为光的波长;酒精含量,记录为百分比。希望仅仅通过这两个因素,我们能够分辨出这两种酒。从现在开始我们把这两点称为特征,颜色和酒精含量。
第一步就是去杂货店买各种不同的酒,以及用于测量的设备。光谱仪用来衡量颜色,比重计用来衡量酒精含量。
第1步:收集数据
一旦设备和酒都齐全了,就可以开始进行机器学习真正的第一步:收集数据。
这一步非常重要,因为你所收集数据的质量和数量将直接决定预测模型的效果。这个例子里 我们收集的数据就是,每种酒水的颜色和酒精含量。
这样我们就可以得出一个表格,关于每种酒的颜色和酒精含量,是啤酒还是红酒。这将成为我们的训练数据。
第2步:数据准备
经过几小时的测量,我们得到了训练数据,也许还喝了几杯。下面是机器学习的第二步:数据准备。我们将数据加载到合适的地方。进行处理从而用于机器学习的训练。
首先把所有数据放在一起,任意排列。不要让数据的顺序影响到学习的效果,排列并不是判断酒水种类的因素。换句话说,我们不想让序列中酒水的前后排列顺序,影响对酒水种类的判断。
这时也可以对数据进行相关可视化,帮助判断不同变量之间是否存在相应关系,以及是否存在数据失衡。
例如,如果我们收集的数据点中啤酒的数据要远多于红酒,那么训练出来的模型就会有严重的偏差,偏向把酒水都判断为啤酒。因为在大部分情况下这不会错。然而在实际情况中,模型会处理差不多数量的啤酒和红酒。意味着判断为啤酒一半情况都是错的。
我们还需要把数据分成两部分,用于训练模型的第一部分将是数据集的主要数据;第二部分用于评估训练模型的效果。
我们不想把训练用的数据用于评估,因为模型会记住这些问题。就像你不会把数学作业里的问题作为考试内容一样。
有时我们收集的数据需要其他方式的调整和处理。比如去重、标准化、误差修正等等。这些都在数据准备过程中进行。在这里我们不需要进一步的数据准备,所以让我们继续。
第3步:选择模型
我们工作流程的下一步是:选择模型。
在过去研究者和数据科学家,已经建立了很多模型。有些非常适用于图像数据;有些适用于文字、音乐这种序列数据;有的适用于数字数据,还有一些适用于文本数据。
这里我们只有两个特征:颜色和酒精含量,我们用一个小型线性模型就足够了。这个模型很简单但足以完成任务。
第4步:训练
现在进行下一步,这通常被认为是机器学习的主体部分:训练。
这一步我们将用数据,逐步提高模型预测酒水为红酒或啤酒的能力。这有点类似初次学开车,一开始初学者完全不知道踏板 把手、开关的作用,或者什么时候要用到。但是经过许多次的练习和纠错,就能成为有驾照的司机了。在开车一年之后就成为老司机了。在现实中驾驶提高了驾驶水平,磨练了技术。
针对酒水我们将从更小的范围着手。直线方程是y=m*x+b。x是输入,m是斜率,b是y轴截距,y是直线x位置上的值。我们能够调整和训练的值只有m和b,m是斜率,b是y轴截距。没有其他改变直线位置的方式,因为变量只有x输入和y输出。
机器学习中可能存在很多m,因为有很多特征。这些值通常构成矩阵,称为w即权重矩阵。类似的我们把b集合在一起,称为偏差。
训练过程包含对w和b赋予一些随机数初始化,以及尝试用这些值预测输出。可以想象一开始结果会很糟糕。但是我们可以将模型预测值与应该得出的值进行比较,进而调整w和b的值。这样下一次能够得出更准确的预测。
然后不断重复这个过程。每次更新权重和变量的迭代或周期称为一个训练步骤(training step)。看看这对我们的数据集具体意味着什么。
就像在数据中任意画一条线。随着训练的进展,这条线一步步移动,逐步接近区分红酒和啤酒的理想方式。
第5步:评估
一旦训练完成,就要进行评估,查看模型的效果。
这时就要用到之前预留的数据。评估让我们用训练中未使用的数据测试模型,这个指标让我们用新数据测试模型的性能,这可以代表模型在现实情况中的效果。
根据经验法则,我一般将训练和评估数据按照80/20或者70/30分配。大多情况下取决于原始源数据集的大小。如果数据很多可能就不需要太多的测试数据集。
第6步:参数调整
完成评估之后你想看看是否能够进一步提高训练。可以通过调整一部分参数,我们隐含假设有一些参数在训练时已经调整了。现在可以回头看看测试这些假设,试试这些值。
举个例子,有一个参数我们可以调整,即在训练中训练数据集运行了多少次。可以多次使用这些数据,从而提高精度。
另外一个参数是学习率,这规定了在每一步线移动的幅度。根据上一次训练步骤得到的信息,这些值都会影响模型的准确性以及训练时长。
对于更复杂的模型,初始条件也会大大影响训练结果。根据模型开始训练时,初始值是为0还是其他值的分布以及分布是什么,得出的结果会有区别。
可以看到训练的这一阶段,有很多因素值得考虑。重要的是要定义什么决定了模型的好坏。否则将花很长的时间调整参数。
这些参数通常被称为超参数。调整超参数的过程比起科学更像是艺术。这是实验性的过程,并很大程度上取决于具体的数据集、模型和训练过程。
一旦满意你的训练和超参数,通过评估步骤,终于可以做一些有用的事情了。
第7步:预测
机器学习用数据来解答问题,因此预测或推断就是解答问题的步骤,这是所有工作的重点,即实现机器学习价值的地方。
我们终于可以用模型,根据颜色和酒精含量,预测酒水为红酒还是啤酒。
总结
机器学习的强大在于,我们可以用模型来测定和区分红酒与啤酒,而不是通过人的主观判断或者经验。你可以把今天所讲的概念,拓展到适用这些规则的其他领域:
机器学习的7个步骤:
· 收集数据
· 准备数据
· 选择模型
· 训练
· 评估
· 超参数调整
· 预测
TensorFlow Playground
如果你想了解更多关于训练和参数的信息,可以访问TensorFlow Playground。这是完全基于浏览器的机器学习沙盒,你可以尝试不同的参数,用模拟数据进行训练。不用担心 ,你不会把网站崩掉。
下期预告
当然在之后的视频中,我们会遇到更多的步骤和区别。但这作为帮我们理解问题很好的基本框架,用通用的语言考虑每一步,并在以后更加深入。
在下一期的AI adventures,我们将用代码构建第一个真正的机器学习模型。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析实战中,我们经常会遇到“多指标冗余”的问题——比如分析企业经营状况时,需同时关注营收、利润、负债率、周转率等十 ...
2026-02-04在数据分析场景中,基准比是衡量指标表现、评估业务成效、对比个体/群体差异的核心工具,广泛应用于绩效评估、业务监控、竞品对 ...
2026-02-04业务数据分析是企业日常运营的核心支撑,其核心价值在于将零散的业务数据转化为可落地的业务洞察,破解运营痛点、优化业务流程、 ...
2026-02-04在信贷业务中,违约率是衡量信贷资产质量、把控信用风险、制定风控策略的核心指标,其统计分布特征直接决定了风险定价的合理性、 ...
2026-02-03在数字化业务迭代中,AB测试已成为验证产品优化、策略调整、运营活动效果的核心工具。但多数业务场景中,单纯的“AB组差异对比” ...
2026-02-03企业战略决策的科学性,决定了其长远发展的格局与竞争力。战略分析方法作为一套系统化、专业化的思维工具,为企业研判行业趋势、 ...
2026-02-03在统计调查与数据分析中,抽样方法分为简单随机抽样与复杂抽样两大类。简单随机抽样因样本均匀、计算简便,是基础的抽样方式,但 ...
2026-02-02在数据驱动企业发展的今天,“数据分析”已成为企业经营决策的核心支撑,但实践中,战略数据分析与业务数据分析两个概念常被混淆 ...
2026-02-02在数据驱动企业发展的今天,“数据分析”已成为企业经营决策的核心支撑,但实践中,战略数据分析与业务数据分析两个概念常被混淆 ...
2026-02-02B+树作为数据库索引的核心数据结构,其高效的查询、插入、删除性能,离不开节点间指针的合理设计。在日常学习和数据库开发中,很 ...
2026-01-30在数据库开发中,UUID(通用唯一识别码)是生成唯一主键、唯一标识的常用方式,其标准格式包含4个短横线(如550e8400-e29b-41d4- ...
2026-01-30商业数据分析的价值落地,离不开标准化、系统化的总体流程作为支撑;而CDA(Certified Data Analyst)数据分析师,作为经过系统 ...
2026-01-30在数据分析、质量控制、科研实验等场景中,数据波动性(离散程度)的精准衡量是判断数据可靠性、稳定性的核心环节。标准差(Stan ...
2026-01-29在数据分析、质量检测、科研实验等领域,判断数据间是否存在本质差异是核心需求,而t检验、F检验是实现这一目标的经典统计方法。 ...
2026-01-29统计制图(数据可视化)是数据分析的核心呈现载体,它将抽象的数据转化为直观的图表、图形,让数据规律、业务差异与潜在问题一目 ...
2026-01-29箱线图(Box Plot)作为数据分布可视化的核心工具,能清晰呈现数据的中位数、四分位数、异常值等关键统计特征,广泛应用于数据分 ...
2026-01-28在回归分析、机器学习建模等数据分析场景中,多重共线性是高频数据问题——当多个自变量间存在较强的线性关联时,会导致模型系数 ...
2026-01-28数据分析的价值落地,离不开科学方法的支撑。六种核心分析方法——描述性分析、诊断性分析、预测性分析、规范性分析、对比分析、 ...
2026-01-28在机器学习与数据分析领域,特征是连接数据与模型的核心载体,而特征重要性分析则是挖掘数据价值、优化模型性能、赋能业务决策的 ...
2026-01-27关联分析是数据挖掘领域中挖掘数据间潜在关联关系的经典方法,广泛应用于零售购物篮分析、电商推荐、用户行为路径挖掘等场景。而 ...
2026-01-27