深度学习入门课程学习笔记06 反向传播
反向传播：
咱们在之前的课程讲了一系列的前向传播的知识点，前向传播也就是从输入到最终计算出LOSS值这一系列过程，那么这节课咱们要讲一个更重要的知识点也就是反向传播。反向传播最直观的意思就是说咱们要从LOSS值入手一步步的往回看，看什么呢？就是要看咱们的每一个权重参数对最终的LOSS值做了多大的贡献。
最简单的小例子
首先咱们用一个最简单的小例子来看一下反向传播是怎么一回事，如上图最终的LOSS值等于-12下面咱们就要算对于X,Y,Z三个输入来说分别对于LOSS值做了多大的贡献，首先咱们用q=x+y，f=qz分别表示中间的计算过程。那么咱们要算什么呢？反向传播最终要算的就是最终的LOSS值对X,Y,Z三个输入的偏导数，这个偏导数该怎么算呢？在这里我们遵循一个链式法则也就是对于输入来说他对于最终LOSS的贡献等于他前面传播下来的梯度再乘以自身的梯度。
链式法则
这里就是梯度传播的计算方式，我们要算X和Y对于最终LOSS的贡献（换句话说就是反向传播到X和Y的梯度的大小）要先算前面一层传播到X和Y的梯度再去计算X和Y自身的梯度。
稍难的例子
咱们再来看一个稍微难一些的例子，上图表示的是咱们之前说过的这个SIGMOID函数，咱们接下来要算的就是这个函数梯度传播的过程，导数计算的公式我已经写在图上了，咱们只需要根据导数的计算方式一步步的从最终的LOSS值往回算就可以了，下面浅红色的值就是梯度传播的值。
这里我们可以看到梯度传播可以是一步一步的传播也可以一步传播一整块，这一整块我们把它当做是一个整体，相应的就要计算这一整个块的梯度了，也就是直接对SIGMOID函数求导。
梯度传播的门
这里咱们所说的门就是一个单位区域，我们可以从图中看出来咱们在计算梯度传播的过程中无外乎就是这几种门的操作，每种门也都有它各自的特性，他们的特性是怎么得出的呢？这里就不带大家一步步算了，咱们可以动动笔算一下梯度的传播然后就知道为什么这些门有不同的特性了。
反向传播就先说到这里了，这里只是很简单的谈了一下反向传播具体的计算过程如果同学们还是不太理解建议看一下原始课程会有很详细的推导。
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
数据收集是数据分析、数据挖掘与数字化运营的源头工作，数据收集的完整性、准确性、时效性直接决定后续数据分析结果的可信度与业 ...
2026-09-21箱线图是数据分析中用于识别数据分布、判断离散程度、筛查异常值的核心图表。相比于直方图、趋势图，箱线图可以精准区分正常数据 ...
2026-09-21 很多数据分析师精通Excel函数和数据透视表，但当被问到“数据从哪里来”“表和视图有什么区别”“数据库管理系统和SQL是什么 ...
2026-09-21在数据库数据查询与数据分析工作中，日期时间是最常用的数据类型之一。原始数据库中存储的日期格式多为标准时间戳、年月日时分秒 ...
2026-09-20在时序数据分析中，增长率是衡量数据涨跌幅度、研判发展趋势、识别周期波动的核心指标，主要分为环比增长率与同比增长率。传统Ex ...
2026-09-20 很多企业团队并非缺乏指标，而是陷入“指标失控”：仪表盘上堆满实时跳动的数据，却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-09-20CDA数据分析师 出品 作者：李诗怡 STP模型（营销战略三步法） 定义： 现代营销战略核心框架，通过市场细分（S）、目标市场选择（ ...
2026-09-18在互联网产品迭代、运营优化、界面改版与策略升级过程中，主观经验判断容易造成决策偏差、盲目改版、资源浪费等问题。AB实验（AB ...
2026-09-18 很多企业并不缺少指标，缺少的是让指标“串起来、动起来、用起来”的体系。零散指标像散落一地的珠子，指标体系则是那根把珠 ...
2026-09-18在电商行业精细化运营时代，流量红利逐步消退，粗放式投流、广撒网营销模式已无法适配市场竞争需求。依托用户点击、加购、收藏、 ...
2026-09-17在数据可视化与数据分析工作中，图表是将零散数据转化为直观业务规律的核心工具。不同图表拥有专属的数据逻辑与分析维度，能够从 ...
2026-09-17 很多数据分析师每天盯着GMV、DAU、转化率，但当被问到“哪些指标在所有行业都适用”“哪些指标只对电商有意义”“二者如何搭 ...
2026-09-17在企业数字化运营、业务流程管理与精细化管控体系中，流程运营是串联各项业务环节、保障工作落地、提升运转效率的核心载体。无论 ...
2026-09-16在数据分析与统计学研究中，卡方检验是分析分类变量关联性与差异性的重要方法，广泛应用于市场调研、行为统计、社会调查、商业数 ...
2026-09-16 很多数据分析师每天盯着GMV、DAU、转化率，但当被问到“什么是指标”“指标和维度有什么区别”“如何定义指标值的计算规则和 ...
2026-09-16CDA数据分析师 出品 作者：李诗怡 定义： 用户增长核心分析框架，刻画用户从接触产品到自发推荐的全生命周期，五个递进环节构建 ...
2026-09-15在数字化营销与精细化用户运营时代，企业传统的广撒网式营销模式成本高、转化率低，已无法适配精准商业竞争需求。客户画像作为大 ...
2026-09-15 很多数据分析师精通描述性统计，能熟练计算均值、中位数、标准差，但当被问到“用500个样本如何推断10万用户的真实满意度” ...
2026-09-15在MySQL数据库数据查询与数据分析中，GROUP BY与ORDER BY是使用频率极高的核心关键字。二者语法结构相似，常搭配使用，但核心功 ...
2026-09-14随着数字化治理、智慧运营、数字孪生技术的普及，数字体征成为衡量业务状态、系统运行、城市治理与企业经营健康度的核心体系。数 ...
2026-09-14
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
