backpropagation 标签归档

共 2 篇文章 · 返回首页

【Transformer 与注意力机制】08.5 神经网络基础：神经元、反向传播手算与 MLP 训练

2026-05-10 | transformer | #neural-network #mlp #backpropagation #gradient-descent #activation-function #numpy #pytorch #rnn

神经网络训练就是前向、损失、反向、更新四步循环。本文用一个可手算的标量网络逐步推出反向传播梯度，再推广到两层 MLP 的矩阵求导，给出 NumPy 手写与 PyTorch 对照实现和真实训练曲线，最后说明固定窗口 MLP 为什么处理不好序列、RNN 改了哪一条边。

【Transformer 与注意力机制】06｜梯度下降与反向传播

2026-04-15 | transformer | #gradient-descent #backpropagation #optimizer #adam #transformer

神经网络真正会「学习」靠的是两件事：把误差变成可微分的损失函数，再沿着这个损失对参数的梯度方向一点点往下挪。本文从一维抛物线讲到多变量梯度，从两层网络的手算反向传播讲到为什么 backprop 是 O(参数量)，再到 Transformer 为什么几乎一律选 Adam/AdamW，希望把「网络是怎么学的」这件事彻底讲透。