第 2 章复习与验收

第 2 章交互自测

先作答，再查看解释。记录只保存在当前浏览器。

完成 0 / 5

1. 1判断题 堆叠多个不带激活函数的线性层，可以形成非线性决策边界。

   正确错误
2. 2单选题 X[16,32] 经过 Linear(32,64) 后的激活 shape 是什么？

   [16,32][32,64][16,64][64,16]
3. 3填空题 Linear(32,64) 包含 bias 时共有多少个参数？

   你的答案
4. 4单选题 同一中间量经过两条分支影响 loss，反向传播汇合时怎样处理梯度？

   取最大值取平均值将各路径贡献相加只保留第一条路径
5. 5开放题 模型训练 loss 不降且第一层 grad=None，你会怎样定位？

   先写下自己的回答

这里的分数只用于本章自测，不代表真实任务能力。

不查资料回答

1. 为什么两个不带激活的 Linear 仍是一个线性变换？
2. 参数和激活在生命周期、shape 和训练中的角色有何不同？
3. 计算图分支汇合时，梯度为何相加？
4. residual、normalization 和初始化各自主要保护什么？
5. 单 batch 过拟合成功证明了什么、没有证明什么？

推导与调试

• X[16,32] → Linear(32,64) → ReLU → Linear(64,10)：写每步 shape 和参数量。
• 对 a=wx, L=a²+3a 推导 dL/dw。
• 某模型 loss 不降且第一层 grad=None：列出至少三条检查路径。
• 某模型训练集 100%、验证集 55%：为何不能只增加训练步数？

答案要点与评分

shape 为 [16,64] → [16,64] → [16,10]；参数量 32×64+64 + 64×10+10 = 2762。梯度为 (2wx+3)x。断图、未调用 backward、参数未参与 loss、误用 no-grad 是典型检查点。

每个口答 1 分、shape/参数题 2 分、梯度题 1 分、两道诊断各 1 分，共 10 分；8 分且实验通过为合格。薄弱项回看MLP或反向传播，一周后重做诊断题。