第 0 章复习与验收

第 0 章交互自测

先作答，再查看解释。记录只保存在当前浏览器。

完成 0 / 5

1. 1判断题 reshape 会重新计算张量中的数值。

   正确错误
2. 2单选题 [5,7] @ [7,3] 的输出 shape 是什么？

   [5,3][7,7][5,7][3,5]
3. 3填空题 把 [2,5,12] 拆成 3 个头，每头维度 D 等于多少？

   你的答案
4. 4填空题 L=(3w-9)²，在 w=2 时 dL/dw 等于多少？

   你的答案
5. 5开放题 解释为什么训练 loss 下降不等于模型已经泛化。

   先写下自己的回答

这里的分数只用于本章自测，不代表真实任务能力。

不查资料回答

1. [4,6] @ [6,3] 为什么输出 [4,3]？C[2,1] 从哪里来？
2. [B,T,C] → [B,T,H,D] 的必要条件和保持不变的量是什么？
3. 为什么 transpose 后数值没变，却可能让后续矩阵乘法成立？
4. 自动微分替你做了什么，又没有替你做什么？
5. 训练 loss 下降为什么不等于泛化变好？

推导与调试任务

• 手算 [[1,2]] @ [[3],[4]]。
• 把 [2,5,12] 拆成 3 个头并写出转置后的 shape。
• 对 $L=(3w-9{)}^2$ 在 w=2 处求梯度并以 η=0.05 更新。
• 诊断：某代码把 [B,T,H,D] 直接与 [B,T,H,D] 相乘后得到可运行结果。它为何可能语义错误？

答案与评分

• 纸笔题：结果 11；拆头 [2,5,3,4]，转置 [2,3,5,4]；梯度 -18，新参数 2.9。
• 调试题：attention 需要明确 query/key 矩阵轴，通常先形成 [B,H,T,D] @ [B,H,D,T]；“能广播”不等于语义正确。
• 满分 10：五个口答各 1 分，三个推导各 1 分，调试解释 2 分。8 分以上且实验通过可进入下一章。

低于 8 分时按错误回看：矩阵乘法、张量形状或优化循环。建议 1 天后不看答案重做一次，7 天后再抽查 shape 与梯度题。