第 5 章复习与验收

综合自测

本节自测

先作答，再查看解释。记录只保存在当前浏览器。

完成 0 / 6

1. 1判断题 先随机切分、再在每个 split 内去重可以保证同簇不跨集合。

   正确错误
2. 2单选题 哪一步真正更新模型参数？

   backwardoptimizer.stepzero_grad
3. 3判断题 SFT 中 Prompt 不计 loss 就表示模型看不到 Prompt。

   正确错误
4. 4填空题 1024×1024 层使用 rank=8 的 LoRA，A/B 共多少参数？

   你的答案
5. 5单选题 合法偏好对首先必须共享什么？

   相同 Prompt相同回答不同 tokenizer
6. 6开放题 如何证明一个新 SFT checkpoint 比基线更好？

   先写下自己的回答

这里的分数只用于本章自测，不代表真实任务能力。

实作任务

给定 1000 条对话和 200 条偏好对：

1. 设计 manifest 与按来源/题目簇切分；
2. 画出一条 messages 经 template 到 token/labels/mask；
3. 设计单 batch 过拟合与 checkpoint 恢复测试；
4. 比较全参 SFT 与 rank-8 LoRA 的可训练状态；
5. 为偏好数据写 rubric、标签一致性与长度分层；
6. 运行审计实验并提交三项修改结果。

评分

项目	分值
数据谱系与无泄漏切分	2
token/模板/loss mask	2
训练与恢复证据	2
LoRA 参数边界	2
偏好目标与回归评测	2
实验断言	2

总分 10/12 以上且实验通过视为合格。薄弱项返回速查页定位课程。完成后进入推理、评测与安全。