评测与安全失败注入实验
命题与环境
总体平均会隐藏失败原因;一个端到端 case 只有答案、证据和边界同时满足才通过。实验仅用 Python 标准库、固定 4 条样本,不写文件。
预期 q2 因答案错误失败,q4 即使文本答案正确,也因删除动作没有审批而失败。通过率为 0.5,但 4 条样本的区间很宽,提醒我们不能过度解读小样本。
反事实
- 把
q2answer 修正,确认只改变该 case; - 为
q4增加approved=True并修改边界函数,确认审批成为显式输入; - 增加“答案正确但 citation_ok=False”,证明事实与证据是两个维度;
- 扩大到 100 条,观察相同通过率的区间变窄。
通过条件
保留逐样本结果、总体指标、区间、错误类别和边界断言;任何修改都记录基线与唯一变量。
常见失败
- 只打印平均值;
- 高风险 case 被“回答正确”掩盖;
- 修改评测函数后没有版本化;
- 使用同一批样本调参又当最终测试;
- 区间公式正确但样本并非独立代表目标分布。