Skip to content

怎样分别评测检索与回答 ​

RAG 回答正确可能只是模型参数记得;回答错误也可能是检索、组装或生成任一层。评测要保存中间证据。

四层指标 ​

层问题例子
corpus正确证据是否存在且有权限coverage
retrievalgold chunk 是否进入候选/前 krecall@k、MRR/nDCG
context最终给模型的证据是否充分、无冲突context precision/coverage
answer主张是否正确且被引用支持correctness、citation support

Recall@k 高不保证答案正确;答案正确也不证明使用了检索证据。

三个对照 ​

  • 无检索:测参数/Prompt 基线;
  • 实际检索:测端到端系统;
  • oracle context:手工给正确证据,测试生成上限。

实际检索差、oracle 好,优先修检索;oracle 也差,检查上下文理解、Prompt 和模型。

必须包含的困难集 ​

无答案、多个版本冲突、相似标题、表格信息、跨 chunk 组合、无权限文档和提示注入内容。只测简单单段命中会高估系统。

自测 ​

本节自测

先作答,再查看解释。记录只保存在当前浏览器。

完成 0 / 3
  1. 1判断题 最终答案正确可以证明检索链路正确。
  2. 2单选题 gold chunk 未进入 top-k,属于哪层?
  3. 3开放题 oracle context 对照能怎样定位问题?
这里的分数只用于本章自测,不代表真实任务能力。

打印版答案:1. 错;2. retrieval;3. 固定其他条件比较 oracle。

下一步 ​

RAG 只读外部知识;需要行动时进入工具调用协议。

最近更新