参考资料
只基于证据回答的提示词
RAG Formation 的课程内容已完成;这份资料可用于自主学习和练习。
一句话规则
提示词无法补回缺失的来源;应先检查检索和上下文,再判断是否是生成环节的问题。
核心术语
| 术语 | 含义 |
|---|---|
| 有依据的生成(Grounded generation) | 根据提供的证据生成答案,而不是依赖模型的通用知识。 |
| 指令层级(Instruction hierarchy) | 当证据不完整或相互冲突时,系统和开发者规则决定模型可以做什么。 |
| 提示词契约(Prompt contract) | 一份可测试的约定,规定答案格式、拒答行为、引用和冲突处理。 |
证据卡
| 事项 | 记录 | 不要声称 |
|---|---|---|
| 基线 | 命令、配置和观测结果 | 基线就是目标。 |
| 改动 | 一个假设或决策 | 多个因素同时变化时,仍能确定是什么导致了结果。 |
| 指标 | 针对一个失败,记录可用证据、不安全行为、拟议指令以及要重跑的评估类别。 | 一个指标就能说明质量的全部。 |
| 安全 | 一个失败案例和一个回归案例 | 流畅的回答就能证明系统可靠。 |
本地命令
cd demo
python3 eval.py run --mode answer --workspace meridian_demo --limit 10 --tag lesson-10-prompt-baseline产物: 一条有版本号的提示词规则,涵盖证据使用、事实缺失、引用和拒答行为。