RAG 流水线里唯一真正的成本调节杆：--graph-topk｜第 14 课

在 RAG Formation 第 14 课中，我们审视可靠性背后的数字——响应时间、词元成本、图谱调用，以及追踪这些指标所需的运营可见性。

一个正确的答案，如果速度很慢、成本很高，或者出故障时无法解释，其实还没有完成——而这里有一个直接写进测量方式的陷阱。运行这门课自己的评估，并选择仅检索模式，汇总报告会给出中位数。它永远不会给出第九十五百分位——这个数字只有在答案模式下运行时才会出现。漏掉这一点，你就会以为这个工具无法显示拖垮试点的精确尾部延迟。

另一个真正的调节杆，不是某个听起来应该存在、实际上却不存在的成本开关——你无法彻底关闭图谱信号。你能做的是降低它搜索的深度。只调低这一个数字，就能在图谱信号深度和延迟之间做出可测量的交换，而不是猜测一个没有人记录过的设置。

课程网站：
https://shenyi.dev/fr/ai-lab/rag-formation/lessons/0014-latency-cost-and-observability

GitHub 仓库：
https://github.com/scheffershen/yt-rag-formation/

时间戳

• 00:00— 第四阶段回顾：从优雅降级到可靠性数字
• 00:21— 标题：延迟、成本与可观测性
• 00:33— 测量陷阱：仅检索模式与答案模式下的 p95
• 00:49— 真正的调节杆：--graph-topk 深度控制
• 01:07— 总结：只测量你真正能测量的东西

#RAG #延迟 #可观测性 #p95 #AI工程 #RAGFormation