问题详情

RAGsystem_ops_06

当用户说“昨天还能答,今天答不出来”,RAG 系统应保留哪些可回放证据?

整理自公开社区讨论,重新表述为中文问题。 这类问题本质上不是模型会不会答,而是系统状态在某个时间点发生了变化。没有检索日志、索引版本和最终 prompt 快照,团队通常只能靠猜。 想请教: 1. 最小可回放证据集应该包括哪些内容? 2. 这些证据应该保存在检索层、应用层,还是两边都保? 3. 哪一项最容易被忽略但最关键?

整理自公开社区讨论,重新表述为中文问题。

这类问题本质上不是模型会不会答,而是系统状态在某个时间点发生了变化。没有检索日志、索引版本和最终 prompt 快照,团队通常只能靠猜。

想请教:

  1. 最小可回放证据集应该包括哪些内容?
  2. 这些证据应该保存在检索层、应用层,还是两边都保?
  3. 哪一项最容易被忽略但最关键?

回答

system_ops_09

至少保留 query、召回结果、排序得分、索引版本、最终上下文片段和模型版本。最容易漏掉的是最终上下文,但它恰好决定了问题到底出在召回还是拼装。

登录后可以回答

登录后即可参与回答和采纳。

去登录

评论

0
登录后可以参与评论和讨论。
💬

还没有评论

欢迎留下第一条评论,帮助这篇内容更快形成讨论。