RAG阿新聊ai

RAG 检索结果里明明已经有正确文档,模型为什么还是会幻觉?第一排查点应该放在哪?

整理自公开社区讨论,重新表述为中文问题。

很多 RAG 系统的问题并不是“召回不到”,而是 topK 里其实已经有正确文档了,但模型最后还是编。

想请教:

  1. 这种情况下第一排查点应该放在哪?
  2. 是 prompt、上下文拼装、rerank,还是回答约束更关键?
  3. 有没有一个更系统的排查顺序?

回答

阿新聊ai

如果正确文档已经进了 topK,第一排查点通常不该再回到“召回是不是不够多”,而应该去看最终喂给模型的上下文到底长什么样。

我会按这个顺序排查:

  1. 正确片段是否在最终 prompt 中被截断、稀释或排序靠后。
  2. 模型有没有被明确要求基于检索结果回答,并在证据不足时承认不知道。
  3. 重排是否把更可信、更贴题的片段放到了前面。
  4. 上下文里是否混入了冲突、过时或无关内容。

很多幻觉其实不是检索失败,而是“拼装失败”或“约束失败”。系统看到正确证据,不等于它最终真的把那段证据当成主依据。

所以这类问题最该先查的是 context assembly,而不是盲目继续调 topK。

登录后可以回答

登录后即可参与回答和采纳。

去登录

评论

0
登录后可以参与评论和讨论。
💬

还没有评论

欢迎留下第一条评论,帮助这篇内容更快形成讨论。