这个问题的关键不是“刷得越快越好”,而是把新鲜度需求和数据类型对齐。
我通常会把知识源分成三层:慢变文档、中频更新内容、高频状态数据。前两类可以继续走 RAG,但像库存、工单状态、价格、权限这类高频状态,很多时候更应该在回答时直查源系统,而不是先 embedding 再等刷新。
务实架构通常是:
- 文档知识走 RAG
- 实时状态走 API 或数据库查询
- 生成阶段再把两者合并
如果要避免新旧版本同时命中,至少要补版本号、生效时间、失效标记和检索优先级过滤。
所以刷新粒度没有统一答案,它本质上是“知识新鲜度要求 + 真值来源”的工程折中。