因为问答任务通常是在“从证据中选答案”,而生成任务是在“从证据中生成一个新对象”。一旦多个 chunk 被同时塞进来,模型就很容易把局部模式、措辞、结构甚至错误一起拼接进产物里。
这类任务更容易翻车的原因通常有三点:
- 检索到的是相关材料,不等于这些材料适合直接拼接
- 多个 chunk 之间可能本来就有风格、结构或结论冲突
- 模型缺少明确的“借鉴边界”和“变换要求”
缓解方式通常是:减少同时注入的来源数量、先做来源归一化或摘要、把“参考”与“生成目标”明确分层。
有些场景下更适合把 RAG 放在前置分析环节,而不是直接作为生成输入原料。换句话说,RAG 可以先帮你找素材,但不一定适合直接当拼装材料喂给生成器。