本文迁移自 mindcarver/91ai · 原始位置 docs/ai-architecture-decisions.md · 由 @阿新聊ai 整理。

AI 架构决策指南

更新日期：2026/05

你有一个 AI 需求，但不确定该用 RAG、Fine-tune、Agent 还是 Workflow。

这篇文章不解释每个方案是什么（那些内容在 Agent 学习路径 和 ML 系列 里），而是回答：面对具体需求，选哪个方案。

核心认知：这是两个独立决策

很多人把 RAG、Fine-tune、Agent、Workflow 放在一起比，但它们解决的是不同层面的问题：

决策 1（知识层）：模型不知道 X → 怎么让它知道？
  选项：直接 Prompt → RAG → Fine-tune

决策 2（执行层）：模型要做 X → 怎么让它做多步操作？
  选项：单次 API 调用 → Workflow → Agent

这两组决策独立且可组合。你可以用 RAG + 单次调用（知识问答），也可以用 RAG + Agent（研究型助手），还可以用 Fine-tune + Workflow（垂直业务流程）。

下面分别讲两个决策，最后给组合模式。

决策 1：知识层

问题：模型不知道它需要知道的信息。

决策树

你的信息是否可以放进 prompt？
├─ 是，且不超过几千 token → 直接 Prompt（写在 system message 里）
├─ 是，但每次不同 → RAG（按需检索塞进 prompt）
└─ 否，信息量太大或需要模型内化 → Fine-tune

信息是否频繁变化？
├─ 每天都变 → RAG（改数据源，不改模型）
├─ 每月更新 → RAG 或定期 Fine-tune
└─ 基本不变 → Fine-tune 或 Prompt 都可以

你需要模型改变行为风格，而不只是增加知识吗？
├─ 只需要增加事实 → RAG
├─ 需要改变输出格式/语气/推理方式 → Fine-tune
└─ 都需要 → Fine-tune + RAG

三个选项的判断标准

什么时候用 RAG

• ✅ 企业知识库问答（文档量大、需要引用来源）
• ✅ 产品文档问答（文档频繁更新）
• ✅ 客服机器人（需要基于最新政策回答）
• ✅ 代码库问答（需要检索相关代码片段）
• ❌ 需要模型内化复杂推理模式（Fine-tune 更好）
• ❌ 信息量小到能直接放 prompt（直接写 Prompt）

什么时候用 Fine-tune

• ✅ 需要模型输出特定格式（JSON、SQL、特定标记语言）
• ✅ 需要特定领域术语和推理方式（医疗、法律、金融）
• ✅ 需要减少 prompt 长度来降成本和延迟（知识压缩进模型）
• ✅ 需要特定的语气和风格（品牌文案、客服话术）
• ❌ 信息频繁变化（每次改都要重训，RAG 更合适）
• ❌ 没有足够的高质量训练数据（至少需要几百到几千条）
• ❌ 只需要查事实（RAG 足够，不需要模型内化）

什么时候直接写 Prompt

• ✅ 少量规则和指令（不超过几千 token）
• ✅ 快速验证想法（零成本）
• ✅ 结构化输出格式（用 few-shot 示例）
• ❌ 知识量超过 context window
• ❌ 需要引用来源（Prompt 无法提供外部引用）

真实案例

决策 2：执行层

问题：模型需要做多步操作，不只是回答一个问题。

决策树

任务需要几步？
├─ 1 步（问 → 答）→ 单次 API 调用
├─ 2-5 步，步骤固定 → Workflow
└─ 步骤不确定，需要模型自己判断 → Agent

步骤是否可以预先定义？
├─ 可以明确列出所有步骤 → Workflow
├─ 大部分步骤已知，少数需要判断 → Workflow + 条件分支
└─ 步骤取决于中间结果，无法预知 → Agent

错误处理需要什么级别？
├─ 出错就停，人工处理 → 单次调用
├─ 出错重试或走备选路径 → Workflow
└─ 出错需要模型自己分析原因并调整策略 → Agent

三个选项的判断标准

什么时候用 Workflow

• ✅ 流程固定、步骤可枚举（审批、数据 ETL、内容审核流水线）
• ✅ 需要人工确认节点（高风险操作前的审批）
• ✅ 需要条件分支（if A then X, if B then Y）
• ✅ 需要重试和错误处理（调用外部 API 失败后自动重试）
• ❌ 步骤取决于中间结果（Agent 更灵活）
• ❌ 任务太简单，一步就能完成（不需要 Workflow）

Workflow 工具： LangGraph、n8n、Dify

什么时候用 Agent

• ✅ 任务路径开放（"帮我调研 X"→ 需要搜索、阅读、判断、汇总）
• ✅ 需要动态选择工具（根据问题决定用搜索还是数据库查询还是代码执行）
• ✅ 需要从错误中恢复（失败后自己换策略）
• ✅ 多步骤且步骤不可预知（调试、研究、探索性分析）
• ❌ 步骤可以预先定义（Workflow 更可控、更便宜）
• ❌ 没有评测体系（Agent 没有评测就是在盲飞）
• ❌ 没有成本上限（Agent 可能循环 100 步还没完成）

Agent 学习路径： → Agent Learning Path

什么时候单次调用就够了

• ✅ 问答、翻译、总结、改写
• ✅ 结构化输出（提取信息、分类、打标签）
• ✅ 代码生成（单文件、单函数）
• ❌ 需要调用外部工具（至少要 Workflow）
• ❌ 需要多步推理且步骤间有依赖（Workflow 或 Agent）

真实案例

决策 3：组合模式

两个决策组合起来，有 6 种常见模式：

选型原则：从简单开始，只在必要时升级。

第 1 步：能不能用 Prompt + 单次调用解决？
  → 能 → 做。这是 80% 的场景。

第 2 步：信息不够？加 RAG。
  → 不要一上来就 RAG，先试把关键信息写进 prompt。

第 3 步：步骤不够？加 Workflow。
  → 不要一上来就 Agent，先试 Workflow。

第 4 步：还不够？Fine-tune 或 Agent。
  → 这两步投入大，先确认前几步真的不够。

常见错误

从这里去哪里

• 想系统学 Agent → Agent Learning Path
• 想深入 RAG → Agent 学习路径的 Stage 6: RAG for Agent
• 想深入 Workflow → Agent 学习路径的 Stage 3: Workflow
• 想深入 Fine-tune → 预训练与微调范式
• 想全局了解 → AI Knowledge Map