本文迁移自 mindcarver/91ai · 原始位置
docs/paths/backend.md· 由 @阿新聊ai 整理。
后端学习路径
面向后端工程师、平台工程师、全栈偏后端开发者。
核心目标:构建可靠、可观测、可评测的 AI 应用后端,而不是只封装一次模型调用。
推荐路线
| 阶段 | 学什么 | 产出 |
|---|---|---|
| 1 | 模型 API | 统一模型调用、超时、重试、错误处理、成本日志 |
| 2 | 结构化输出 | JSON schema、校验、降级和失败处理 |
| 3 | 工具调用 | 工具 schema、参数校验、幂等性、权限 |
| 4 | RAG | 文档切分、embedding、检索、rerank、引用 |
| 5 | 工作流 | 多步骤流程、人工确认、状态机、回滚 |
| 6 | Agent | 受控 agent loop、最大步数、最大成本、停止条件 |
| 7 | 评测 | 用例集、trace、回归评测、失败分类 |
| 8 | 生产化 | tracing、replay、监控、限流、fallback |
先看这些专题
第一个项目
做一个 文档 RAG 服务。
它应该包含:
- 文档导入。
- 检索与引用。
- 检索失败处理。
- API 日志。
- 简单评测集。
- 成本和延迟记录。
推荐工具方向
| 方向 | 工具类型 |
|---|---|
| 模型调用 | OpenAI、Anthropic、Gemini、本地模型网关 |
| RAG | LlamaIndex、LangChain、向量数据库、rerank |
| Agent / Workflow | OpenAI Agents SDK、LangGraph、CrewAI、AutoGen |
| 评测 | Promptfoo、DeepEval、LangSmith、agent eval |
| 观测 | tracing、structured logs、cost dashboard |
避坑
- 不要把向量检索当成万能长期记忆。
- 不要没有引用就声称回答基于资料。
- 不要让 Agent 拥有过大的写权限。
- 不要没有回归评测就替换模型、prompt 或检索策略。
评论
登录后可以参与评论和讨论。
💬
还没有评论
欢迎留下第一条评论,帮助这篇内容更快形成讨论。