问答题【128/1935】RAG 的整体架构是什么?

难度:
2026-06-08 创建
想动手验证一下?打开练习场,写代码、看结果。在线练习

参考答案:

RAG 的整体架构可以理解为:先把外部知识变成可检索的结构化索引,再在用户提问时检索相关知识,把这些知识和问题一起交给大模型生成答案。

通常会分成两条链路:知识入库链路和在线问答链路。

1flowchart LR 2 A[文档/知识库/网页/API 数据] --> B[清洗与解析] 3 B --> C[切分 Chunk] 4 C --> D[Embedding 向量化] 5 D --> E[向量数据库 / 搜索引擎] 6 7 U[用户问题] --> Q[Query 改写 / 意图识别] 8 Q --> R[向量检索 / 关键词检索] 9 E --> R 10 R --> S[重排 Rerank] 11 S --> P[Prompt 组装] 12 P --> L[LLM 生成] 13 L --> O[答案 / 引用 / 后处理]

知识入库链路主要解决“让知识可以被模型找到”的问题。系统会从文档、网页、数据库、接口等来源拉取内容,做清洗、去噪、格式转换,然后按语义或长度切分成多个 chunk。每个 chunk 会通过 Embedding 模型转成向量,最后存入向量数据库,比如 Milvus、Pinecone、Weaviate、pgvector,也可能同时存入 Elasticsearch 做关键词检索。

在线问答链路主要解决“怎么把最相关的知识交给模型”的问题。用户提问后,系统可能先做 query 改写、意图识别、关键词扩展,接着到向量库或搜索引擎中召回候选片段。召回结果通常还会经过 rerank 模型重排,过滤掉相似但无关的内容。然后系统把用户问题、检索到的上下文、业务规则、输出格式要求一起组装成 Prompt,交给大模型生成最终答案。

在生产环境里,RAG 不只是“向量库加大模型”。还需要有权限控制,避免检索到用户无权访问的内容;需要引用来源,方便用户验证答案;需要缓存和限流,控制响应速度与成本;需要日志、评测和反馈机制,用来监控命中率、幻觉率、答案质量和用户满意度。

从前端应用视角看,前端通常负责问题输入、会话状态、流式输出、引用展示、反馈收集和错误态处理;真正的检索、Prompt 组装和模型调用一般放在后端或 AI 中台完成,这样更容易控制权限、成本和安全边界。

最近更新时间:2026-11-17

赞赏支持

题库维护不易,您的支持就是我们最大的动力!