我要投稿

构建生产级RAG系统注意事项

发布日期：2025-03-25 12:03:25 浏览次数： 2705

作者：PyTorch研习社

微信搜一搜，关注“PyTorch研习社”

构建生产级 RAG（检索增强生成）AI 系统是一个艰难的任务。

?是 RAG 系统中的一些关键组件，你需要对它们进行管理和持续优化，以实现预期的效果（不要错过最后的 H 部分）：

检索（Retrieval）

F) 数据切分（Chunking） - 如何对用于外部上下文的数据进行切分？

小块 vs. 大块。
滑动窗口（sliding window）或滚动窗口（tumbling window）进行切分。
在搜索时是检索父级或关联块，还是仅使用原始检索数据？

C) 选择嵌入模型（Choosing the embedding model）

用于将数据嵌入和查询外部上下文的模型选择。
考虑上下文化嵌入（Contextual embeddings）。

D) 向量数据库（Vector Database）

选择哪种数据库。
部署位置。
需要存储哪些元数据以便与嵌入向量关联。
索引策略。

E) 向量搜索（Vector Search）

相似度度量的选择。
查询路径的选择：先基于元数据还是先使用 ANN（近似最近邻）搜索？
采用混合搜索（Hybrid Search）。

G) 规则与启发式（Heuristics） - 在检索过程中应用的业务规则。

时间权重（Time importance）。
重新排序（Reranking）。
处理重复上下文（多样性排序）。
来源检索（Source retrieval）。
条件性文档预处理。

生成（Generation）

A) LLM 选择（Choosing the right Large Language Model）

✅ 随着 LLM 的发展，这个问题变得越来越简单。当前，开源和专有 LLM 的性能正在趋同，主要的选择在于：

使用专有模型（Proprietary model）。
自行托管（Self-hosting）。

B) Prompt 设计（Prompt Engineering）

即使有了外部上下文，仍然需要精心设计 Prompt：

使系统生成符合预期的输出。
预防越狱（Jailbreak）场景。

别忘了一个容易被忽略的部分

H) 观察、评估、监控和安全性（Observing, Evaluating, Monitoring and Securing）

确保生产环境下的应用运行稳定、安全，并能持续优化！

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-06-25

5.2k星星爆火开源！你的知识库迎来了史诗级更新，「像素级原生搜索」来了

2026-06-25

1.5K Star！网页提取神器 webclaw：让 AI 精准抓取网页核心内容！

2026-06-25

聊一聊检索即推理：基于LLM-Wiki的自演化智能体原生检索

2026-06-24

企业级 Agent 最缺的不是聪明，是"不敢编"——企查查智能体数据平台的三层反幻觉工程

2026-06-24

别再怪向量检索不行！90% RAG 检索拉胯，都是关键词提取在拖后腿

2026-06-24

别再把 RAG 当搜索框了：Bayer 这套 Agentic RAG，把上下文、反思、恢复和评测全焊进生产系统

2026-06-24

上生产GraphRAG的重活，SAG请外援解决了

2026-06-23

RAG之后，知识库开始自己长大

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

全网爆火的大模型AI知识库，保姆级教程来了

2026-04-06

Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？

2026-04-27

2026 年做搜索就是做 Agent Memory

2026-04-23

RAG进化了，深扒Claude Code源码中RAG高级技巧

2026-04-02

OpenDataLoader：PDF文档提取的一站式方案

2026-03-31

Codeindex · 让大模型更好地理解你的代码

2026-04-20

阿里云百炼「记忆库」正式上线，让龙虾真正记住你！

2026-04-09

YC CEO 的 AI 记住了 3000 个人

2026-04-12

专题解读 | 可更新的检索增强知识库发展方向及进展

2026-04-22

AI 答疑助手优化实践：从 RAG 到 LightRAG 的全链路升级

2026-04-10

大家都在问

谷歌发布OKF（Open Knowledge Format）规范，它与Karpathy的LLM-wiki是什么关系？

2026-06-23

RAG 的尽头，是 SQL？

2026-06-23

RAG运维如何用好Loop Engineering？Milvus 3.0 对它有什么价值？

2026-06-15

如何构建一个更“好”的知识库？

2026-06-10

企业 RAG 知识库落地，应如何设计实现？

2026-06-10

AIOps探索：给不能联网的客户做一个AI运维助手到底有多难？

2026-05-20

有多少人把Agent与RAG的检索策略，简化成了 if-else？

2026-05-18

到底是谁会相信RAG已死啊？

2026-05-11

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件 FDE AI+医疗 MaxKB Palantir Glean Openclaw