系统搭好了，文档也处理好了，但测试过程中遇到了一些问题。
下面是我在做RAG智能客服项目中遇到的一些坑+可落地的改进方案，仅供参考。
✅ 1. 错别字 / 拼写错误无法召回
问题： 用户输错一个字：“鼠标蓝呀连接不上” → 没有召回。
解决方案：
- 引入拼写纠错（TextFlow / pycorrector / pypinyin）；
✅ 2. 模糊问题，模型主动追问容易过度，问了产品根本没有的功能
问题： 用户问了一个问题“无线模式咋样？”，模型反问：“是否支持蓝牙5.3 LE通道隔离？”实际上这个设备根本不支持蓝牙！
解决方案：
- 检索后 + Prompt中加入提示：只基于命中信息生成，不编造新功能。
✅ 3. 用户多轮对话提问不完整，模型无法理解上下文
问题： 用户说“那我这怎么又断连了？”模型不知道“这”是谁，直接答错。
解决方案：
✅ 4. 同一个问题的多种说法难以统一召回
问题： “断连 / 断触 / 失灵 / 没反应”指的是同一问题，但命中不了。
解决方案：
- 对表达做语义合并 → 多表达对一向量 → 聚类增强；
✅ 5. 反问问题容易检索不到
问题： 用户问：“SP7Pro支持蓝牙吗？” → 因为设备根本不支持蓝牙，知识库中也没提，导致检索不到，模型答不上。
解决方案：
- 在知识库中明确补全“不支持的信息”（例如：“SP7Pro不支持蓝牙连接功能”）；
- 没有提及的功能 = 模型不确定，容易出错 → 主动补全缺失描述；
✅ 6. 模型无法判断：知识库中没查到，是“功能不存在”还是“文档没写”？
问题： 用户问了个功能，知识库没返回相关内容，模型该怎么判断？
解决方案：
- 在每个产品文档中加入“功能支持矩阵”或能力标注段落；
- Prompt中加入提示：若知识库中未命中，但文档明确无此功能，请直接说明“不支持”；
- 模型判断“缺失 vs 不支持”不可靠，必须靠结构化内容明确标记；
✅ 7. 图像输入支持缺失，用户上传照片无法理解
问题： 用户上传了一张“个别按键灯不亮”的设备照片，模型无法识别和回答。
解决方案：
- 用图像caption模型生成语义描述（如BLIP2 / Qwen-VL）；
✅ 8. 触发RAG检索的判断不准确，闲聊时也去查文档
问题： 用户说“谢谢你”，系统还跑去向量检索浪费时间…
解决方案：
- 常见闲聊/操作类表达走模板回复或短语库或闲聊智能体；
✅ 9. 系统响应不“丝滑”，一问一答显得机械生硬
问题： 模型直接甩一段FAQ内容，用户体验像机器人。
解决方案：
- 增加“自然语言过渡模板” → 把命中内容转成对话语气；
- 根据用户上下文设计响应风格：“刚刚提到的蓝牙问题，我查到如下内容…”；
✅ 10. 召回精度不够，模型生成答非所问
问题： 检索到了不相关文档，模型拼接内容生成了一堆看似合理但答非所问的内容。
解决方案：
- 引入 rerank 模块（Cohere Rerank / bge-reranker）；
- 对检索片段设置信任阈值，置信度低时不要拼接太多上下文；
✅ 11. 多智能体串行执行，导致响应慢，扩展困难
问题： 服务端Agent A → B → C 全是串行执行，一卡全卡。
解决方案：
- 引入“Agent调度器”：多个Agent并发→结果汇总→仲裁生成；
✅ 12. 用户图片中无文字标注，图像变“哑图”，模型看不懂
问题： 图里啥都没有写，但人类一眼看出问题，模型完全没理解。
解决方案：
- 图像太模糊/无特征 → 标记为“弱语义图像”，暂不入库，后期人工补标；
最后总结一句感想
“让RAG客服能回答问题，只是第一步； 让RAG客服对话自然、识别准确、理解上下文、支持多模态，才是真正能用。”
粤ICP备14082021号
免费POC，
零成本试错
