我要投稿

AIGC案例-腾讯文档 AI 架构剖析

发布日期：2024-06-12 20:38:27 浏览次数： 3631

作者：顶层架构领域

微信搜一搜，关注“顶层架构领域”

一、总体技术架构剖析

腾讯文档（https://docs.qq.com/）AI 大模型助手应用，如下图所示：

腾讯文档的 AI 大模型助手总体架构如下图所示，包括6大模块：AICopilot、AIServer、AIAgent、AIEngine、AIOperation、AIExtension。

AICopilot 模块：提供 AI 侧边栏对话功能，负责意图识别、对话管理、缓存及存档等功能。

AIServer 模块：提供各类别定制化的浮层助手服务。

AIAgent 模块：作为 AI 智能代理，集成并提供各类别的文档处理工具，由上层服务调用识别意图后驱动。AIEngine 模块：作为文档 AI 引擎，统一抽象并封装各项 AI 能力（比如：文生文、文生图、语音转写、语音识别、图像识别、嵌入式 AI 等），实现能力间无感切换。

AIOperation 模块：负责文档 AI 灰度发布策略、隐私保护措施以及运营操作。

AIExtension 模块：扩展 AI 服务，支持AI应用落地所需的支持能力，比如：文本搜索、图片搜索、Python 执行环境等。

二、问答场景技术架构剖析

针对 Word、PPT、Sheet、思维导图、数据收集表及知识库等多种内容形态的问题解答。

AI 大模型应用的核心挑战在于建立基础的问答系统架构。攻克这一难题的关键，在于如何使 AI 大模型精准掌握并理解各类文档的领域知识内容。

两种解决方案：

一种：领域知识通过微调（Fine-tuning）记忆到大模型中。

二种：通过 Prompt 的方式把领域知识即时给到大模型。

问题思考：

用户文档信息本质上是用户个人数据的整合，主要用于个性化服务。
由于用户文档常更新且注重时效性，无法每次变更都重新训练模型。
同时出于隐私保护原则，用户数据不能用于模型训练。因此，针对每位用户单独训练模型的方案并不现实可行。

一般第二种 RAG 方案：

RAG 技术方案工作流程：

第一、文档加载：定义统一的 Document 数据模型，将实现默认典型的数据源加载实现，业务方也可以根据接口自定义实现自身所需文档数据源。

第二、文档分片：大模型上下文大小有一定限制，需要将大量数据进行分割操作。

第三、文档 Embedding：Embedding 过程将对应文本向量化，以提供更好的语义表达。

第四、文档向量存储：使用向量数据库存储文档向量数据。

第五、文档召回：根据用户输入的问题召回和问题最相关的文档信息。

第六、问题解答：根据召回文档资料 + 用户输入问题提供给大模型进行知识问答。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-01-16

别被分数骗了：拆解 Anthropic 的 Agent 评估方法论

2026-01-16

极速开发出一个高质量 Claude Agent Skills 最佳实践

2026-01-16

Anthropic 为什么推出 Skills？它会革谁的命！

2026-01-16

Manus 官方首度揭秘 Sandbox 核心机制！

2026-01-16

阿里升级千问：超级 Agent，开始接管超级 App

2026-01-16

“Claude Cowork 杀死了我的创业公司”

2026-01-16

ChatGPT发了个“谷歌翻译”，但我只觉得多余...

2026-01-15

Claude Code 的"懒加载"更新：AI 终于学会了"随叫随到"

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

马斯克 Grok imagine 完整使用指南：工具、案例、提示词，看这一篇就够了！

2025-10-26

我挖到Gemini 3.0 Pro十大隐藏玩法，做网页已经落后N个版本了

2025-11-19

深度体验TRAE SOLO 正式版，总结一点技巧(附完整可重现提示词和源码)

2025-11-13

2025-10-20

从spec-kit到OpenSpec：规格驱动开发如何解决项目迭代痛点？

2025-10-18

实测｜DeepSeek-V3.2-Exp三大升级：长文本、多轮对话、开发支持

2025-10-21

我错了，Gemini 做PPT不是“一般”，是“封神”。（尤其挖到第3层功能后…）

2025-11-03

ima 2.0升级：任务模式上线，一键激活2亿知识文件

2025-10-23

独家实录｜唐杰、杨植麟、林俊旸、姚顺雨...All Star 对话上，大家聊了啥？

2026-01-10

OpenAI 发布了浏览器 Altas，一手实测来了

2025-10-22

大家都在问

Anthropic工程实践：AI Agent如何连续工作数天完成复杂项目？

2026-01-12

如何用AI表格低门槛手搓一个业务系统？

2026-01-12

你的Excel已觉醒！AI-by-Hand-Excel如何将普通表格变成超级智能助手？

2026-01-11

独家实录｜唐杰、杨植麟、林俊旸、姚顺雨...All Star 对话上，大家聊了啥？

2026-01-10

Anthropic突然封禁第三方工具调用Claude，Cursor、OpenCode、xAI 集体“中枪”！项目做到一半突遭中断，官方解释是“误伤”？

2026-01-10

马斯克杀疯了！xAI官宣200亿美元融资，这次真能“干翻”OpenAI？

2026-01-08

2025四大AI怎么选？每月20美金，谁能当你的“全能外挂”？

2026-01-02

AGI的终极形态，是分布式集体智能？

2025-12-31

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean