Dify、LangChain、Cherry Studio、Milvus联手拆解大模型开发的未来范式

推荐语

大模型开发正从Demo走向企业级应用，Dify、LangChain等一线专家深度探讨Agent架构与开发者体验的未来趋势。

核心内容：
1. 从Prompt Engineering到深度智能体的演进
2. 单Agent与多Agent架构的未来之争
3. 大模型开发中低代码与Pro-Code的平衡之道

杨芳贤

53AI创始人/腾讯云(TVP)最具价值专家

当Agent开发从“Demo狂欢”走向“企业级落地”，我们面临的挑战也随之升级：上下文越来越长，RAG还需要吗？单Agent和多Agent谁才是未来主流？在低代码与Pro-Code之间，开发者的护城河究竟在哪？

近日，在文心Moment大会的全球开发者论坛上，「大模型开发范式的下一站」这场圆桌邀请到了Dify、Cherry Studio、Milvus、LangChain的一线构建者，围绕Agent架构、基础设施与开发者体验，来了一场“拳拳到肉”的深度探讨。

• 姜涵煦「Dify前端开发工程师」：在Dify社区我们发现，大家已经不满足于简单地使用Prompt去解决工作问题了，因为只用Prompt会出现无法控制的幻觉。我们看到更多的非技术使用者——包括运营、销售，开始通过RAG或更复杂的上下文工程来控制幻觉，解决自己的实际问题。这让我感受到了大模型的一种‘平权’概念：不仅仅是有技术深度的开发者在用，非技术人员也能享受到大模型带来的便利。
• 赵梁「Cherry Studio基础设施负责人」：我们希望Agent不只是停留在一个对话的角度，而是让它充分接触用户电脑上的所有东西。也就是让用户的文件系统成为一个更长期的记忆。当用户把必备资料给到Agent后，它能动态地发现、去提取所有的知识，不再局限于提示词的简单场景，这才是真正的Agent，是让我最惊喜的时刻。
• 李成龙「Milvus社区负责人&首席开源布道师」：很多人觉得大模型Context Window越来越大，是不是就不需要RAG了？我觉得这个坑非常大。即使现在的窗口能塞进200k甚至更多，你会发现大模型的注意力会分散，回答往往打不到点上。所谓Garbage In, Garbage Out，只有通过RAG检索出最关键的信息给到模型，它才能回答出最‘到点’的答案。大窗口并不会取代RAG，只是让RAG的介入推迟了一点。
• 张海立「LangChain Ambassador」：我的Aha Moment来自于Claude Code加上Opus 4.5的体验。特别是开启它的Planning Mode后，它不只是生成代码，而是通过Human-in-the-loop的方式，主动向你提问、收集需求，甚至给你建议。这种‘深度智能体’帮助你思考需求的过程，才是真正让我感到惊喜的时刻。

• 姜涵煦：为什么有时候大家觉得直接用API优于框架？因为我们很多时候搭的只是一个Demo型内容，周末花两天时间很有成就感地做出来了。但如果要实际落地到企业，API是完全不够的，因为我们需要更多的确定性。比如鉴权、查询任务、后端可插拔任务，让用户通过API实现相当于让他们自己造了一个框架。Dify的理念是：希望运行时更加的薄，让平台或者底座基座更加的厚。我们把工程复杂性集中在平台里，让用户没有心智负担。因为在企业当中，满足SLA优先，确定性是要大于智能性的。
• 张海立：LangChain社区估计是被这个问题“骂”得最多的。但其实经过三年发展，我们已经构建了三层生态：底层的LangGraph，中层的LangChain，以及无代码化的Agent Builder。我们的核心目的只有一个：给开发者提供一个方案，快速构建、Ship一个可靠的智能体。只要做到了这一点，至于框架是薄还是厚不重要，只要大家能用好，就好。

• 赵梁：对于使用者来说，背后到底是一个Agent还是多个Agent不重要，重要的是：我能不能一句话达到想要的效果。我认为未来的形态是：云端一定会是多Agent，甚至跑在远程的电脑上；但在用户体验上，你还是在跟一个Agent对话。只是它背后会自动路由，智能地动态分发到远程的各种Agent上去处理，这才是未来。
• 姜涵煦：我很想用“有轨电车”来类比。虽然这种车现在少了，但它行驶时少了很多并道和刹车——我们知道拥堵往往是由并道引起的。 多Agent就像在多车道里跑车，Agent之间会“互相并道”、“互相拥挤”，造成不可控的拥堵。 而 单Agent+工具 更像是有轨电车，虽然限制了变道，但更有秩序。企业关注的是确定性，是SLA优先。所以在企业落地中，单Agent加工具会比多Agent更加可控。

• 李成龙：现在的RAG已经从最早期的“纯向量搜索”升级了很多，未来的形态会非常精细化。以前召回的Chunk可能几百字，但真正相关的就那几十个字。我们现在能把这十几个字精准高亮标出来，把噪音去掉，只给模型最有用的内容，这样Token消耗也更少。在检索时，现在不仅是向量搜索，还要带标量过滤、带关键词搜索，甚至用不同的Embedding模型存不同的字段，把它们的能力全结合起来搜。我们在召回后还会玩很多“花活”，比如让大模型判断结果行不行。如果不行，就改写问题重新搜，做一个Loop。直到判别模型觉得结果“能回答问题”了，才返回给用户。越是高价值场景，越需要这种精细化的管控。

• 姜涵煦：不管大模型过去一年怎么发展，其实都没有逃离这一个逻辑：你要把自己的日常工作尽早、精确地抽象成一个可重复利用的工作流，然后落地形成Agent。这种将工作抽象化的能力，应该是开发者尽早去培养的，也是万变不离其宗的。
• 赵梁：对用户来说，提出问题并实现是很简单的路径。但是，‘提出准确问题 -> 快速解决交付 -> 思考复盘 -> 整理成Skill或工作流’，这个整体的、完整的迭代循环，才是区分AI使用好坏的关键。这种闭环思维是非常关键的能力。
• 李成龙：未来人人都是超级个体，可能未来都没有‘软件工程师’这个专门的职业了，因为人人可编、人人可写。大家的竞争力就看谁能和这些AI工具融合得最好，谁能把它们能力的边界探索得更深。不要吝啬，尽早去尝试现在最好的模型和软件，尽早开始动手。
• 张海立：我的关键词是“边界感”。你得知道模型的能力边界、自己的能力边界以及工具的边界。只有了解边界，你才能找到Shortcut，在Human-in-the-loop和Human-on-the-loop之间灵活切换。有序地把该AI做的给AI，该自己做的自己接手，灵活地辗转腾挪。