引言
Dify是一款开源的大语言模型（LLM）应用开发平台，它帮助开发者和非技术人员，快速构建生产级别的生成式AI应用。
该项目设立于2023 年 3 月，开源协议是基于 Apache License 2.0 有限商业许可，后端技术Python/Flask/PostgreSQL，前端技术Next.js。
它提供了构建LLM应用所需的关键技术组件，如模型支持、Prompt编排、RAG引擎、Agent框架和流程编排，同时还具备直观的界面和API。
Dify的主要功能包括：
加速AI应用开发：帮助创业者快速将创意变为现实，已助力多个团队构建MVP并获得投资。
集成LLM至现有业务：通过RESTful API将LLM能力嵌入现有应用，实现Prompt与业务逻辑的解耦，便于跟踪数据、成本和用量，持续优化应用效果。
企业级LLM基础设施：作为企业内部的LLM网关，加速GenAI技术在企业中的应用，实现中心化监管。
探索LLM边界：即使是技术爱好者，也可通过Dify实践Prompt工程和Agent技术，探索LLM的能力极限。
Dify还提供了完整的云服务，无需安装即可使用。
截止发稿前在 Github 上已获得 36.3k Star！
附上Github地址：https://github.com/langgenius/dify
模型设置
Dify 目前已支持主流的模型供应商，并将模型按场景分为4个类：
1、系统推理模型：
在创建的应用中，用的是该类型的模型。智聊、对话名称生成、下一步问题建议用的也是推理模型。
已支持的系统推理模型供应商：
OpenAI、Azure OpenAI Service、Anthropic、Hugging Face Hub、Replicate、Xinference、OpenLLM、讯飞星火、文心一言、通义千问、Minimax、ZHIPU(ChatGLM)
2、Embedding 模型：
在数据集中，将分段过的文档做 Embedding 用的是该类型的模型。在使用了数据集的应用中，将用户的提问做 Embedding 处理也是用的该类型的模型。
已支持的 Embedding 模型供应商：
OpenAI、ZHIPU(ChatGLM)、JinaAI
3、Rerank 模型：
Rerank 模型用于增强检索能力，改善 LLM 的搜索结果。
已支持的 Rerank 模型供应商：
Cohere、JinaAI
4、语音转文字模型：
将对话型应用中，将语音转文字用的是该类型的模型。
已支持的语音转文字模型供应商：OpenAI
应用&工作流
在 Dify 中应用都是基于 GPT 等大预言模型构建的，并且包含了完整的API、Token鉴权、WebApp来帮助使用者快速开发。它还提供了四种应用类型：
聊天助手： 基于 LLM 构建对话式交互的助手
文本生成： 构建面向文本生成类任务的助手，例如撰写故事、文本分类、翻译等
Agent： 能够分解任务、推理思考、调用工具的对话式智能助手
工作流： 基于流程编排的方式定义更加灵活的 LLM 工作流
知识库
在Dify平台中，我们地运用知识库来实施RAG（Retrieval-Augmented Generation）技术，当用户提出一个问题时，系统会迅速在知识库中搜索与该问题最为契合的数据片段。
这一过程涉及复杂的语义匹配算法，确保所检索到的内容不仅相关，而且能够直接回答或辅助解答用户的问题。
一旦找到合适的信息，系统会将这些检索到的文档片段融入模型生成回复的上下文中，作为额外的背景知识，使用户获得更为满意和详尽的答案。
工具
工具有效地拓展了大型语言模型（LLM）的功能边界，通过集成联网搜索、科学计算、图像生成等能力，不仅丰富了LLM的技能集，还显著增强了其与外部世界互动的能力。
使得LLM能更全面地理解和响应复杂多样的现实需求。
安装
系统要求
在安装 Dify 之前，请确保您的机器满足以下最低系统要求：
• CPU >= 2 Core
• RAM >= 4GB
快速启动
启动 Dify 服务器的最简单方法是运行 docker-compose.yml 文件。
在运行安装命令之前，请确保您的机器上安装了 Docker 和 Docker Compose：
cd docker
cp .env.example .env
docker compose up -d
运行后，可以在浏览器上访问 http://localhost/install 进入 Dify 控制台并开始初始化安装操作。
自定义配置
如果您需要自定义配置，请参考 .env.example 文件中的注释，并更新 .env 文件中对应的值。
此外，可能需要根据您的具体部署环境和需求对 docker-compose.yaml 文件本身进行调整，例如更改镜像版本、端口映射或卷挂载。
完成任何更改后，请重新运行 docker-compose up -d。
粤ICP备14082021号
免费POC，
零成本试错
