揭秘大模型：LLMops如何革新模型运维与部署

发布日期：2024-09-06 08:40:42 浏览次数： 2826

作者：AI技术研习社

微信搜一搜，关注“AI技术研习社”

无论是在算法研究还是工程化过程中，当一个大语言模型的训练和微调完成后，都需要通过模型部署来实现业务落地，构建端到端的解决方案。

DevOps（Development and Operations）是一种结合了开发（Development）和运维（Operations）实践的软件开发方法论。DevOps 的核心目标是实现快速、高可靠、高质量的交付。它强调使用自动化工具和流程、持续集成与交付、监控和反馈，增强开发和运维团队之间的沟通协作，从而提高软件交付效率和系统稳定性。

MLOps中的ML是指Machine Learning，根据百科的定义，MLOps是一套在生产环境中部署和运维机器学习模型的可靠和高效的实践。著名的硬件厂商NVIDIA在其官方博客也给出了MLOps的定义，MLOps是企业在不断扩大的软件产品和云服务帮助下成功运行AI的最佳实践。

随着机器学习、深度学习和大语言模型的迅速发展，越来越多的系统开始集成各种算法模型，算法工程师也越来越多地参与到系统的开发工作和工程化工作中。DevOps的理念被应用到算法领域，并逐渐形成了MLOps和LMOps等主流的最佳实践。

MLOps在DevOps的基础上，增加了算法团队和模型构建业务，建立起规范化的数据准备、模型开发、模型训练、模型部署、模型上线和监控预警的机器学习最佳实践。针对MLOps，有人给出这样一个公式：MLOps = ML + Dev + Ops。

MLOps 与 DevOps 的共同点：

简化步骤流程：MLOps 与 DevOps 通过建立清晰、连续的步骤，简化软件开发 / 模型开发过程。MLOps 以缩短 ML 开发中的周转时间为主。

降低沟通成本：MLOps 与 DevOps 通过建立标准化的流程步骤，来降低沟通的成本。MLOps 相当于是系统管理员、数据科学团队和整个组织中其他部门之间对如何开发和维护生产模型达成共识。

MLOps 与 DevOps 的区别：

MLOps 有更加复杂的版本控制：对于机器学习，代码并不是唯一不断变化的输入，数据、参数、元数据、日志以及最后的模型都需要做好版本管理。

持续监控和持续训练：DevOps 和 MLOps 中的监控之间的区别在于，软件不会降级，而机器学习模型会降级。数据将随着业务环境的变化和调整而继续变化和调整，从而导致模型退化。

LLMOps这一新兴领域应运而生，跨越了整个人工智能生命周期，致力于解决在生产环境中开发和管理LLM应用程序的各种挑战。这包括基础模型预训练、通过监督微调进行模型对齐、根据人类反馈 (RLHF) 进行强化学习、针对特定用例的定制以及与其他基础模型、API的链接。还涵盖了设定目标和KPI、组织团队、衡量进度以及持续改进运营流程的方法。

NVIDIA在其官方博客中指出，世界正在迅速进入一个由基础模型和大型语言模型 (LLMs) 驱动的新生成式 AI 时代。ChatGPT 的发布进一步加速了这一转变。

作为 MLOps 的演进，LLMOps旨在解决大规模语言模型在生产环境中的部署、监控和优化问题，为企业提供可靠、高效的解决方案，以应对不断变化的需求和环境。

通过输入提示词引导大语言模型生成更符合需求的输出，这种方法在自然语言处理和多模态领域中，赋予模型更多灵活性和精确性。相较于传统的机器学习模型的推理，大语言模型的推理在技术和应用模式上都带来了巨大的变化。

这些变化体现在训练数据集、模型训练、模型评估、模型部署以及模型推理等多个方面。大语言模型的训练数据通常达到TB至PB级别，涉及数十亿甚至数千亿个参数的分布式训练，要求高性能的计算资源，并在运行过程中，持续进行监控和优化，以确保模型在实际应用中高效、可靠、安全地运行。

将 AI 视为一系列嵌套层。在最外层，ML 涵盖了智能自动化，其中的程序逻辑不是明确定义的，而是从数据中学习的。随着我们深入探讨，我们会遇到专门的 AI 类型，例如基于 LLM 或 RAG 构建的 AI 类型。同样，有一些嵌套概念可实现可再现性、重复使用性、可扩展性、可靠性和效率。每个模型都基于先前的模型构建，并添加或优化了从基础 MLOps 到新开发的 RAGOps 生命周期的功能：

MLOps 是一个总体概念，涵盖了从端到端的机器学习系统在生产中的开发与操作所需的核心工具、流程和最佳实践。

GenAIOps 扩展了 MLOps，用于开发和运营生成式 AI 解决方案。GenAIOps 的显著特点在于管理基础模型并与其交互。

LLMOps 是一种专门用于开发和部署基于大型语言模型 (LLM) 解决方案的独特 GenAIOps。

RAGOps 是 LLMOps 的子集，专注于 RAG（Retrieval-Augmented Generation）的交付和操作。它也可以被视为生成式 AI 和大型语言模型 (LLMs) 的终极参考架构，推动了其大规模采用。