我要投稿

可观测性成为ML和LLM应用的最大挑战

发布日期：2025-04-07 06:20:31 浏览次数： 1790

作者：云云众生s

微信搜一搜，关注“云云众生s”

生产环境 ML 模型面临可观测性挑战！定制工具成主流，仅7%关注ML安全。企业纷纷试水 GenAI 和 LLM，预测分析、计算机视觉应用激增。MLOps、LLMOps、GenAIOps 崛起，LLM 可观测性至关重要！OpenAI、AzureAI、Amazon Bedrock 受青睐。

在将 ML 模型投入生产时，可观测性和监控是被提及最多的挑战。The Institute for Ethical AI & Machine Learning^[2] 在 2024 年第四季度进行了一项关于生产 ML 状态的调查^[3]。另一个关键结论是，由于很少有供应商工具获得显著的吸引力，因此定制工具在用户路线图中占据主导地位。

总体而言，在接受调查的 170 名从业者中，44% 是机器学习工程师，与数据科学家或 MLOps 工程师的数量大致相同。许多受访者都是 The ML Engineer newsletter^[4] 的订阅者。

只有 7% 的人表示 ML 安全是他们面临的三大挑战之一，只有 17% 的人对治理和领域风险持相同看法。这一发现与我们在其他研究中看到的有显著不同，在其他研究中，安全和 AI 治理被认为是增加采用的最大障碍之一。我们认为，从业者认为 ML 安全仅与模型被黑客攻击的能力有关，而其他 IT 决策者更担心对公司和个人数据的一般访问。

似乎每个企业至少都在试验生成式 AI 和依赖于大型语言模型^[5]（LLM）的 AI 代理。与此同时，预测分析和计算机视觉的应用持续增长。随着这些应用程序的规模扩大，开发人员需要数据工程师、SRE 和其他人来处理 Day 1 和 Day 2 挑战^[6]。为了迎接这一挑战，MLOps^[7] 成为了一门真正的学科，随后是 LLMOps 和 GenAIOps^[8]。

无论使用何种术语，LLM 可观测性和监控^[9] 都是必须解决的问题。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-08-30

大模型的“思维链”（Chain-of-Thought）：AI 是怎么一步步“推理”的

2025-08-30

Agentic AI与WorkFlow的相互成就

2025-08-29

刚刚，xAI 发布 Grok Code Fast 1 编程模型，快、便宜、免费

2025-08-29

大模型时代有了自己的「价值高速公路」

2025-08-29

A I智能革命——上下文工程新突破

2025-08-29

知识库检索准不准，关键看模型选没选对！一份评测指南请收好

2025-08-29

我如何用Prompt工程将大模型调教成风控专家

2025-08-29

度小满金融大模型技术创新与应用探索

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek-V3.1 发布，迈向 Agent 时代的第一步

2025-08-21

精|知识探索新范式：深度研究Deep Research智能体全面综述，系统、方法与应用

2025-06-21

DeepSeekV3.1 提到的 UE8M0 FP8 Scale 是什么？下一代国产芯片设计？

2025-08-21

DeepSeek V3.1 测评

2025-08-19

AIGC合规落地全景图 | 如何做好AIGC数据合规

2025-06-07

别再被MCP协议绕晕！一文搞懂连接流程与核心架构

2025-06-12

能办成事的 Agent：实时与环境交互，从经验中学习

2025-06-19

聊聊AI应用架构演进

2025-06-13

WAIC 2025 观察：大模型进入“效率与场景”决胜期

2025-07-29

科普｜一文看懂AI发展史：主要发展阶段与改变世界的突破性事件

2025-06-15

大家都在问

微软研究院：生成式AI如何重塑职场，你的工作受影响了吗？

2025-08-28

AI是通向“超人”的阶梯，还是退回“猿猴”的陷阱？

2025-08-28

AI原生时代，大厂为何集体押注“One”？

2025-08-28

一个“局内人”的深度反思：Palantir究竟是一家怎样的公司？

2025-08-28

国务院重磅AI新政发布，未来10年最大机会在哪里？

2025-08-27

为什么说上下文工程是AI产品成功的关键？

2025-08-26

如何训练一个"小而美"的垂直领域大模型？

2025-08-25

剑客精翻：Claude Code官方教程(01)-什么是Claude Code？

2025-08-25

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： [email protected]

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部