我要投稿

DASF:可落地，易执行的AI安全框架

发布日期：2025-07-15 08:23:54 浏览次数： 2020

作者：AI与安全

微信搜一搜，关注“AI与安全”

随着AI大量使用，对AI的安全担忧越来越多。

如何完整梳理AI系统面临的安全风险，及如何消减风险，需要一个完整的系统化的方法论。

之前我们介绍过Google的SAIF（Google的AI安全框架(SAIF)）,该框架比较完整，但比较高阶，讲明白了原理，但不够具体，可操作性差。

此次介绍 Databricks的安全框架（Databricks AI Security Framework (DASF) ）,非常具体，容易落地和执行。

Databricks是数据处理的国际领先厂商，在AI及安全上也有较大投入，而AI与数据安全密不可分，他们的方案非常完整。

DASF全景

图一

DASF 向读者介绍了通⽤数据中心AI 系统的四个阶段及 12 个基础组件（图1），四个阶段包括：

一、数据操作（图 1 中的 #1‒#4）

包括提取和转换数据，以及确保数据安全和治理。良好的机器学习模型依赖于可靠的数据管道和安全的 DataOps 基础设施。

二、模型操作（图 1 中的 #5 ‒ #8）

包括构建预测性 ML 模型、从模型市场获取模型或使⽤ LLM（如 OpenAI 或 Foundation Model API）。

三、模型部署和服务（图 1 中的 #9 和 #10）

包括安全地构建模型镜像、模型隔离和安全服务、⾃动扩展、速率限制以及已部署模型的监控。此外，它还包含特性和功能服务，为检索增强⽣成 (RAG) 应⽤程序中的结构化数据提供⾼可⽤性、低延迟服务，以及其他应⽤程序所需的功能，例如平台外部提供的模型或任何其他需要基于⽬录中数据的功能的应⽤程序。

四、操作和平台（图 1 中的 #11 和 #12）

包括平台漏洞管理和修补、模型隔离和系统控制，以及在架构中确保模型安全的授权访问。此外，还包括⽤于 CI/CD 的运营⼯具。它通过保持不同的执⾏环境（开发、预发布和⽣产）来确保整个⽣命周期符合所需的标准，从⽽实现安全的 MLOps。

12个基础组件包括（最右侧叶子节点）：

对每一个基础组件，详细列出了风险列表，比如原始数据项，有11条风险：

完整的风险列表

总计62个安全风险，分类非常清晰，翻译出来大概是这样子：

消减方法

针对每一条风险，文档都给出了消减方法，以第一条，访问控制不足为例：

底下还有完整的相关性。

仅原始数据一项，风险及消减手段如下，够丰富了吧？

小结

这个文档是DASF的2.0版，非常完整。实际使用的时候，不相关的项可以忽略，比如，里边涉及非常多的训练的相关风险，如果只是部署使用，相关的项目可以忽略。

下载地址

https://www.databricks.com/sites/default/files/2025-02/databricks-ebook-dasf-2.pdf

在油管上还有个视频讲解

https://www.youtube.com/watch?v=GMcAlpgCElU

END

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-03-22

Google Gemini深度集成Workspace体验

2026-03-22

专访OpenAI首席科学家：我们离“AI自己做研究”有多远？

2026-03-21

编程选GPT-5.4，还是GPT-5.3-Codex？

2026-03-21

AI Coding前端实践后的复盘总结

2026-03-21

OpenAI 首席科学家：Codex 只是雏形，我们要造的是「全自动 AI 研究员」

2026-03-21

谷歌Stitch「氛围设计」干崩Figma 8.8%股价：十年经验，败给巨头一次更新（附实测）

2026-03-21

为什么 CLI 比 MCP 更适合 LLM

2026-03-21

渐进式披露（Progressive Disclosure）：Agent 从 Demo 到企业级落地的 “救命架构”

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Pencil：设计和写代码，以后就全让AI干了

2026-01-24

独家实录｜唐杰、杨植麟、林俊旸、姚顺雨...All Star 对话上，大家聊了啥？

2026-01-10

2026 开年 AI 工具推荐，让你新的一年效率起飞！（建议收藏）

2026-01-01

从0到1玩转Clawdbot：我花了40小时，把这些坑都踩完了

2026-01-26

终于！Gemini CLI支持Agent Skills，一键搬运Claude Code的“绝招”

2026-01-09

Claude Code Skills 国内实践全指南：从安装部署到高阶开发

2026-01-09

深度解析——为什么Claude code CEO Dario 如此反中？

2026-01-23

谷歌没想到：Antigravity 竟成了 Claude Code 的“免费充电宝”？

2025-12-30

不会封号的Claude Code使用方法！已稳定测试一个月，还能共享给团队。

2026-01-14

我装了 9 个 Skill，终于看懂了 Google Antigravity 的野心

2026-01-21

大家都在问

专访OpenAI首席科学家：我们离“AI自己做研究”有多远？

2026-03-22

编程选GPT-5.4，还是GPT-5.3-Codex？

2026-03-21

真实测评MiniMax M2.7，不吹不夸，它到底什么水平？

2026-03-20

深度分析：Agent Harness/框架到底有没有竞争壁垒？

2026-03-19

咨询 | OpenAI、Anthropic纷纷和咨询公司合作的背后，折射除了行业落地AI什么样的趋势？

2026-03-19

大伙都在养虾，MiniMax 带着新模型来偷偷上分了？

2026-03-19

Harness Engineering 为什么是 Agent 时代的“控制论”？

2026-03-18

阿里云新品发布：Agent ID Guard，谁来管理“小龙虾们”的身份安全？

2026-03-17

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部