我要投稿

DASF:可落地，易执行的AI安全框架

发布日期：2025-07-15 08:23:54 浏览次数： 2106

作者：AI与安全

微信搜一搜，关注“AI与安全”

随着AI大量使用，对AI的安全担忧越来越多。

如何完整梳理AI系统面临的安全风险，及如何消减风险，需要一个完整的系统化的方法论。

之前我们介绍过Google的SAIF（Google的AI安全框架(SAIF)）,该框架比较完整，但比较高阶，讲明白了原理，但不够具体，可操作性差。

此次介绍 Databricks的安全框架（Databricks AI Security Framework (DASF) ）,非常具体，容易落地和执行。

Databricks是数据处理的国际领先厂商，在AI及安全上也有较大投入，而AI与数据安全密不可分，他们的方案非常完整。

DASF全景

图一

DASF 向读者介绍了通⽤数据中心AI 系统的四个阶段及 12 个基础组件（图1），四个阶段包括：

一、数据操作（图 1 中的 #1‒#4）

包括提取和转换数据，以及确保数据安全和治理。良好的机器学习模型依赖于可靠的数据管道和安全的 DataOps 基础设施。

二、模型操作（图 1 中的 #5 ‒ #8）

包括构建预测性 ML 模型、从模型市场获取模型或使⽤ LLM（如 OpenAI 或 Foundation Model API）。

三、模型部署和服务（图 1 中的 #9 和 #10）

包括安全地构建模型镜像、模型隔离和安全服务、⾃动扩展、速率限制以及已部署模型的监控。此外，它还包含特性和功能服务，为检索增强⽣成 (RAG) 应⽤程序中的结构化数据提供⾼可⽤性、低延迟服务，以及其他应⽤程序所需的功能，例如平台外部提供的模型或任何其他需要基于⽬录中数据的功能的应⽤程序。

四、操作和平台（图 1 中的 #11 和 #12）

包括平台漏洞管理和修补、模型隔离和系统控制，以及在架构中确保模型安全的授权访问。此外，还包括⽤于 CI/CD 的运营⼯具。它通过保持不同的执⾏环境（开发、预发布和⽣产）来确保整个⽣命周期符合所需的标准，从⽽实现安全的 MLOps。

12个基础组件包括（最右侧叶子节点）：

对每一个基础组件，详细列出了风险列表，比如原始数据项，有11条风险：

完整的风险列表

总计62个安全风险，分类非常清晰，翻译出来大概是这样子：

消减方法

针对每一条风险，文档都给出了消减方法，以第一条，访问控制不足为例：

底下还有完整的相关性。

仅原始数据一项，风险及消减手段如下，够丰富了吧？

小结

这个文档是DASF的2.0版，非常完整。实际使用的时候，不相关的项可以忽略，比如，里边涉及非常多的训练的相关风险，如果只是部署使用，相关的项目可以忽略。

下载地址

https://www.databricks.com/sites/default/files/2025-02/databricks-ebook-dasf-2.pdf

在油管上还有个视频讲解

https://www.youtube.com/watch?v=GMcAlpgCElU

END

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-05-08

Agent 时代的生产力悖论：当协作本身成为最大的瓶颈

2026-05-08

OpenAI发布新一代实时语音模型，能够像人说话一样进行推理、翻译和转录

2026-05-07

用Agent评测思路管理AI Coding —— 31万行代码AI重构的实践

2026-05-07

Anthropic 官方生产级 Agent 最佳实践：12 个可复用的 MCP 设计模式

2026-05-07

从“记住”到“学会”：OceanBase seekdb M0 如何让 Agent 真正积累经验

2026-05-07

Claude Cowork别瞎用

2026-05-07

为什么同一个模型，在 Claude Code/Codex CLI 里感觉像换了个脑子？

2026-05-07

尝试在Warp里使用claude code

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Claude Opus 4.7刚刚曝光！Claude Code一夜重构，7x24小时替你打工

2026-04-15

刚刚Qwen 3.6 Plus上线预览：1M上下文，阿里Coding/Agent翻身战打响

2026-03-31

2026年国内如何注册 Claude 账号教程

2026-03-13

豆包 2.0 模型发布，全信息整理（全网最完整，另附 79 页 Model Card）

2026-02-14

独家| DeepSeek-V4终于要来了：梁文锋憋半年大招，多模态+长期记忆全面破局

2026-03-17

OpenAI Codex CLI 完整使用指南

2026-04-07

全网最详细的Codex入门教程，手把手教你玩转Vibe Coding。

2026-02-09

香港终于能直接用 Gemini 了，内地用户能用上吗？

2026-03-17

编程选GPT-5.4，还是GPT-5.3-Codex？

2026-03-21

全球首个 AI 进化网络 EvoMap，给 Agent 装上 DNA

2026-02-20

大家都在问

为什么同一个模型，在 Claude Code/Codex CLI 里感觉像换了个脑子？

2026-05-07

「双线实测」Qwen 3.6-Plus，Agentic Coding 已经这么能「扛活儿」了？

2026-04-26

本体化语义层，会是 AI 数据平台的新地基吗？

2026-04-22

设计行业的“棺材板”，要被Claude Design盖上了？

2026-04-18

当所有人都不写代码了，谁来看懂代码？

2026-04-13

什么场景该用 AI Native？

2026-04-12

12MB的Go二进制，让AI操控浏览器只花800 tokens，PinchTab凭什么这么省？

2026-04-07

华为AI 49元/月！贵？不贵？

2026-04-01

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部