我要投稿

用一张12GB 显存的显卡本地部署 DeepSeek-OCR

发布日期：2025-12-27 12:20:41 浏览次数： 1946

作者：Engineering Ibuprofen

微信搜一搜，关注“Engineering Ibuprofen”

运行环境配置

NVIDIA GeForce RTX 3080 Ti（12G）
Ubuntu 20.04 + CUDA 11.8 + PyTorch 2.6.0

这种配置在许多开发者手中都很常见，无需专业服务器即可上手。

源码安装步骤

1. 克隆仓库：

git clone https://github.com/DeepSeek-ai/DeepSeek-OCR.git

2. 创建并激活虚拟环境：

conda create -n deepseek-ocr python=3.12.9 -y

conda activate deepseek-ocr

3. 安装 vLLM（指定版本 0.8.5）：
从GitHub Releases下载对应轮子文件：

https://github.com/vllm-project/vllm/releases/tag/v0.8.5

pip install vllm-0.8.5+cu118-cp38-abi3-manylinux1_x86_64.whl

4. 安装依赖：

pip install -r requirements.txt

pip install flash-attn==2.7.3 --no-build-isolation -v

模型下载

官方模型地址：
https://huggingface.co/deepseek-ai/DeepSeek-OCR/tree/main

国内用户可加速下载：
https://modelscope.cn/models/deepseek-ai/DeepSeek-OCR/files

使用 vLLM 进行推理

进入 vLLM 推理目录：

cd DeepSeek-OCR/DeepSeek-OCR-vllm

编辑配置文件`config.py｀：

对于12GB 显存的显卡，必须将 `IMG_SIZE` 设置为 512（最小值），否则容易出现显存溢出问题。

启动推理脚本：
python run_dpsk_ocr_pdf.py

运行过程中，显存占用保持在合理范围内，能平稳处理任务。

实际解析效果展示

包含主标题、副标题和正文文本的文档：

模型准确识别了层级标题和段落结构，输出清晰有序。

带有图片、图片说明、副标题和文本的复杂页面：

DeepSeek-OCR 成功区分了图像区域、捕获了图片下方说明文字，并完整提取了周围正文。

从这些测试看，即使在有限算力下，模型对多元素 PDF 的版面理解能力表现出色，标题、文本、图像、表格等要素都能被精准分离和识别。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-03-18

GLM-OCR技术细节全公开

2026-03-18

Midjourney V8 正式上线：高清模式、文字无错、生成速度提升5倍

2026-03-15

我复刻了 Claude 刚发布的生成式 UI 交互！

2026-03-12

Gemini Embedding 2把多模态信息整合同一向量空间了，还需要多向量列吗？

2026-03-11

Gemini Embedding 2：首个原生五模态 embedding 模型

2026-03-11

Google 发布首个全模态 Embedding 2 模型，文本图片音视频 PDF 统一到一个向量空间

2026-03-11

谷歌首个原生多模态向量模型发布：Agent 可以用文字搜图片、用图片搜视频了...

2026-03-05

零帧起手 Codex × Figma 双向工作流实操

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

多模态检索新突破！Qwen3-VL-Embedding/Reranker AI 真正“看懂“你在搜什么，从图片到视频全拿下！

2026-01-10

蓝色光标×火山引擎：用AI实现多模态内容创作自由

2026-01-05

Seedance 2.0 正式发布

2026-02-12

KDD 2026 | 小红书内容审核：Hi-Guard 让内容治理“知其然，更知其所以然”

2026-01-16

DeepSeek-OCR 2 来了，让 AI 也能像人一样，带着逻辑去看图

2026-01-27

Seedance 2.0上线火山方舟体验中心，API即将开放

2026-02-12

一篇文章讲清楚：到底什么是NotebookLM？除了PPT，它还能做啥？

2025-12-31

文心大模型5.0正式版，上线！

2026-01-22

NanoBanana 2.0 来了，对比前一代和即梦 5.0 lite，它依旧强的离谱

2026-02-27

Google 发布首个全模态 Embedding 2 模型，文本图片音视频 PDF 统一到一个向量空间

2026-03-11

大家都在问

Gemini Embedding 2把多模态信息整合同一向量空间了，还需要多向量列吗？

2026-03-12

一篇文章讲清楚：到底什么是NotebookLM？除了PPT，它还能做啥？

2025-12-31

GenAI的多模态数据智能平台如何构建？

2025-08-04

本地AI对话神奇，ChatWise到底有什么用？

2025-05-26

什么是基于知识图谱的多模态推理？

2025-05-13

AI数字人领域重大突破：告别拼凑式合成，阿里OmniTalker能否开启音视频一体化新时代？

2025-04-08

Midjourney V7全面测评：50组多风格提示词实测，是否还有领先优势?

2025-04-05

如何结合多模态RAG和异步调用实现大模型内容理解？

2025-03-30

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw