我要投稿

AI 本地部署中的 ollama 是什么？

发布日期：2025-02-18 16:21:01 浏览次数： 2559

作者：生有可恋

微信搜一搜，关注“生有可恋”

Ollama 是一个开源工具，专为在本地计算机上高效运行大型语言模型（LLM，如 deepseek-r1、qwen2.5 等）而设计。它简化了模型的下载、部署和管理流程，让用户无需复杂配置即可在本地体验和开发基于大语言模型的应用。

从 ollama 的网站上可以查看所有的模型信息：

Windows 上直接下载安装包，一路 Next 即可。

Linux 上使用命令行安装：

$ curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz$ sudo tar -C /usr -xzf ollama-linux-amd64.tgz$ ollama serve$ ollama -v

也可使用其提供的 install.sh 脚本安装，安装前阅读其脚本，了解安装过程会干些啥：

$ curl -fsSL https://ollama.com/install.sh -o ollama-install.sh

如果自己不想读脚本，可以将脚本内容丢给 deepseek，让 AI 帮你阅读脚本并汇总主要步骤。

以下是该安装脚本的主要步骤汇总：

与手工安装不同的地方是，自动安装会处理显卡驱动的问题：

其中会涉及到使用 lsmod 、modprobe 等 linux kernel module 相关的命令。如果你操作的是和别人共享的服务器，请谨慎对待。因为安装完 ollama 后还会开启 11434 端口，如果是公网GPU服务器，乱开端口有被入侵的风险。

当前测试的服务器的硬件配置为：

$ cat /proc/cpuinfo && free -g && nvidia-smi

将查硬件配置的命令输出丢给 kimi 让其汇总一下：

安装完成后可以先下个 1.5b 的 deepseek-r1 模型试试。

./ollama run deepseek-r1:1.5b

deepseek-r1 1.5b 大小约1.1GB

默认安装的 ollama 服务不支持联网搜索功能，如果需要查询互联网上的信息，当前最便捷的办法还是使用AI公司提供的服务。比如问 deepseek-r1 模型的大小和运行需求，通过 kimi 发问：

在比如问: deepseek-r1:1.5b 其中的 b 代表什么？

也可以问 ollama 如何联网、如何安装，最后你会发现，所有博客、公众号的内容都变成了 AI 的素材，人们又通过 AI 获取信息写公众号，最后闭环了...

全文完。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-05-21

麻省理工团队开源GenCAD，用一张图片生成完整CAD模型与参数化程序

2026-05-21

真Agent框架生态的主语言已经变为TypeScript

2026-05-20

Hermes Agent + Ollama本地安装指南

2026-05-20

Qwen3.7来了，全球排名第13，国内第一

2026-05-17

开源、零依赖、R@5 精度 95%：agentmemory 凭什么比 mem0 更值得用

2026-05-16

Hermes Agent 深度解析：为什么它能“越用越懂你”？

2026-05-15

再见 Hermes、小龙虾！面向 DeepSeek V4 的终端原生编程智能体来了

2026-05-15

GenericAgent 实测：Token 少用 89.6%，还能打赢 Claude Code？上下文密度才是关键

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Hermes Agent 出来了，聊聊它凭什么跟 OpenClaw 掰手腕

2026-03-30

Google Gemma 4 开源｜全面解读

2026-04-03

字节跳动开源 DeerFlow 2.0：下一代超级 Agent 引擎，一键搞定复杂工作流！

2026-03-23

很多人突然不玩小龙虾而用Hermes Agent了。我替你试了，跟小龙虾到底有啥不同？

2026-04-09

刚刚，Claude Code开源了！51万行代码，全网狂欢

2026-03-31

4 天 6.8K Star，这个 AI 漫剧项目火了：waoowaoo！

2026-03-03

震惊！刚刚，Anthropic掀了桌子：OpenClaude横空出世，大模型闭源时代彻底终结？

2026-04-01

GLM-5 技术报告全解读｜a16z：“最好的开源模型”

2026-02-22

开启极简养虾，用 TRAE 快速部署 OpenClaw

2026-03-04

OpenAI 刚开源了 Symphony：以后写代码，你只需要拖工单就行了

2026-03-09

大家都在问

Hermes Agent 深度解析：为什么它能“越用越懂你”？

2026-05-16

百度把Nano Banana塞进4090，疯了？

2026-04-22

Kimi K2.6 开源了！还附送了 300 个 Agent 员工？

2026-04-21

Hermes 凭什么两个月接棒 OpenClaw？

2026-04-15

很多人突然不玩小龙虾而用Hermes Agent了。我替你试了，跟小龙虾到底有啥不同？

2026-04-09

震惊！刚刚，Anthropic掀了桌子：OpenClaude横空出世，大模型闭源时代彻底终结？

2026-04-01

英伟达的NemoClaw，能帮AI代理这匹“野马”套上缰绳吗？

2026-03-17

你的 AI Agent 真的在受控运行吗？

2026-03-13

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件 FDE AI+医疗 MaxKB Palantir Glean Openclaw