我要投稿

Ollama+MaxKB 搭建本地大模型知识库

发布日期：2024-09-14 07:21:46 浏览次数： 3087

作者：Python解千愁

微信搜一搜，关注“Python解千愁”

大模型在训练时学习到的知识大部分都是些通用知识，当我们向它提问一下专业领域的知识时，往往不能得到很多的效果。

对于这种情况，我们可以将涉及到的一些专业或预备知识构建成知识库，在模型回答问题时让它去知识库中找到最相关的段落，然后带着这些知识与问题一起生成更精准的回答。

在这方面目前已经有了比较成熟的开源项目MaxKB，说不多话，直接分享如何搭建本地大模型知识库

首先登录ollama官网(https://ollama.com/download/)，点击对应操作系统下载后一键安装

ollama本地部署开源模型

docker拉取MaxKB镜像并运行

官方指导文档（https://maxkb.cn/docs/installation/online_installtion/）

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb

通过8080端口访问(默认用户名admin,密码MaxKB@123..)进去后可以修改密码

选择添加ollama供应商

如果基础模型不在选项中，可以直接填写ollama run的模型名称然后回车，api域名填ollama所在机器的ip:11434端口，本地大模型的apikey随意填非空即可

（如果添加后显示api域名无效，首先确保不要使用127.0.0.1和localhost，还是不行修改环境变量OLLAMA_HOST为0.0.0.0再重启ollama）

创建知识库

点击上传文档，然后创建并导入

选择智能分段并导入，完成后如下图

然后创建应用

选择之前创建的模型，关联创建的知识库，最后保存并发布

选中概览，点击演示

与直接在模型中提问比较效果

由于我构建知识库时上传pdf的是一篇讨论中国在人工智能产业发展中挑战的论文，所以其回答明显提取了论文中的信息与观点

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-05-19

一种新的 LLM Wiki 方法论：让 AI 帮你建一个能活下去的知识库

2026-05-17

从RAG到LLM Wiki：用AI构建持续进化的个人知识库

2026-05-14

Claude 盯上小老板：Coding 之后，下一个吞 Token 兽？

2026-05-12

HHM企业AI落地六步走：把AI写进经营决策链

2026-05-10

AI行业正从“卖Token”转向“卖组织认知能力”，咨询业浴火重生？

2026-05-09

GBrain：让AI Agent拥有完美记忆的知识系统

2026-05-08

Agent 从“能用”到“管好”，中间差了什么？

2026-05-07

Karpathy 的知识库构想被人做成桌面应用了，而且做得相当扎实，已在 Github 上斩获 5.8k+ Star！

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

教程｜用腾讯乐享AI知识库+WorkBuddy构建内容生产工作流

2026-03-31

Kimi上线了OpenClaw手机版，给大家分享5种知识管理的神级技巧

2026-03-05

最近的AI信息焦虑，被阿里Agent团队治好了（附赠工具）

2026-03-23

AI大神卡帕西的知识管理方法刷屏，用Get笔记六步抄作业

2026-04-07

Atlasnote：一个 App 收纳你的所有知识，AI帮你建立你自己的知识地图

2026-02-20

AI Coding思考：从工具提效到范式变革，我们还缺什么？

2026-03-02

从检索到理解：Karpathy的LLM Wiki为什么比RAG高一个维度

2026-04-12

我试了 Karpathy「让知识自己长出来」的方法，踩了 4 个坑

2026-04-07

AI工作流在淘宝交易舆情巡检上的探索与实践

2026-03-06

Karpathy又双叒叕发新概念了，这次我替你找到了那个产品

2026-04-07

大家都在问

Claude 盯上小老板：Coding 之后，下一个吞 Token 兽？

2026-05-14

AI行业正从“卖Token”转向“卖组织认知能力”，咨询业浴火重生？

2026-05-10

Agent 从“能用”到“管好”，中间差了什么？

2026-05-08

AI Coding思考：从工具提效到范式变革，我们还缺什么？

2026-03-02

.md 编译了个人认知，什么来编译企业的认知？

2026-02-27

复制“金牌销售”的大脑：江森自控如何利用 Foundry 将部落知识代码化？

2025-12-09

人类社会知识领域扩展显著，机器智能究竟在其中扮演的具体角色？

2025-11-22

AI知识管理 | 知识管理Process之类比之桥：如何用第一性原理，10倍提升你解决问题的能力？

2025-11-18

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw