我要投稿

Ollama+MaxKB 搭建本地大模型知识库

发布日期：2024-09-14 07:21:46 浏览次数： 2792

作者：Python解千愁

微信搜一搜，关注“Python解千愁”

大模型在训练时学习到的知识大部分都是些通用知识，当我们向它提问一下专业领域的知识时，往往不能得到很多的效果。

对于这种情况，我们可以将涉及到的一些专业或预备知识构建成知识库，在模型回答问题时让它去知识库中找到最相关的段落，然后带着这些知识与问题一起生成更精准的回答。

在这方面目前已经有了比较成熟的开源项目MaxKB，说不多话，直接分享如何搭建本地大模型知识库

首先登录ollama官网(https://ollama.com/download/)，点击对应操作系统下载后一键安装

ollama本地部署开源模型

docker拉取MaxKB镜像并运行

官方指导文档（https://maxkb.cn/docs/installation/online_installtion/）

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb

通过8080端口访问(默认用户名admin,密码MaxKB@123..)进去后可以修改密码

选择添加ollama供应商

如果基础模型不在选项中，可以直接填写ollama run的模型名称然后回车，api域名填ollama所在机器的ip:11434端口，本地大模型的apikey随意填非空即可

（如果添加后显示api域名无效，首先确保不要使用127.0.0.1和localhost，还是不行修改环境变量OLLAMA_HOST为0.0.0.0再重启ollama）

创建知识库

点击上传文档，然后创建并导入

选择智能分段并导入，完成后如下图

然后创建应用

选择之前创建的模型，关联创建的知识库，最后保存并发布

选中概览，点击演示

与直接在模型中提问比较效果

由于我构建知识库时上传pdf的是一篇讨论中国在人工智能产业发展中挑战的论文，所以其回答明显提取了论文中的信息与观点

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-12-16

超实用！MinerU新增3个新功能，支持文档逐块修正

2025-12-16

开源！支持私有化部署的DeepSeek支持的搜索问答知识系统

2025-12-15

Palantir Ontology的启示：从“数据中台”跃迁为“行动系统”的路径，打造数业经济时代的“决策式AI”能力

2025-12-10

当文档遇上智能，PandaWiki似乎下了新定义

2025-12-09

别迷信智能体了：95% 企业 AI 落地失败，都是输在数据治理

2025-12-09

复制“金牌销售”的大脑：江森自控如何利用 Foundry 将部落知识代码化？

2025-12-07

免费送会员！告别收藏夹吃灰 Remio重构个人碎片化知识管理

2025-12-07

Palantir Foundry功能剖析

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

私域知识工程实战：如何让AI一次性写出高质量代码？

2025-09-23

Dify+MinerU 准确识别PDF存至知识库

2025-09-22

AI全面爆发后，企业正在悄悄争夺知识库入口｜甲子光年

2025-11-22

文章“找茬”神器——媒体行业AI智能校对方案

2025-11-19

AI智能知识库-传统RAG的末日-从RAG到Agentic Full-text Retrieval模式

2025-11-08

不再吃灰，ima2.0让知识流动起来

2025-11-11

一文彻底搞懂AI知识库原理：它如何在海量文档中瞬间找到答案

2025-10-25

降本增效，智启未来—央国企 Data+AI 数据治理实践与探索

2025-10-14

AI100访谈：「Get笔记」方法论｜量子位智库

2025-11-08

我旁听了一场AI战略闭门会：企业落地AI的5条反直觉真相

2025-10-18

大家都在问

复制“金牌销售”的大脑：江森自控如何利用 Foundry 将部落知识代码化？

2025-12-09

人类社会知识领域扩展显著，机器智能究竟在其中扮演的具体角色？

2025-11-22

AI知识管理 | 知识管理Process之类比之桥：如何用第一性原理，10倍提升你解决问题的能力？

2025-11-18

维基百科向AI公司“亮剑”：从免费抓取到付费API，知识共享的未来何去何从？

2025-11-13

企业AI 项目商业成果权责不清：技术与业务互推责任，谁该为结果买单？

2025-11-12

私域知识工程实战：如何让AI一次性写出高质量代码？

2025-09-23

万字复盘：我们如何从0到1构建企业AI中台？

2025-09-07

AI知识库是面子工程还是效率引擎？

2025-08-30

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB