我要投稿

5分钟打造安全的企业级知识库/问答系统

发布日期：2024-06-27 07:03:17 浏览次数： 3004

作者：运维朱工

微信搜一搜，关注“运维朱工”

技术栈：Omllama + Llama3 + MaxKB

Omllama：是一个开源的大型语言模型服务工具，用户只需执行一条命令即可在本地运行开源大型语言模型。

Llama3：是Meta（原Facebook）旗下最新的大语言模型，Llama 3已经开放了80亿（8B）和700亿（70B）两个参数版本。

MaxKB：是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。

部署Omllama：

ollama目前Windows/linux等全平台支持，且支持docker方式部署，这里演示mac版。

直接通过下方链接地址下载，然后根据提示下一步安装即可。

项目地址：https://github.com/ollama/ollama

运行Llama3：

ollama支持的大模型很多，除了llama3,可以根据自己的需要选择：

我的Mac系统只有16G，所以这里选择8B版的，也是默认模型。打开terminal：

ollama run llama3

首次运行需要下载，大小4.7GB，后期再次运行不需要下载。

部署MaxKB：

直接通过docker部署：

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

访问本地8080端口：

先创建一个关于jumpserver的FAQ库：

创建后程序会自动抓取数据（文本或者网页），并进行模型优化，自动分段。

创建应用：

问答测试：

（问答系统结果）

（源文档内容）

经过简单的测试和微调，回答的速度非常快，而且准确，完全可以在企业中运用起来。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-10-29

案例 | 数不清就赚不到，AI如何帮门店精准统计客流

2025-10-26

隐性知识：Context is all you need

2025-10-25

一文彻底搞懂AI知识库原理：它如何在海量文档中瞬间找到答案

2025-10-18

我旁听了一场AI战略闭门会：企业落地AI的5条反直觉真相

2025-10-18

我用Obsidian知识管理后，生活轻了很多

2025-10-17

AgentKit无用矣，OpenAI需要明白：AI表格才是企业工作流的核心

2025-10-16

拆解 100 家头部企业：AI 落地就这 3 个阶段，看完少走 2 年弯路

2025-10-14

降本增效，智启未来—央国企 Data+AI 数据治理实践与探索

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

一文讲透AI知识库的功能价值、场景应用及工具方法

2025-09-15

数据治理智能体（Agent）全景拆解：核心模块、技术实现与业务落地指南

2025-08-28

从Notion到腾讯IMA：为什么我换了知识管理工具？

2025-08-12

万字复盘：我们如何从0到1构建企业AI中台？

2025-09-07

腾讯IMA：知识管理革命！你的第二大脑

2025-08-02

AI知识管理 | 从“找文件”到“要答案”：打通企业知识的商业闭环

2025-08-27

“用友BIP 5”重磅发布，让AI在企业应用落地

2025-08-17

AI如何在企业落地？

2025-08-25

企业级AI知识库构建指南：避开这18个坑，少走3个月弯路

2025-08-30

从全民狂欢到集体迷茫，企业AI如何能真正落地？

2025-08-19

大家都在问

私域知识工程实战：如何让AI一次性写出高质量代码？

2025-09-23

万字复盘：我们如何从0到1构建企业AI中台？

2025-09-07

AI知识库是面子工程还是效率引擎？

2025-08-30

企业知识库建设的三大陷阱：为什么你的AI项目总是半途而废？

2025-08-26

AI如何在企业落地？

2025-08-25

从全民狂欢到集体迷茫，企业AI如何能真正落地？

2025-08-19

深圳物流企业如何用 AI 知识库破解三大隐性成本困局？

2025-08-13

从Notion到腾讯IMA：为什么我换了知识管理工具？

2025-08-12

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： [email protected]

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部