我要投稿

使用Ollama提供的Qwen2 7B搭建自己的中文版斯坦福多智能体AI小镇

发布日期：2024-06-20 07:06:06 浏览次数： 3966

作者：超乎想象的科技圈

微信搜一搜，关注“超乎想象的科技圈”

以下第1、2部分内容可以不执行，只是介绍中文化所做的具体修改是什么

1 对角色身份、目标、Prompt中文化

1.1 人物身份、目标中文化

修改data/characters.ts将角色的identity和plan翻译成中文

1.2 回话、记忆引导Prompt中文化

对convex/agent/memory.ts、convex/agent/conversation.ts中相关的Prompt翻译为中文

2 修改llm.ts

修改convex/util/llm.ts，将LLM和Embedding模型修改为对中文支持较好的模型

3 运行

更详细的步骤，请参考使用Ollama提供的Llama3 8B搭建自己的斯坦福多智能体AI小镇

3.1 准备ollama模型

ollama pull qwen2:7b
ollama pull znbang/bge:large-zh-v1.5-q8_0

3.2 下载代码并安装npm包

git clone [email protected]:Steven-Luo/ai-town-cn.git
cd ai-town-cn
npm install

3.3 启动convex后端

3.3.1 Linux系统

后续可能会使用just命令，可以在https://github.com/casey/just寻找对应Linux发行版的安装方法，以Ubuntu 24.04为例，安装命令为：

sudo apt install just

安装context，对于Linux系统，直接下载预编译版本，解压缩即可，下载地址在https://github.com/get-convex/convex-backend/releases。解压缩后，执行如下命令：

unzip /Users/luogang/Downloads/convex-local-backend-x86_64-unknown-linux-gnu.zip

chmod +x convex-local-backend

./convex-local-backend

3.3.2 macOS系统

以下代码为macOS平台

curl  -L -O https://github.com/get-convex/convex-backend/releases/latest/download/convex-local-backend-aarch64-apple-darwin.zip
unzip convex-local-backend-aarch64-apple-darwin.zip

brew install just


./convex-local-backend

注意，执行后续命令时，需要确保convex-local-backend处于运行状态

3.4 清理之前的数据

如果是第一次运行，则不需要执行3.4这一步

just convex run testing:wipeAllTables

创建一个全新的世界

just convex run init

3.5 启动服务

设置背景音乐，创建一个Replicate (https://replicate.com/)账户，并在API Token页面创建一个token，下面这条命令可选

just convex env  REPLICATE_API_TOKEN <替换为自己的token>

启动前后端

npm run dev

如果需要监听所有网络，修改package.json文件，将dev:frontend的值，由vite 修改为vite --host，如下图所示

4 效果

4.1 Alex

Alex的人设和目标如下所示

从他与其他角色的对话可以发现，提到了《星际之门》，这是非常有名的一部科幻小说

4.2 Stella

Stella的人设如下

从下方的聊天记录可以看出，已经有了一点PUA的味道

4.3 Alice和Kurt

Alice的人设和计划如下：

Kurt的人设和计划如下：

从二人的对话如下：

从对话可以看出，AI、量子物理这些也的确是这两个角色的人设该聊的内容

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-10-31

Opera One升级内置AI 迎来智能助手新纪元

2025-10-31

LangExtract——大模型文本提炼工具

2025-10-31

用户测评｜DeepSeek-OCR，你用了吗？

2025-10-31

从Palantir智能化技术路线看AI时代企业级架构平台的核心战略位置

2025-10-31

OpenAI 公开 Atlas 架构：为 Agent 重新发明浏览器

2025-10-31

Palantir 本体论模式：重塑企业 AI 应用的 “语义根基” 与产业启示

2025-10-31

树莓派这种“玩具级”设备，真能跑大模型吗？

2025-10-30

Cursor 2.0的一些有趣的新特性

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek-V3.1 发布，迈向 Agent 时代的第一步

2025-08-21

DeepSeekV3.1 提到的 UE8M0 FP8 Scale 是什么？下一代国产芯片设计？

2025-08-21

DeepSeek V3.1 测评

2025-08-19

新版 GPT-5 刚刚发布，最卷 AI 连肝代码 7 小时，编程工具大洗牌开始了

2025-09-16

实测 Sora 2 ：AI视频的“ChatGPT时刻”来了？八大场景教你解锁各种玩法（附邀请码）

2025-10-02

AI大家说 | 下一代AI创业的机会在哪里？定价趋势是什么？

2025-09-08

阿里发布下一代企业级智能体开发框架AgentScope 1.0

2025-09-17

DeepSeek突然更新V3.1：实测后才发现的亮点与槽点

2025-08-19

RagFLow v0.20.X全面解析！双向MCP、Agentic智能体...这次真的起飞了！（附长图）

2025-09-29

DeepSeek v3.1 到底有多强？与 Claude Code 一起实测！

2025-08-20

大家都在问

用户测评｜DeepSeek-OCR，你用了吗？

2025-10-31

树莓派这种“玩具级”设备，真能跑大模型吗？

2025-10-31

大模型的Funcation Calling是什么？

2025-10-29

向量搜索已过时，混合搜索都有三大流派了！你看好哪个流派？

2025-10-29

BCG最新报告：企业如何跨越AI价值鸿沟，进入复利增长？

2025-10-28

如何用飞书多维表格快速搭建一个可落地应用？

2025-10-28

当AI学会“听”：声音识别到声音理解，AI到底是怎么听懂的？

2025-10-27

如何让你的内容出现在AI生成的答案中？

2025-10-26

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB