推荐语
利用个人微信聊天记录微调大语言模型，打造专属智能数字分身。
核心内容：
1. 从聊天记录到模型微调的全链路解决方案
2. 聊天记录训练、高质量语音克隆及微信机器人绑定功能
3. 环境搭建、数据准备及个性化优化技术指南
杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家
通过个人微信聊天记录对大语言模型（LLM）进行微调，打造专属的数字分身。它提供从聊天数据到模型微调、从文本生成到语音克隆、从训练到部署的全链路解决方案。让你的数字分身不仅“会说你的话”，还能“听起来像你本人”。
主要功能
聊天记录训练：用微信聊天记录微调大语言模型，模仿用户说话方式。
高质量语音克隆：用0.5B参数模型和5秒语音样本，生成相似度高达95%的声音。
微信机器人绑定：将数字分身接入微信，支持自动文字和语音回复。
数据预处理工具：提供脚本将聊天记录转为训练数据，默认过滤敏感信息。
模型个性化优化：支持LoRA微调技术，让模型更符合用户语言习惯。
安装和使用
硬件要求
目前项目默认使用chatglm3-6b模型，LoRA方法对sft阶段微调，大约需要16GB显存。也可以使用LLaMA Factory支持的其他模型和方法，占用显存更少，需要自行修改模板的systemprompt词等相关配置。
需要显存的估算值：
| | | | | | x |
|---|
| | | | | | 18x |
| | | | | | 8x |
| 冻结/LoRA/GaLore/APOLLO/BAdam | | | | | | 2x |
| | | | | | x |
| | | | | | x/2 |
| | | | | | x/4 |
环境搭建
建议使用 uv，这是一个非常快速的 Python 环境管理器。安装uv后，您可以使用以下命令创建一个新的Python环境并安装依赖项，注意这不包含xcodec（音频克隆）功能的依赖：
git clone https://github.com/xming521/WeClone.git
cd WeClone
uv venv .venv --python=3.9
source .venv/bin/activate
uv pip install --group main -e .
注意
训练以及推理相关配置统一在文件settings.json
数据准备
请使用PyWxDump提取微信聊天记录。下载软件并解密数据库后，点击聊天备份，导出类型为CSV，可以导出多个联系人或群聊，然后将导出的位于 的 文件夹放在目录即可，也就是不同人聊天记录的文件夹一起放在 。示例数据位于 data/example_chat.csv。wxdump_tmp/exportcsv./data./data/csv
数据预处理
项目默认去除了数据中的手机号、身份证号、邮箱、网址。还提供了一个禁用词词库blocked_words，可以自行添加需要过滤的词句（会默认去掉包括禁用词的整句）。 执行 脚本对数据进行处理。./make_dataset/csv_to_json.py
在同一人连续回答多句的情况下，有三种处理方式：
模型下载
首选在Hugging Face下载ChatGLM3 模型。如果您在 Hugging Face 模型的下载中遇到了问题，可以通过下述方法使用魔搭社区，后续训练推理都需要先执行来使用魔搭社区的模型。 由于模型较大，下载过程比较漫长请耐心等待。export USE_MODELSCOPE_HUB=1
export USE_MODELSCOPE_HUB=1 # Windows 使用 `set USE_MODELSCOPE_HUB=1`
git lfs install
git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git
魔搭社区的文件需要更换为 Hugging Face 的modeling_chatglm.py
配置参数并微调模型
（可选）修改 settings.json选择本地下载好的其他模型。
修改以及来调整显存占用。per_device_train_batch_sizegradient_accumulation_steps
可以根据自己数据集的数量和质量修改、、等参数。num_train_epochslora_ranklora_dropout
单卡训练
运行 进行sft阶段微调，本人loss只降到了3.5左右，降低过多可能会过拟合，我使用了大概2万条整合后的有效数据。src/train_sft.py
python src/train_sft.py
多卡训练
uv pip install deepspeed
deepspeed --num_gpus=使用显卡数量 src/train_sft.py
实战演习
场景1：使用浏览器demo简单推理
python ./src/web_demo.py
场景2：使用接口进行推理
python ./src/api_service.py
场景3：使用常见聊天问题测试
python ./src/api_service.py
python ./src/test_model.py
场景4：部署到聊天机器人
AstrBot方案
AstrBot 是易上手的多平台 LLM 聊天机器人及开发框架 ✨ 平台支持 QQ、QQ频道、Telegram、微信、企微、飞书。
使用步骤：
部署 AstrBot
在 AstrBot 中部署消息平台
执行 启动api服务python ./src/api_service.py
在 AstrBot 中新增服务提供商，类型选择OpenAI，API Base URL根据AstrBot部署方式填写（例如docker部署可能为 http://172.17.0.1:8005/v1） ，模型填写gpt-3.5-turbo
微调后不支持工具调用，请先关掉默认的工具，消息平台发送指令： ，否则会没有微调后的效果。/tool off reminder
根据微调时使用的default_system，在 AstrBot 中设置系统提示词。
粤ICP备14082021号
免费POC，
零成本试错
