聊聊如何在内网下构建大模型微调环境

背景

AI服务器在内网，除了预先安装的python及docker等基本软件包外，别的一概没有。从零基于Llama-Factory搭建大模型微调环境。

在VMWare上搭一个同样服务器版本（例如centos）的虚拟机，用于联网下载依赖包；后续再拷贝过去。

docker

在运维同事打好docker镜像后，开发编写docker-compose单独起一个docker环境。在这里建议是以自己的名字命名文件夹下起docker，这样的话，docker-compose挂载的volume就比较干净，直接在自己名字的目录下。

docker-compose如下：

文件夹结构如下，这是我自己名字下的包文件：

虚拟环境venv

进入docker，基于python3默认的venv模块，单独起一个python虚拟环境，隔离包的依赖。

如下：

python -m venv apienv

激活环境：

source ENV_DIR/bin/activate

pip包下载

在内网环境下，如果没有镜像库支持，是无法像平时一样一键pip intasll xxx安装。因此就要手动搞了。

有两种方案：

1. 先pip download再pip install --no-index
2. 直接pip install xxx --target /path

当然包的下载是在venv虚拟环境下，隔离开别人的包依赖，防止覆盖或版本不对。

我个人用的命令如下：

# 指定源下载包
pip install pandas -i http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com

# 将本地目录打包，解决llamafactory-cli命令报错的问题
pip install -e . --no-build-isolation --no-index --find-links=./

# 指定源下载requirements依赖，并指定下载目录
pip download -r requirements.txt -d /home/sitepackage/ --index-url http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com 

# 指定源下载 指定包 ，并制定下载目录
pip3 download -d /home/sitepackage/ gradio==4.21.0 -i http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com

# 离线安装 download 下载好的依赖包
pip install --no-index --find-links=/home/sitepackage/ -r requirements.txt

LLaMA-Factory报错

llamafactory-cli不存在

新版Llama-Factory改为了llamafactory-cli命令训练微调。但该命令默认是不存在的，需要在LlamaFactory源码的目录下运行 pip install -e .即可，官方文档已经写了需要事先运行该命令。但在离线环境下，就不能直接这么写，上述的命令列表已给出命令。不过当时还是出现了新的问题：

见issue。

是LlamaFactory自身的问题，重新拉去最新的代码即可。只要按照如上步骤，先download包，然后install，最后执行：

pip install -e . --no-build-isolation --no-index --find-links=/home/sitepackage/

即可生成llamafactory-cli命令。

docker共享内存不足

报错如下：

 NCCL error in: ../torch/csrc/distributed/c10d/ProcessGroupNCCL.cpp:1970, unhandled system error (run with NCCL_DEBUG=INFO for details), NCCL version 2.20.5
 System call (e.g. socket, malloc) or external library call failed or device error. 
 error:
 while creating shared memory segment /dev/shm/nccl-jURtqQ (size 5767520)

docker默认的内存是 64MB，在执行llamafactory-cli train xxx时，如果当前机器是多卡，那么默认是分布式训练。docker共享内存不足，调大docker内存即可。在docker-compose文件中，增加配置：

shm_size: 16GB

当然也可以指定单卡训练，如果单卡的显存够的话，命令如下：CUDA_VISIBLE_DEVICES=0 llamafactory-cli train xxx

参考：https://github.com/NVIDIA/nccl/issues/342^[1]https://www.jianshu.com/p/3ba9a016dc82^[2]

transformers版本不对

报错如下：

ValueError: too many values to unpack (expected 2)

重新安装一下transformers，其指定版本为4.41.2。

总结

LlamaFactory新版更新后，还是比较方便，只是说llamafactory-cli命令的确是有点蒙，踩个坑就好了。

对于LlamaFactory微调来说，本身不难，毕竟都是配置；主要是在内网环境下的依赖包拉取安装是真麻烦，但其实也还好。走一遍的话，还是可以学到很多的。