只需3分钟，基于 LLaMA3-8B 微调一个属于你自己的嬛嬛

harry0703@hotmail.com (Harry) — Fri, 03 May 2024 17:56:01 +0800

注意：没有GPU，也可以微调一个属于你自己的大模型，只是微调的时间长一点而已，建议晚上睡觉前运行，第二天早上就可以使用了 😄

效果演示

部署环境

点击下载 LLaMA3-8B 微调代码压缩包
将下载的压缩包解压
在 终端 (macOS) 或 cmd命令提示符 (Windows) 里面，进入解压后的文件夹，创建一个新的 Conda 虚拟环境

未安装 Conda 的用户，可以到 Conda官网下载安装。
1 2 3

cd llama3-ft conda create -n llama3-ft python=3.10 conda activate llama3-ft
安装依赖包
1

pip install -r requirements.txt

数据准备

你可以直接使用 dataset/huanhuan.json 数据集（该数据集来源于 https://github.com/KMnO4-zx ），也可以自己准备数据集，比如你的客服对话（FAQ）数据集，这样就可以微调一个更适合你的智能客服的模型，客服回答更准确。

数据集的格式也比较简单，示例如下：

instruction 是问题
output 是回答

[
 {
 "instruction": "你好",
 "input": "",
 "output": "皇上好，我是甄嬛，家父是大理寺少卿甄远道。"
 },
 {
 "instruction": "你不愿意见我？",
 "input": "",
 "output": "不该相见自然不愿见，还望王爷尊重我的意愿。"
 }
]

模型微调

模型选择

我使用的是 LLM-Research/Meta-Llama-3-8B-Instruct ，你也可以选择一个其他模型，只需要修改 train.py 文件里面的 model_id 变量即可。

由于国内访问 HuggingFace 比较困难，因此使用 ModelScope 提供的模型。

# 需要微调的基座模型

# https://www.modelscope.cn/studios/LLM-Research/Chat_Llama-3-8B/summary
model_id = 'LLM-Research/Meta-Llama-3-8B-Instruct'

# 比如你也可以使用 Qwen1.5-4B-Chat 模型
# https://www.modelscope.cn/models/qwen/Qwen1.5-4B-Chat/summary
# model_id = 'qwen/Qwen1.5-4B-Chat'

开始微调

只需要在项目根目录下执行以下命令即可。

`1`	`python train.py`

或者可以打开 LLaMA3-8B-Instruct Lora.ipynb 文件，使用 Jupyter Notebook 进行微调。

注意：

微调的时间会根据你的数据集大小和模型大小而定。我由于没有 GPU，因此耗时2个小时，如果你有 GPU，大概需要 30 分钟。
代码会自动下载模型，然后开始微调

微调完成后，所有的文件会保存在 models 文件夹下面，结构如下：

├── models
 ├── checkpoint #【模型微调的 checkpoint】
 │ ├── LLM-Research
 │ │ └── Meta-Llama-3-8B-Instruct
 │ │ ├── checkpoint-100
 │ │ ├── checkpoint-200
 │ │ ├── checkpoint-xxx
 │ └── qwen
 │ └── Qwen1.5-4B-Chat
 │ ├── checkpoint-100
 │ ├── checkpoint-200
 │ ├── checkpoint-xxx
 ├── lora #【模型微调的 lora 文件】
 │ ├── LLM-Research
 │ │ └── Meta-Llama-3-8B-Instruct
 │ └── qwen
 │ └── Qwen1.5-4B-Chat
 └── model #【自动下载的基座模型】
 ├── LLM-Research
 │ └── Meta-Llama-3-8B-Instruct
 └── qwen
 └── Qwen1___5-4B-Chat

模型测试

微调完成后，你可以执行以下命令启动一个 ChatBot 进行对话测试。

`1`	`streamlit run chat.py`

该命令执行后，会自动打开浏览器对话页面

LLaMA 3 on Harry0703