1.下载llama-factory
llama-factory
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]"
查看版本
llamafactory-cli version
2.启动web ui
需要内网穿透工具:netapp
export USE_MODELSCOPE_HUB=1 && llamafactory-cli webui
进行端口映射:
映射完成后,打开 127.0.0.1:7860, 即可打开web端
3.测试
选择模型后,选择chat,加载模型
控制台下载模型
下载成功后,测试模型
4. 修改数据集
数据集存在 LLaMA-Factory\data 路径下
备份identity.json后,修改其中的变量,数据集变为如下
5.训练
选择配置参数后,在cmd中或者在web端都行
点开始后,cmd中输出正在训练
3 epochs 效果不好,改为30 epochs
6.测试
在chat中修改检查点,测试效果
7.导出模型
选择模型和检查点,填写路径,导出
导出结果