辽宁省建设安全监督网网站,专业制作公司网站公司,品牌营销推广方案,免费php网站有哪些政安晨的个人主页#xff1a;政安晨 欢迎 #x1f44d;点赞✍评论⭐收藏 希望政安晨的博客能够对您有所裨益#xff0c;如有不足之处#xff0c;欢迎在评论区提出指正#xff01; 目录
启动WebUI
微调模型 LLaMA-Factory 支持通过 WebUI 零代码微调大语言模型。 启动Web… 政安晨的个人主页政安晨 欢迎 点赞✍评论⭐收藏 希望政安晨的博客能够对您有所裨益如有不足之处欢迎在评论区提出指正 目录
启动WebUI
微调模型 LLaMA-Factory 支持通过 WebUI 零代码微调大语言模型。 启动WebUI
打开前两篇我们创建的conda虚拟环境之后输入命令
llamafactory-cli webui 这样就启动了LLaMA Factory的webui页面 如果您在 Hugging Face 模型和数据集下载中遇到了问题可以通过下述方法使用魔搭社区。 export USE_MODELSCOPE_HUB1 Windows 使用set USE_MODELSCOPE_HUB1 将 model_name_or_path 设置为模型 ID 来加载对应的模型。 在魔搭社区查看所有可用的模型例如 LLM-Research/Meta-Llama-3-8B-Instruct。 您也可以通过下述方法使用魔乐社区下载数据集和模型。 export USE_OPENMIND_HUB1 Windows 使用set USE_OPENMIND_HUB1 将 model_name_or_path 设置为模型 ID 来加载对应的模型。 在魔乐社区查看所有可用的模型例如 TeleAI/TeleChat-7B-pt。 当然设置了环境变量之后重启环境以使上面这个设置生效。 如果再下载过程中出现错误有可能是您没有安装相应的工具
pip install modelscope1.11.0
安装好工具后再重新启动工具 在webUI中执行加载模型 在命令行后台中可以看到下载的状态如下 下载完成后可以看到加载成功 如果本地空间出现一些问题可以在这里修改模型路径重新下载 这里我把模型地址修改为/home/tongyuzhou/aigc2/Llama-3/Llama-3.2-1B 然后重新加载把刚刚下载的模型拷贝到这里重新加载即可。
如果过程中出现失败重新启动整套环境再尝试默认路径不要修改才会自动加载修改了之后就会从该地址加载模型了如果该路径下没有模型就会报错。
微调模型
在这里可以微调数据 可以选择一个数据集尝试 预览一下 可以直接点击这里完成训练 本篇仅仅是个预览接下来我会带着大家仔仔细细地做一遍。
