InternVL 微调实践

2024/10/26 4:23:20 来源：https://blog.csdn.net/weixin_44367813/article/details/142605795 浏览: 次关键词：InternVL 微调实践

任务

follow 教学文档和视频使用QLoRA进行微调模型，复现微调效果，并能成功讲出梗图.

复现过程

参考教程部署：https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/InternVL/joke_readme.md
训练
在这里插入图片描述

合并权重&&模型转换

python3 xtuner/configs/internvl/v1_5/convert_to_official.py xtuner/configs/internvl/v2/internvl_v2_internlm2_2b_qlora_finetune.py /root/InternLM/work_dir/internvl_ft_run_8_filter/iter_1000.pth /root/InternLM/InternVL2-2B/

模型在这
在这里插入图片描述

最后效果

在这里插入图片描述

本网仅为发布的内容提供存储空间，不对发表、转载的内容提供任何形式的保证。凡本网注明“来源：XXX网络”的作品，均转载自其它媒体，著作权归作者所有，商业转载请联系作者获得授权，非商业转载请注明出处。

我们尊重并感谢每一位作者，均已注明文章来源和作者。如因作品内容、版权或其它问题，请及时与我们联系，联系邮箱：809451989@qq.com，投稿邮箱：809451989@qq.com

热文排行

热搜词

萌，我宣布你的宣布有效！人一旦停止索取情绪价值，赚钱就容易了——早读（逆天打工人爬取热门微信文章解读）苏州金龙技术创新赋能旅游新质生产力反悔贪心学习笔记[浅谈] QT QDialog::exec()调用时清除部件所有焦点动态应用程序安全测试 (DAST) 工具 Fortify WebInspect python编写批量漏洞检测poc模板

InternVL 微调实践

任务

复现过程

相关资讯

热文排行

最新新闻

推荐新闻

热搜词