刚接触AI时,只知道AI对显存的要求很高,但慢慢发现,AI对内存的要求也越来越高了。
最近尝试玩下 wan 2.1 ,进行图生视频,使用comfyui官方工作流,720p(720*1280)53帧,结果在 Load Diffusion Model 加载32G的模型时就无错误退出了,当时有留意加载过程,内存还未开始占用就中断了,所以也没想到是内存不够导致的,直到看了B站这个视频《【干货分享】使用Wan2.1模型生成高质量视频的正确姿势,ComfyUI手摸手教程》里面有个大哥说将:虚拟+物理内存 --> 增加到96G后成功加载,我试过增加到 84G都不行(因为我的硬盘所剩空间不大),最后我一狠心增加到 104G,也终于跑起来了。
加载过程中,占用物理内存最大达到过63.5G,下面截图是在模型刚加载完后的情况:
下图是在跑81帧K采样器刚开始运行时的情况,
附注:官方工作流 2080ti 图生视频耗时情况
(因为模型放在机械硬盘,下面的总时间包含了加载模型的耗时 620秒)
1、720p(720*1280)53帧(4秒) 20步:5531秒=1小时32分
(模型加载620秒+K采样4794秒+解码24秒+合成wep 90秒)
同样参数,4090D、64G内存,要18分钟(就是前面B站视频里面的UP主)
2、720p(720*1280)81帧(5秒) 20步:
3、720p(720*1280)97帧(6秒) 20步:15089秒=4小时11分
4、720p(720*1280)113帧(7秒) 20步:15小时
5、720p(720*1280)129帧(8秒) 20步:显存不够,需要使用到了共享显存,没法跑,在K采样器卡死了,几个小时都没跑完1步。
结论:要想在本地玩AI,除了显卡外,内存有能力搞多大就搞多大吧,我的主板太旧,除了换主板外,已经没办法再增加内存。