跑 Wan2.2 遇到 OOM?按这个顺序排查
第一步:确认你跑的是对的模型
先看一眼:你是不是把 A14B 系列(T2V-A14B / I2V-A14B)塞到了 24GB 显卡上?
显存门槛速查:
| 模型 | 最低显存 | 你的显卡能不能跑 |
|---|---|---|
| TI2V-5B | 24 GB | ✅ RTX 4090 / 3090 |
| A14B 系列 | 80 GB | ❌ RTX 系列,需要 A100 / H100 |
| S2V-14B | 80 GB | ❌ 同上 |
| Animate-14B | 80 GB | ❌ 同上 |
如果你的显卡显存 < 80GB,别碰 A14B / S2V / Animate,只能跑 TI2V-5B 或走百炼云端。
第二步:确认 TI2V-5B 的三个关键参数
TI2V-5B 单卡 24GB 能跑的前提是以下三个参数全部开启:
--offload_model True --convert_model_dtype --t5_cpu
缺少任何一个都可能 OOM。别嫌麻烦,直接做成 shell alias 或配置文件。
第三步:降低分辨率
TI2V-5B 的 720P 实际是 1280*704(注意不是 720)。如果还 OOM,降到 480P:
--size 854*480
480P 显存占用约为 720P 的 60%。
第四步:关别的程序
关掉浏览器(特别是开了视频标签页的 Chrome)、IDE 的 Python 调试器、Docker、其他占显存的 Python 进程。可以用 nvidia-smi 看一眼 GPU 当前占用:
nvidia-smi
看到有其他进程占着显存就 kill 掉。
第五步:FP8 量化
如果以上都做了还是 OOM,可以试试社区的 FP8 量化权重:
- LightX2V(ModelTC)提供量化的 TI2V-5B 权重和加速框架
- HuggingFace 上有带
fp8_scaled后缀的 A14B 量化权重
FP8 显存再降约 30%,速度略快,但质量有微小损失。
不建议的做法
- 硬跑 A14B 单卡:即使反复调整参数,也只是勉强能出图(单卡加 offload + 480P,速度很慢),不值得
- 关掉 FlashAttention:反而会让显存变高(FlashAttention 就是为了省显存设计的)
- 降低 batch_size:Wan2.2 默认 batch_size=1,已经是最小