TI2V-5B 常见 OOM 排查和量化加速技巧

OOM 的常见原因和解决顺序

跑 TI2V-5B 出现 OutOfMemoryError，按以下顺序尝试，每步都够了就停下：

1. 确认加了三个关键参数：--offload_model True --convert_model_dtype --t5_cpu
2. 降低分辨率：从 1280*704 降到 854*480（480P），显存直接砍半
3. 关掉其他占显存的程序：浏览器、IDE、其他 Python 进程都关掉
4. 缩短视频时长：默认 5 秒，改内部参数可以更短
5. 尝试 FP8 量化权重：社区 LightX2V 等项目提供量化版，显存再降约 30%

480P vs 720P 怎么选

建议：先用 480P 跑通 workflow、调好 prompt，再切 720P 出最终版本。这样节省时间。

量化模型

社区已经在做 TI2V-5B 的量化版本：

• LightX2V（ModelTC）：提供 8-bit、4-bit 量化权重和推理加速框架
• Cache-dit（唯品会）：支持 Wan2.2 MoE 的 Fully Cache Acceleration，含 DBCache、TaylorSeer

量化带来的好处是显存降低、速度变快，但可能有轻微的质量损失。如果你在 16GB 显卡上跑，量化版可能是唯一出路。

FlashAttention 的作用

FlashAttention 3 / 2 能显著降低注意力机制的显存消耗并加速推理。确认安装成功：

python -c "import flash_attn; print('FlashAttention OK')"

如果之前按 克隆与依赖 的技巧（最后单独装）还是装不上，也可以先跳过 FlashAttention 跑通——只是慢一些、显存高一些。

LoRA 微调

TI2V-5B 可以用 LoRA 微调做风格迁移或角色定制。DiffSynth-Studio 等工具提供了 Wan2.2 的 LoRA 训练支持，包括：

• FP8 量化
• 层逐层卸载（低显存训练）
• Sequence Parallelism
• LoRA 和全量微调

LoRA 训练通常只需要几个 A100 的显存，比全量微调轻量很多。