2.7 KiB
2.7 KiB
name, description, type
| name | description | type |
|---|---|---|
| LTX-2.3 GGUF 跑通配置（7900XTX 24GB） | LTX-2.3 22B Q4 GGUF + Gemma12B 在 7900XTX 24GB显存/32GB内存跑通的关键配置 | project |
LTX-2.3 GGUF 跑通配置（2026-07-31）
机器
- RX 7900 XTX 24GB VRAM + 32GB RAM，ROCm 7.2.4，ComfyUI 0.29.0
✅ 跑通的完整方案（49帧768x512蒸馏9步，178秒出片，无OOM）
- ComfyUI 启动参数（关键=动态内存）：
python main.py --listen 127.0.0.1 --port 8188 --disable-pinned-memory --enable-dynamic-vram --fast-disk --vram-headroom 3 --async-offload--enable-dynamic-vram：动态显存管理（权重按需加载，不再估算整块塞）--fast-disk：用 NVME 磁盘做卸载介质，不占 RAM（LTX 从占 14GB RAM 降到 ~0）- 注意：
--lowvram在 dynamic vram 开启时无效，可去掉
- LTX 主模型：
UnetLoaderGGUF加载 ltx-2.3-22b-distilled-1.1-Q4_K_M.gguf（GGMLOps 保持量化+mmap，实际只加载 13.8GB） - 文本编码器：
LTXAVTextEncoderLoader：- text_encoder = gemma_3_12B_it.safetensors（device=cpu）
- ckpt_name 必须指向 embeddings_connectors 文件（软链 checkpoints/ltx-2.3-22b-embconn.safetensors → unsloth/LTX-2.3-GGUF 的 text_encoders/ltx-2.3-22b-distilled_embeddings_connectors.safetensors，1.7GB）
- VAE：LTXVTiledVAEDecode（horizontal_tiles=2, vertical_tiles=2, working_device=cpu）
关键坑
- 维度错误 3840 vs 4096：GGUF/transformer_only 缺 text_embedding_projection（video/audio_aggregate_embed），gemma12B(3840) 进 embeddings_connector(4096) 报 RuntimeError。解法 = LTXAVTextEncoderLoader 的 ckpt_name 指向 embeddings_connectors.safetensors
- ckpt_name 是枚举下拉（枚举 checkpoints 目录）⚠️ 别瞎改名字：
LTXAVTextEncoderLoader.ckpt_name只认 ComfyUI 启动时扫到的列表（软链名ltx-2.3-22b-embconn.safetensors）。把它改成 text_encoders 里的真文件名（ltx-2.3-22b-distilled_embeddings_connectors.safetensors）→ 不在枚举列表 → 校验失败 → 输出节点被忽略 → "假成功"（1.45秒无输出文件）。改回软链名 → 260 秒真出片。写脚本时枚举参数照列表里有的名字写，别自作聪明"修正" - 下载 LTX GGUF 时必须同时下 unsloth 仓库配套的
*_embeddings_connectors.safetensors - 之前的坑：无 --enable-dynamic-vram/--fast-disk 时 LTX 双份占用（显存13.6G+RAM14G）+ Gemma12B → RAM 爆
Why: 爸爸说"他们用动态内存跑成功了"，查证=ComfyUI 的 DynamicVRAM(--enable-dynamic-vram)+--fast-disk 方案 + GGUF 配套组件。 How to apply: 跑 LTX-2.3 直接复用这套参数和文件组合；官方还推荐 gemma_3_12B_it_fp4_mixed.safetensors（FP4，~4-5GB）可进一步省 RAM。