本教程由 无忆研习社 独家整理,全网最详细的 LTX-2 本地部署与使用指南。从原理剖析到实战操作,手把手带你玩转这款革命性的开源AI视频生成模型。
前言:为什么 LTX-2 值得关注
2025年10月,Lightricks 公司发布了 LTX-2,这是一款颠覆性的AI视频生成模型。不同于以往需要高端硬件才能运行的商业模型,LTX-2 这次以完全开源的姿态出现,并且对硬件要求极为友好——即便是仅有8GB显存的中端显卡,也能流畅运行。
无忆研习社在第一时间对这款模型进行了深度测试,发现它不仅能生成高质量的视频画面,更重要的是实现了音视频同步生成——这在开源模型中尚属首次。你可以直接通过文字描述,一次性生成带有对话、环境音效、背景音乐的完整视频,人物口型与语音完美匹配,画面与声音浑然一体。
本文将从技术原理、硬件配置、安装部署到实战应用,为你呈现一份详尽的 LTX-2 使用指南。无论你是AI视频创作的新手还是有一定经验的玩家,都能从这篇教程中获得实用的知识。
第一章:LTX-2 技术解析
1.1 什么是 LTX-2
LTX-2 是由 Lightricks 公司研发的新一代AI视频基础模型。Lightricks 是一家专注于AI驱动内容创作的公司,旗下拥有知名产品 Facetune 和 LTX Studio。LTX-2 代表了他们在生成式AI领域的最新突破。
核心特性一览:
|
特性 |
具体参数 |
|
模型参数量 |
190亿(19B) |
|
最高分辨率 |
4K(2160p) |
|
最高帧率 |
50 FPS |
|
最长时长 |
20秒 |
|
架构类型 |
Diffusion Transformer (DiT) |
|
开源协议 |
Apache 2.0 |
LTX-2 不仅仅是一个视频生成模型,它是首个实现音视频联合生成的开源基础模型。这意味着当你输入一段描述时,模型会同时理解画面内容和声音需求,在一次推理过程中同步生成视觉和听觉内容。
1.2 Diffusion Transformer 架构详解
要理解 LTX-2 的强大之处,我们需要先了解它的技术基础——Diffusion Transformer(DiT)架构。
1.2.1 扩散模型基础
扩散模型是一类基于马尔可夫链的生成模型,其工作原理可以形象地理解为"从噪声中雕刻出作品"。整个过程分为两个阶段:
前向扩散过程:将原始数据(如图像或视频)逐步添加高斯噪声,最终变成纯随机噪声。这个过程可以用数学公式表示为在每一步都向数据中加入少量噪声,经过足够多的步骤后,原始信息被完全淹没。
反向去噪过程:训练一个神经网络来学习如何逐步去除噪声,从纯噪声还原出有意义的内容。在生成时,从随机噪声开始,通过多步去噪最终得到目标视频。
这种方法的优势在于生成质量高、训练稳定,且能够产生多样化的输出结果。
1.2.2 Transformer 的引入
传统的扩散模型通常使用 U-Net 作为去噪网络的骨架。U-Net 由一系列卷积层和自注意力层组成,在图像生成任务上表现出色。然而,当面对视频这种时空数据时,U-Net 架构面临几个挑战:
首先是长程依赖建模的问题。视频需要在时间维度上保持连贯性,一个5秒的视频可能包含数百帧画面,帧与帧之间需要保持一致的人物外观、场景布局和运动轨迹。U-Net 的感受野有限,难以捕捉这种长距离的时序依赖关系。
其次是可扩展性的限制。随着研究人员尝试增加模型规模以提升生成质量,U-Net 架构的扩展效率逐渐成为瓶颈。
Diffusion Transformer 应运而生。它用 Transformer 架构替换了 U-Net,将视频数据表示为一系列时空 token,通过自注意力机制建立任意两个 token 之间的联系。这种设计带来了显著优势:
全局注意力:每个 token 都可以直接关注到视频中任何位置的其他 token,无论空间还是时间上相距多远。这使得模型能够更好地维持时间一致性和空间连贯性。
优秀的可扩展性:Transformer 架构已经在大语言模型领域证明了其随规模增长而性能提升的特性。DiT 模型同样展现出了类似的 scaling law——更大的模型、更多的计算量往往带来更好的生成质量。
模块化设计:DiT 的模块化特性使得研究人员可以方便地插入各种条件控制模块,实现精细的生成控制。
1.2.3 LTX-2 的创新:非对称双流架构
LTX-2 在 DiT 的基础上进行了进一步创新,采用了非对称双流变换器(Asymmetric Dual-Stream Transformer)架构来处理音视频联合生成的挑战。
传统方法处理多模态生成时,通常采用两阶段策略:先生成视频,再根据视频生成音频(或反过来)。这种串行方式不仅效率低下,而且由于两个模态是独立生成的,很难实现真正的同步和协调。对话的口型可能对不上,环境音效的时机可能不准确。
LTX-2 的设计理念是将音视频生成视为一个统一的问题。模型内部包含两个处理流:
视频流:参数量更大,负责处理视觉信息的生成。视频信息量远大于音频,需要更强的建模能力。
音频流:相对轻量,专注于声音生成。与视频流通过交叉注意力机制进行深度交互。
两个流在去噪过程中持续交换信息,使得生成的运动、对话、环境音效和音乐能够自然地同步。当模型生成一个人物说话的画面时,它同时知道这个人应该在这个时刻发出什么样的声音,口型如何变化,周围环境有什么背景噪音。
1.3 技术参数详解
了解 LTX-2 的具体技术参数,有助于我们更好地使用它。
1.3.1 输入输出规格
分辨率支持:
- 最低:512×512(适合快速测试)
- 标准:1280×720(720p,平衡质量与速度)
- 高清:1920×1080(1080p,画质优秀)
- 超高清:3840×2160(4K,最高质量)
重要限制:宽度和高度必须是32的整数倍。如果你指定的分辨率不满足这个条件,系统会自动进行填充处理,可能导致输出尺寸与预期不符。建议直接使用标准分辨率。
帧数规则:生成的帧数必须满足 8n + 1 的格式,其中 n 是正整数。也就是说,有效的帧数包括 9、17、25、33、41、49... 等。这是模型架构决定的硬性要求。
帧率选择:
- 15 FPS:适合静态场景,如人物特写、产品展示
- 24 FPS:电影感,适合大多数叙事内容
- 30 FPS:流畅自然,通用选择
- 50 FPS:高动态场景,运动、舞蹈等
1.3.2 生成模式
LTX-2 支持多种输入输出组合,能够适应不同的创作需求:
文生视频(Text-to-Video):只需提供文字描述,模型会从零开始生成完整的音视频内容。这是最常用的模式,适合从创意构思直接生成素材。
图生视频(Image-to-Video):上传一张静态图片作为起始帧,模型会基于图片内容生成动态视频。非常适合让静态素材"活"起来,如让照片中的人物开口说话、让风景画面加入动态元素。
视频转视频(Video-to-Video):输入一段已有视频,模型可以对其进行风格转换、内容修改或效果增强。可以将真实拍摄的视频转换为动画风格,或者修改视频中的特定元素。
深度控制(Depth-to-Video):使用深度图作为结构引导,精确控制场景的空间布局和透视关系。适合需要严格把控场景结构的专业应用。
边缘检测引导(Edge-to-Video):通过边缘检测图控制生成内容的轮廓和结构,实现精准的形状一致性。
1.4 与同类模型的对比
在开源视频生成领域,LTX-2 并非孤军奋战。让我们将它与其他主流模型进行客观比较:
|
对比维度 |
LTX-2 |
Wan 2.2 |
HunyuanVideo |
CogVideoX |
|
音频生成 |
原生支持 |
不支持 |
不支持 |
不支持 |
|
最高分辨率 |
4K |
1080p |
1080p |
720p |
|
最长时长 |
20秒 |
10秒 |
5秒 |
6秒 |
|
最低显存需求 |
8GB(量化版) |
12GB |
16GB |
12GB |
|
生成速度 |
快 |
较快 |
中等 |
较慢 |
|
时序一致性 |
优秀 |
良好 |
良好 |
一般 |
从表格可以看出,LTX-2 在多个维度上都有优势:首创的音频生成能力、更高的分辨率支持、更长的生成时长、更低的硬件门槛以及更快的生成速度。当然,每个模型都有其特色,选择时应根据具体需求决定。
第二章:硬件配置与显存优化
2.1 硬件需求分析
LTX-2 提供了多个版本以适应不同的硬件条件。无忆研习社对各版本进行了详细测试,下面是完整的配置建议。
2.1.1 完整精度版(BF16)
这是模型的原始版本,使用 bfloat16 浮点精度,提供最高的生成质量。
最低配置:
- 显卡:NVIDIA RTX 4090(24GB)或同等显存的专业卡
- 内存:32GB DDR4/DDR5
- 存储:100GB 可用空间(SSD 推荐)
- 系统:Windows 10/11 或 Ubuntu 20.04+
推荐配置:
- 显卡:NVIDIA RTX 4090 或 A100 40GB
- 内存:64GB DDR5
- 存储:500GB NVMe SSD
- 系统:Ubuntu 22.04 LTS
完整精度版适合追求最高质量输出的专业用户,如影视后期制作、广告创意等场景。
2.1.2 FP8 量化版
FP8 量化将模型精度从 16 位降低到 8 位,显著减少显存占用,同时保持接近原版的生成质量。
最低配置:
- 显卡:NVIDIA RTX 4080(16GB)
- 内存:16GB DDR4
- 存储:60GB 可用空间
推荐配置:
- 显卡:NVIDIA RTX 4080 SUPER 或 RTX 4090
- 内存:32GB DDR5
- 存储:200GB NVMe SSD
FP8 版本是性价比最高的选择,适合大多数中高端用户。
2.1.3 NVFP4 量化版
NVFP4 是 NVIDIA 专为 RTX 40 系列显卡优化的 4 位量化格式,可以在显著降低显存的同时保持不错的质量。
硬件要求:
- 显卡:必须是 RTX 40 系列(RTX 4060 及以上)
- 最低显存:10GB
- 内存:16GB DDR4
NVFP4 是 RTX 40 系列用户的福音,让中端显卡也能体验 LTX-2 的魅力。
2.1.4 GGUF 量化版(推荐中低端用户)
GGUF(GPT-Generated Unified Format)是一种智能量化格式,通过在不同层使用不同精度,在大幅压缩模型的同时最大限度保留生成能力。
量化等级对照表:
|
量化等级 |
模型大小 |
显存需求 |
质量损失 |
适用显卡 |
|
Q8_0 |
21GB |
24GB+ |
几乎无损 |
RTX 4090 |
|
Q6_K |
16.6GB |
18GB+ |
极小 |
RTX 4080 |
|
Q5_K_M |
15GB |
16GB+ |
很小 |
RTX 4080/4070Ti |
|
Q4_K_M |
13.4GB |
14GB+ |
小 |
RTX 4070Ti/3090 |
|
Q4_K_S |
12.3GB |
13GB+ |
小 |
RTX 4070/3080 |
|
Q3_K_M |
10.3GB |
11GB+ |
中等 |
RTX 3080/3070Ti |
|
Q2_K |
8GB |
8-10GB |
明显 |
RTX 4060/3060Ti |
对于 8GB 显存的显卡(如 RTX 4060、RTX 3060 Ti),Q2_K 或 Q3_K_M 是可行的选择。虽然有一定质量损失,但足以进行创意探索和原型验证。
2.2 蒸馏版模型介绍
除了量化版本外,Lightricks 还提供了蒸馏版(Distilled)模型。蒸馏是一种模型压缩技术,通过让小模型学习大模型的输出分布来获得相近的能力。
蒸馏版的特点:
- 推理步数从 20-50 步减少到 8 步
- 生成速度提升 3-5 倍
- 显存占用降低约 20%
- 质量略有下降,但仍保持较高水准
蒸馏版特别适合快速迭代创意、批量生成素材等对速度要求较高的场景。在无忆研习社的测试中,8 步蒸馏版的生成速度可以达到完整版的 4 倍以上。
2.3 显存优化技巧
即便选择了适合的模型版本,在实际使用中仍可能遇到显存不足的情况。以下是经过无忆研习社验证的显存优化方法:
2.3.1 分辨率调整策略
分辨率对显存的影响是平方级的。将分辨率从 1280×720 降低到 640×360,显存占用会下降到原来的四分之一。
推荐策略:
- 8GB 显存:640×360 或 512×512
- 12GB 显存:768×512 或 640×480
- 16GB 显存:1024×576 或 720p
- 24GB 显存:1080p 或更高
2.3.2 帧数控制
帧数与显存占用成正比。对于显存有限的用户,建议从较短的视频开始:
- 8GB 显存:16-24 帧(约 1 秒)
- 12GB 显存:24-32 帧(1-2 秒)
- 16GB 显存:32-48 帧(2-3 秒)
- 24GB 显存:可以尝试更长时长
2.3.3 Tiled VAE 技术
这是一个非常实用的显存优化技巧。VAE(变分自编码器)是模型中负责编解码的组件,在处理高分辨率内容时会占用大量显存。
Tiled VAE 将大图像分割成多个小块分别处理,然后再拼接起来。这样可以用更长的处理时间换取更低的峰值显存占用。
在 ComfyUI 中启用 Tiled VAE:
- 安装
ComfyUI-TiledVAE节点 - 在工作流中用 Tiled VAE Encode/Decode 节点替换标准 VAE 节点
- 调整 tile_size 参数(通常设为 512 或 256)
2.3.4 关闭 Prompt 增强功能
LTX-2 的官方工作流中包含一个"Enhance Prompt"功能,用于自动优化用户输入的提示词。这个功能需要额外加载一个文本编码器,会占用约 8GB 显存。
对于低显存用户的建议:删除 Enhance Prompt 节点,改用 ChatGPT、Claude 或 Gemini 等外部工具手动优化提示词,然后将优化后的提示词直接粘贴到 ComfyUI 中。这样可以节省宝贵的 8GB 显存。
第三章:ComfyUI 环境搭建
ComfyUI 是运行 LTX-2 的首选平台。它是一个开源的节点式工作流编辑器,专为各种扩散模型设计。无忆研习社强烈推荐使用 ComfyUI 来部署 LTX-2,因为它提供了最完善的支持和最灵活的控制。
3.1 ComfyUI 简介
ComfyUI 采用可视化节点图的方式来构建 AI 生成流程。每个节点代表一个功能模块,通过连接不同节点的输入输出来构建完整的工作流。这种设计的优势在于:
直观性:整个生成流程一目了然,便于理解和调试。
灵活性:可以随意组合节点,创建个性化的工作流。
可复用性:工作流可以保存、分享和复用,社区有大量现成的工作流模板。
高效性:ComfyUI 只重新执行发生变化的节点,大幅提升迭代效率。
3.2 Windows 系统安装
3.2.1 方法一:官方安装器(推荐新手)
这是最简单的安装方式,适合不熟悉命令行的用户。
步骤 1:下载安装器
访问 ComfyUI 官方下载页面:https://www.comfy.org/download
页面上提供了两个版本:
- Windows 版本:适用于 Windows 10/11 64位系统
- macOS 版本:仅支持 Apple Silicon(M1/M2/M3/M4)芯片
点击"Download for Windows"下载安装程序,文件大小约 120MB。
步骤 2:运行安装程序
双击下载的安装文件,按照向导提示操作:
- 选择安装语言(支持简体中文)
- 选择安装位置。默认安装到 C 盘,如果你的系统盘空间紧张或经常重装系统,建议选择其他盘符
- 点击"安装"开始安装过程
步骤 3:首次启动配置
安装完成后启动 ComfyUI,系统会引导你进行初始配置:
- 选择硬件类型:
- 如果你有 NVIDIA 显卡,选择第一项"NVIDIA GPU",这将启用 CUDA 加速
- 如果没有独立显卡,选择"CPU"模式,但速度会很慢
- 选择安装位置:
- ComfyUI 需要下载很多依赖库和模型
- 默认位置是 C 盘的用户文档目录
- 可以自定义到其他空间充足的盘符
- 配置更新和数据收集:
- 自动更新:建议开启,确保使用最新版本
- 数据收集:可以根据个人偏好选择是否开启
- 网络配置(重要):
- 模型下载托管在 Hugging Face 上
- 如果你在国内网络环境下,可能需要配置代理
- 在设置中找到"高级设置",展开后可以配置全局代理
配置完成后,ComfyUI 会自动下载必要的依赖包和 PyTorch 环境。这个过程可能需要一些时间,请耐心等待。
3.2.2 方法二:便携版(推荐有经验用户)
便携版不需要安装,解压即用,方便备份和迁移。
步骤 1:下载便携包
访问 ComfyUI GitHub 发布页面:https://github.com/Comfy-Org/ComfyUI/releases
下载最新的 ComfyUI_windows_portable_nvidia.7z 文件。
步骤 2:解压文件
使用 7-Zip 解压到你想要的位置。注意:
- 路径不要包含中文和特殊字符
- 不要放在需要管理员权限的目录(如 Program Files)
- 建议路径尽量短(Windows 有路径长度限制)
步骤 3:启动 ComfyUI
进入解压后的文件夹,双击 run_nvidia_gpu.bat 启动。
首次启动会在命令行窗口显示初始化信息,等待出现类似以下内容表示启动成功:
Starting server
To see the GUI go to: http://127.0.0.1:8188
打开浏览器访问 http://127.0.0.1:8188 即可进入 ComfyUI 界面。
3.3 macOS 系统安装
macOS 用户需要注意,目前 ComfyUI 在 Mac 上仅完整支持 Apple Silicon(M系列芯片)。Intel 芯片的 Mac 虽然可以运行,但效率很低且可能遇到兼容性问题。
安装步骤:
- 从官网下载 macOS 版本安装包
- 打开 .dmg 文件,将 ComfyUI 拖入 Applications 文件夹
- 首次运行可能需要在"系统偏好设置 > 安全性与隐私"中允许运行
Apple Silicon Mac 使用 Metal Performance Shaders(MPS)进行加速。虽然效率不如 NVIDIA CUDA,但对于创意探索已经足够。
3.4 Linux 系统安装
Linux 是运行 AI 模型的理想平台,提供更好的稳定性和资源利用效率。
步骤 1:安装依赖
确保系统已安装 Python 3.10+ 和 Git:
sudo apt update
sudo apt install python3 python3-pip python3-venv git
如果使用 NVIDIA 显卡,确保已安装最新驱动和 CUDA:
nvidia-smi # 检查驱动安装状态
步骤 2:克隆仓库
git clone https://github.com/Comfy-Org/ComfyUI.git
cd ComfyUI
步骤 3:创建虚拟环境
python3 -m venv venv
source venv/bin/activate
步骤 4:安装依赖
pip install --upgrade pip
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
pip install -r requirements.txt
步骤 5:启动 ComfyUI
python main.py
第四章:LTX-2 模型下载与配置
4.1 获取模型文件
LTX-2 的模型文件托管在 Hugging Face 上。根据你的硬件配置,选择合适的版本下载。
4.1.1 官方完整版
主模型权重(选择其一):
- 完整精度版:
ltx-2-19b-dev.safetensors(约 38GB) - 下载地址:https://huggingface.co/Lightricks/LTX-2/resolve/main/ltx-2-19b-dev.safetensors
蒸馏版 LoRA:
- 文件名:
ltx-2-19b-distilled-lora-384.safetensors - 用途:配合主模型实现 8 步快速生成
- 下载地址:https://huggingface.co/Lightricks/LTX-2/resolve/main/ltx-2-19b-distilled-lora-384.safetensors
空间放大器:
- 文件名:
ltx-2-spatial-upscaler-x2-1.0.safetensors - 用途:将生成结果放大到更高分辨率
- 下载地址:https://huggingface.co/Lightricks/LTX-2/resolve/main/ltx-2-spatial-upscaler-x2-1.0.safetensors
时间放大器:
- 文件名:
ltx-2-temporal-upscaler-x2-1.0.safetensors - 用途:增加视频帧率,使运动更流畅
文本编码器(必需):
- 名称:Google Gemma 3 12B(量化版)
- 下载整个文件夹:https://huggingface.co/google/gemma-3-12b-it-qat-q4_0-unquantized
- 这是一个约 20GB 的文件夹,包含多个文件
4.1.2 GGUF 量化版
如果你的显存有限,GGUF 量化版是更好的选择。
推荐来源:
- Unsloth 提供的量化版:https://huggingface.co/unsloth/LTX-2-GGUF
下载说明:
- 进入上述页面后,在"Files and versions"标签下可以看到不同量化等级的文件
- 根据你的显存选择合适的版本(参考前文的量化等级对照表)
- 文件名格式通常为:
ltx-2-Q4_K_M.gguf
注意事项:使用 GGUF 模型需要额外安装 ComfyUI-GGUF 节点(后文会介绍)。
4.2 文件存放位置
下载完成后,需要将文件放到 ComfyUI 的指定目录中。
目录结构说明:
ComfyUI/
├── models/
│ ├── checkpoints/ # 主模型文件
│ │ └── ltx-2-19b-dev.safetensors
│ ├── loras/ # LoRA 文件
│ │ └── ltx-2-19b-distilled-lora-384.safetensors
│ ├── latent_upscale_models/ # 放大器模型
│ │ ├── ltx-2-spatial-upscaler-x2-1.0.safetensors
│ │ └── ltx-2-temporal-upscaler-x2-1.0.safetensors
│ ├── text_encoders/ # 文本编码器
│ │ └── gemma-3-12b-it-qat-q4_0-unquantized/
│ │ └── (多个文件)
│ └── unet/ # GGUF 模型放这里(如果使用的话)
│ └── ltx-2-Q4_K_M.gguf
重要提示:
- 确保文件夹名称完全正确,区分大小写
- 文件要放在正确的子目录中,否则 ComfyUI 无法识别
- 如果使用便携版,
models文件夹在ComfyUI_windows_portable/ComfyUI/models/
4.3 安装必要的节点
LTX-2 需要一些自定义节点才能在 ComfyUI 中运行。
4.3.1 安装 ComfyUI Manager(强烈推荐)
ComfyUI Manager 是一个节点管理工具,可以方便地安装、更新和管理自定义节点。
安装方法:
- 在 ComfyUI 界面右上角,点击齿轮图标进入设置
- 找到"ComfyUI Manager"选项
- 如果没有安装,会提示安装链接,按提示操作即可
或者手动安装:
cd ComfyUI/custom_nodes
git clone https://github.com/ltdrdata/ComfyUI-Manager.git
安装后重启 ComfyUI,界面上会出现"Manager"按钮。
4.3.2 安装 LTX-Video 节点
这是运行 LTX-2 的核心节点包。
通过 Manager 安装:
- 点击 Manager 按钮
- 选择"Custom Nodes Manager"
- 搜索"LTXVideo"
- 点击安装,等待完成后重启 ComfyUI
手动安装:
cd ComfyUI/custom_nodes
git clone https://github.com/Lightricks/ComfyUI-LTXVideo.git
4.3.3 安装 GGUF 支持(仅量化版需要)
如果你使用 GGUF 量化模型,还需要安装 GGUF 支持节点。
安装方法:
cd ComfyUI/custom_nodes
git clone https://github.com/city96/ComfyUI-GGUF.git
重要:安装后需要更新 GGUF 节点以支持 LTX-2 架构:
- 打开 ComfyUI Manager
- 进入"Custom Nodes Manager"
- 找到 ComfyUI-GGUF,点击"Update"
- 重启 ComfyUI
第五章:工作流搭建与使用
5.1 获取官方工作流模板
LTX-2 团队提供了多个预制工作流模板,覆盖不同的使用场景。
获取方式一:通过 ComfyUI 模板库
- 在 ComfyUI 界面中,点击顶部的"Template Library"(模板库)按钮
- 在分类中选择"Video"
- 找到 LTX-2 相关的工作流模板
- 点击加载,系统会自动提示下载缺失的模型
获取方式二:从 GitHub 下载
工作流文件位于:https://github.com/Lightricks/ComfyUI-LTXVideo/tree/master/example_workflows
常用工作流包括:
LTX-2_T2V_Full.json- 文生视频完整版LTX-2_I2V_Full.json- 图生视频完整版LTX-2_T2V_Distilled.json- 文生视频蒸馏版(快速)LTX-2_ICLora_Pipeline.json- 使用控制 LoRA 的工作流
下载后,在 ComfyUI 中按 Ctrl+O(或点击 Load 按钮)导入工作流文件。
5.2 文生视频工作流详解
让我们详细了解一个典型的文生视频工作流是如何工作的。
5.2.1 核心节点说明
LTX-2 Model Loader:
- 功能:加载 LTX-2 模型权重
- 输入:模型文件路径
- 输出:模型对象,供后续节点使用
Text Encoder(Gemma):
- 功能:将文字提示词转换为模型能理解的向量表示
- 输入:提示词文本
- 输出:文本嵌入向量
LTX-2 Sampler:
- 功能:执行扩散采样过程,从噪声生成潜在表示
- 关键参数:
- steps:采样步数,越多质量越高但速度越慢
- cfg_scale:提示词引导强度,通常 7-12 之间
- seed:随机种子,相同种子可复现结果
VAE Decode:
- 功能:将潜在表示解码为实际的视频帧
- 这是计算量较大的步骤,可能需要较多显存
Video Combine:
- 功能:将生成的帧序列合并为视频文件
- 可以设置帧率、编码格式等参数
5.2.2 参数调优指南
分辨率设置:
- 宽度(width)和高度(height)必须是 32 的倍数
- 建议从较低分辨率(如 640×360)开始测试
- 确认效果满意后再提升分辨率
帧数设置:
- 必须满足 8n+1 的格式
- 常用值:25(约1秒@24fps)、49(约2秒@24fps)、97(约4秒@24fps)
采样步数:
- 完整版模型:推荐 20-30 步
- 蒸馏版模型:8 步即可获得不错效果
- 步数过多会增加时间但不一定提升质量
CFG Scale(引导强度):
- 数值越高,生成结果越接近提示词描述
- 但过高会导致画面过度饱和、细节丢失
- 推荐范围:7-12,默认值通常为 8
5.3 图生视频工作流
图生视频是一个非常实用的功能,可以让静态图片"活"起来。
5.3.1 工作流配置
相比文生视频,图生视频工作流增加了以下节点:
Image Loader:
- 功能:加载参考图片
- 支持格式:PNG、JPG、WEBP 等
VAE Encode:
- 功能:将图片编码为潜在表示
- 这个潜在表示会作为视频生成的起始帧
重要设置:
- 分辨率匹配:视频分辨率应与输入图片的宽高比一致,否则可能出现变形或裁切。如果图片是 720×1280(竖屏),视频也应设置为相同或成比例的分辨率。
- 提示词编写:图生视频的提示词应该补充图片中没有的动态信息,避免重复描述图片已有的内容。例如,如果图片是一个站在海边的女孩,提示词可以是"微风吹动她的长发,海浪轻轻拍打沙滩,她微笑着说:大家好,欢迎来到这里"。
5.3.2 最佳实践
输入图片质量:
- 高分辨率图片效果更好
- 清晰的人脸有助于保持面部一致性
- 避免过度压缩或模糊的图片
动作描述:
- 描述应该循序渐进,从简单动作开