Logo
Loading...
期刊
专家
顶会专区
ECCV 2026 | 免训练即插即用,DiT推理加速新方案:浙大提出ResilPhase, 5倍加速下画质近乎无损
GAIR DAO 2026-08-27

来源:我爱计算机视觉

原文链接:https://mp\.weixin\.qq\.com/s/3xekNy\_ObCYtS2\-mFkos1g

扩散Transformer(Diffusion Transformers, DiT)如今已成为高保真视觉生成领域的黄金标准,像广为人知的 FLUX.1 和 HunyuanVideo 等模型,其生成效果确实令人惊叹。然而,这种惊艳效果的背后,是极其高昂的推理延迟——在单张 A100 显卡上,FLUX.1-dev 生成一张图片需要耗费将近 24 秒。这种顺序(sequential)的去噪机制,严重制约了它的实时部署。

为了攻克这一瓶颈,学术界近期涌现出了许多“缓存并预测”的免训练加速方案(如 TaylorSeer、HiCache 等),试图通过多项式来预测特征轨迹。然而,这些方案在面对高加速比(比如 5 倍加速)时,往往会遭遇画质“雪崩式”的退化。

浙江大学的研究团队在最新被 ECCV 2026 录用的论文中,深入剖析了这一失败的根源,并提出了一种名为ResilPhase 的免训练、即插即用加速框架。它不仅在 FLUX.1-dev 和 HunyuanVideo 上实现了近 5 倍的无损加速,而且将额外显存开销降到了近乎为零的0.27 GB。

背景与动机:传统外推方案的三大硬伤

要理解 ResilPhase 为什么有效,需要先审视传统的外推加速方案卡在了哪里。作者指出,现有的预测缓存方案在空间、时间和数值逼近三个维度上存在硬伤:

方法详解:重构无导数的有界相位空间外推

为了彻底解决上述痛点,ResilPhase 抛弃了传统的逐层预测和导数逼近,从空间、时间和数值逼近三个维度对加速推理进行了重构。

1. ODE对齐的宏观轨迹目标(Global Drift)

为了斩断空间上的误差累积,ResilPhase 将预测目标从“逐层的微观特征”提升到了“全局的常微分方程(Ordinary Differential Equation, ODE)状态演化”。

作者定义了全局漂移(Global Drift, GD),记为。它表示模型的最终输出 与初始输入 之间的端到端状态位移:

在跳过的推理步骤中,推理过程不再去计算或预测那几十层 Transformer 块的中间特征,而是直接用一个宏观预测器 来外推这个全局漂移。最终的输出直接通过简单的加法重建:

输入与输出流程:

这种设计将空间误差的累积上界从 降到了,不仅彻底避免了误差在层间的放大,还因为不需要缓存任何中间层特征,将缓存的显存开销降到了近乎为零。

2. 无导数的重心拉格朗日外推

虽然全局漂移(GD)的轨迹非常平滑,但其高阶时间导数依然嘈杂。为了绕开导数计算,ResilPhase 引入了无导数的重心拉格朗日插值法(Barycentric Lagrange Interpolation)。

对于 个历史数据点,其插值多项式为:

其中,重心权重 仅与时间步的相对位置有关。这意味着在推理前,可以直接预计算并缓存这些权重,在实际推理时,外推的计算复杂度仅为,且完全避开了不稳定的有限差分导数。

输入与输出流程:

3. 即插即用的相位映射(Phase Mapping)

为了从根本上抑制龙格现象引起的边缘振荡,ResilPhase 首次提出将物理时间步 投影到一个有界的连续相位空间 中进行外推。

输入与输出流程:

论文中设计了两种映射机制:

实验与结果:5倍加速下的无损神话

研究团队在 FLUX.1-dev、HunyuanVideo 和 DiT-XL/2 等主流模型上进行了广泛的测试。

1. FLUX.1-dev 文生图表现

在 FLUX.1-dev 上,未加速的 50 步采样耗时 23.69 秒。

如 Table 1 所示,在相似的加速比下,ResilPhase 的表现令人惊艳。在4.97倍 的高加速比下(耗时缩短至 4.77 秒),ResilPhase 依然保持了1.0258 的 ImageReward 和29.536 的 PSNR。而同等加速比下的 TaylorSeer,其 ImageReward 跌落至 0.6241,LPIPS 飙升至 0.8012,画面出现了严重的语义崩坏和伪影。

2. HunyuanVideo 文生视频表现

在 HunyuanVideo 的文生视频任务中,ResilPhase 同样展现出了统治级的画质保持能力。在4.98倍 加速下,其 VBench 得分高达79.78,PSNR 达到18.920,在运动一致性和细节保留上显著超越了 TeaCache 和 ToCa 等强劲基线。

3. 极低的显存开销与强大的即插即用性

得益于Global Drift 的宏观设计,ResilPhase 避开了对逐层特征的缓存。实验表明,传统方案(如 TaylorSeer、HiCache)在运行 FLUX.1-dev 时会带来额外的+7.35 GB 显存开销,而 ResilPhase 仅增加了+0.27 GB,几乎是零开销,这让消费级显卡部署 5 倍加速的 FLUX 变为了现实。

值得一提的是,Phase Mapping 具有极强的普适性。将其作为即插即用的稳定器直接嵌入现有的 TaylorSeer 或 HiCache 中,能让这些原本在高倍率下崩溃的算法,其 ImageReward 和 LPIPS 指标得到立竿见影的巨大提升。

写在最后

ResilPhase 是经典数值分析理论与现代深度学习推理优化的结合,回归到数学模型的探讨,用拉格朗日插值和切比雪夫节点这样经典的工具,同样能优雅地解开“高加速比下画质崩溃”的死结。

目前该项目已在 GitHub 开源,如果想要在本地体验 5 倍加速且近乎不占额外显存的 FLUX.1,不妨先去给作者点个 Star 再体验一下。

原文链接: https://www.leiphone.com/category/private/oKC0UfSUJcvt9Aul.html