SoftCache让扩散模型缓存步长自适应

扩散模型与流模型通过迭代步骤生成样本，每一步都需要对大型网络做一次完整的前向传播，而这次前向传播主导了生成成本。免训练缓存通过复用近期评估中的激活值而非重新计算来加速这一过程。动态缓存方法将网络输入的一个廉价探针累积为陈旧度信号，当该信号越过阈值时便执行一次新的评估，以此决定何时刷新。这类方法执行的是硬缓存：信号是刷新与复用之间的二值开关，且每一步——无论新算还是缓存——都按规定的步长推进。我们观察到，该信号所承载的信息远不止这个开关。它低于阈值的幅度，即其余量（headroom），可以预测复用所引入的误差。我们提出 SoftCache，执行软缓存：不再使用二值开关，而是由余量决定每个缓存步推进多远。在余量较大处，采样器跳过若干个计划节点；随着刷新临近，其步长逐渐收缩回原始步长。这些自适应跳跃可能落在计划节点之间，使采样器偏离其固定网格。SoftCache 无需训练，也不增加任何针对骨干网络的设置：在图像任务上的 FLUX 以及视频任务上的 HunyuanVideo 和 Wan2.1 上，在 3.5 倍到 6.9 倍的加速下，它在全部四项保真度指标上均领先于所有基线。