大模
推测强制加速自回归视频生成
针对少步自回归视频生成中所有 token 都跑完最终去噪步的浪费问题,提出 Speculative Forcing 框架,将中间干净估计作为草稿,预测哪些 token 可提前接受并冻结,同时保留其 KV 缓存作为上下文。在短视频、长视频和世界生成任务上保持全步采样质量,LongLive 上每 token 约 1.7 步去噪、提速超 1.5 倍。
大模型·Hugging Face Papers·5 天前
先用站内已采集内容作答;站内不足时联网检索,每条结论都给出来源链接
1 条 · 点击可看原文全文与中文译文
针对少步自回归视频生成中所有 token 都跑完最终去噪步的浪费问题,提出 Speculative Forcing 框架,将中间干净估计作为草稿,预测哪些 token 可提前接受并冻结,同时保留其 KV 缓存作为上下文。在短视频、长视频和世界生成任务上保持全步采样质量,LongLive 上每 token 约 1.7 步去噪、提速超 1.5 倍。
现有资料不足以完整回答两者的验证机制异同——资料1只描述了 Speculative Forcing 一侧的机制,没有给出投机解码(speculative decoding)验证流程的任何细节,因此无法做逐项对比。以下仅列出资料中能确认的部分: Speculative Forcing 一侧可确认的机制
关于与投机解码的异同 资料1未提及投机解码,也未说明其验证是否为「逐 token 严格校验 + 拒绝后回退重采样」这类典型流程,因此无法判断两者在验证判据、拒绝回退策略、是否保证与全步采样等价等方面的异同。若需要这部分对比,需补充投机解码相关文献。