大模
推测强制加速自回归视频生成
针对少步自回归视频生成中所有 token 都跑完最终去噪步的浪费问题,提出 Speculative Forcing 框架,将中间干净估计作为草稿,预测哪些 token 可提前接受并冻结,同时保留其 KV 缓存作为上下文。在短视频、长视频和世界生成任务上保持全步采样质量,LongLive 上每 token 约 1.7 步去噪、提速超 1.5 倍。
大模型·Hugging Face Papers·5 天前
先用站内已采集内容作答;站内不足时联网检索,每条结论都给出来源链接
1 条 · 点击可看原文全文与中文译文
针对少步自回归视频生成中所有 token 都跑完最终去噪步的浪费问题,提出 Speculative Forcing 框架,将中间干净估计作为草稿,预测哪些 token 可提前接受并冻结,同时保留其 KV 缓存作为上下文。在短视频、长视频和世界生成任务上保持全步采样质量,LongLive 上每 token 约 1.7 步去噪、提速超 1.5 倍。
现有资料不足以回答「token 提前接受的判定标准」这一具体问题——资料1只说明了该框架的动机与整体思路,没有给出判定阈值、打分函数或接受准则的细节。 资料中能确认的部分:
也就是说,资料只表明「提前接受」是由模型基于中间干净估计做出的预测性判断1,但判定标准本身(例如是否用草稿与当前估计的一致性、置信度阈值、误差界等)在摘要中并未披露。建议查阅原论文的方法章节获取具体判据。