大模
推测强制加速自回归视频生成
针对少步自回归视频生成中所有 token 都跑完最终去噪步的浪费问题,提出 Speculative Forcing 框架,将中间干净估计作为草稿,预测哪些 token 可提前接受并冻结,同时保留其 KV 缓存作为上下文。在短视频、长视频和世界生成任务上保持全步采样质量,LongLive 上每 token 约 1.7 步去噪、提速超 1.5 倍。
大模型·Hugging Face Papers·5 天前
先用站内已采集内容作答;站内不足时联网检索,每条结论都给出来源链接
1 条 · 点击可看原文全文与中文译文
针对少步自回归视频生成中所有 token 都跑完最终去噪步的浪费问题,提出 Speculative Forcing 框架,将中间干净估计作为草稿,预测哪些 token 可提前接受并冻结,同时保留其 KV 缓存作为上下文。在短视频、长视频和世界生成任务上保持全步采样质量,LongLive 上每 token 约 1.7 步去噪、提速超 1.5 倍。
现有资料不足以回答「冻结 token 的 KV 缓存保留时位置索引如何维护」这一具体机制问题。 资料 1 只能确认以下与问题相关的事实:
但资料 1 仅为摘要级信息,未提及冻结 token 的 KV 缓存中位置索引(position index / RoPE 位置偏移等)的维护方式,也未说明冻结后新 token 的位置如何续接、缓存是否重排或压缩。因此无法据此给出可靠结论,建议查阅原文方法章节。