AI 搜索

带引用 · 可溯源

先用站内已采集内容作答；站内不足时联网检索，每条结论都给出来源链接

范围：站内优先仅站内全网全网通道：bing

大家都在搜：vLLM12 agent10 alignment10 fine-tuning10 multi-agent10 post-training10 pretraining10 training10

AI 答案

资料有限基于 2 条来源 · 引用可点击溯源

现有资料不足以回答该问题。 能确认的部分：

资料 1 只介绍了 AbridgeKV 本身的做法：训练模型把已完成的长推理文本块压缩进少量可学习 pause token 的 KV 条目，释放原始缓存，后续 token 改为关注这些 pause token；在 AIME 等 446 道竞赛题、32K 生成下，仅保留四分之一缓存即可匹配全 KV 模型精度，vLLM 中单序列缓存缩小 3.5 倍、H100 完成速度提升 3.2 倍1。
资料 2 是自回归视频生成方向的 Speculative Forcing 框架，其做法是把中间干净估计作为草稿、预测哪些 token 可提前接受并冻结，并保留其 KV 缓存作为上下文2。这与“用可学习 token 压缩长推理 KV 缓存”不是同一类方法，不能作为该问题的答案。

结论： 两条资料中没有任何一条列举或对比 AbridgeKV 之外采用“可学习 token 压缩 KV 缓存”的其他工作，因此无法给出具体工作名称。

继续追问

AbridgeKV 的 pause token 在训练时如何与原始推理文本对齐？AbridgeKV 在 vLLM 中的 3.5 倍缓存缩减是如何实现的？Speculative Forcing 中冻结 token 的 KV 缓存保留策略与 KV 压缩方法有何异同？

参考来源

2 条

1站内AbridgeKV: Compressing Long Reasoning into the KV Cache of Learned Pause TokensAbridgeKV 训练模型把已完成的长推理文本块压缩进少量可学习 pause token 的 KV 条目，从而释放原始缓存，后续 token 改为关注这些 pause token。在 AIME 等 446 道竞赛题、32K 生成下，仅保留四分之一缓存即可匹配全 KV 模型精度，vLLM 中单序列缓存缩小 3.5 倍、H100 完成速度提升 3.2 倍。arXiv cs.CLhttps://arxiv.org/abs/2610.20641 2站内推测强制加速自回归视频生成针对少步自回归视频生成中所有 token 都跑完最终去噪步的浪费问题，提出 Speculative Forcing 框架，将中间干净估计作为草稿，预测哪些 token 可提前接受并冻结，同时保留其 KV 缓存作为上下文。在短视频、长视频和世界生成任务上保持全步采样质量，LongLive 上每 token 约 1.7 步去噪、提速超 1.5 倍。Hugging Face Papershttps://huggingface.co/papers/2610.22347

AI 答案正在检索与综合…

站内相关条目

2 条 · 点击可看原文全文与中文译文

返回信息流

部署

AbridgeKV: Compressing Long Reasoning into the KV Cache of Learned Pause Tokens

AbridgeKV 训练模型把已完成的长推理文本块压缩进少量可学习 pause token 的 KV 条目，从而释放原始缓存，后续 token 改为关注这些 pause token。在 AIME 等 446 道竞赛题、32K 生成下，仅保留四分之一缓存即可匹配全 KV 模型精度，vLLM 中单序列缓存缩小 3.5 倍、H100 完成速度提升 3.2 倍。

部署与算力·arXiv cs.CL·4 天前

#kv-cache

大模

推测强制加速自回归视频生成

针对少步自回归视频生成中所有 token 都跑完最终去噪步的浪费问题，提出 Speculative Forcing 框架，将中间干净估计作为草稿，预测哪些 token 可提前接受并冻结，同时保留其 KV 缓存作为上下文。在短视频、长视频和世界生成任务上保持全步采样质量，LongLive 上每 token 约 1.7 步去噪、提速超 1.5 倍。

大模型·Hugging Face Papers·4 天前

#video-generation