AI 搜索

带引用 · 可溯源

先用站内已采集内容作答；站内不足时联网检索，每条结论都给出来源链接

大家都在搜：vLLM12 AbridgeKV 在 vLLM 中的实现改动涉及哪些模块？10 agent10 alignment10 fine-tuning10 multi-agent10 post-training10 pretraining10

AI 答案

资料有限基于 1 条来源 · 引用可点击溯源

现有资料不足以判断 Velox 是「跳过计算」还是「真正释放显存」。资料中能确认的部分：

Velox 是一种免训练的注意力路由方法，它利用流式几何中的视锥板对应关系做区域级上下文选择，把历史块表示为带深度区间的相机视锥板，从而抑制随 rollout 增长的 KV 缓存开销1。
效果数据：在第 48 块时，注意力加速 4.36 倍、去噪加速 2.43 倍，WBench 导航任务精度仅差 0.15 分1。

关键分歧点：摘要只说明它通过「区域级上下文选择」抑制 KV 缓存开销1，但没有说明未被选中的历史块对应的 KV 缓存是被丢弃、释放显存，还是仅不参与注意力计算而仍驻留显存。因此无法从现有资料得出「跳过计算」或「真正释放显存」的结论。

继续追问

Velox 的区域级上下文选择具体如何构造视锥板表示？Velox 在长 rollout 下 KV 缓存的显存占用曲线是怎样的？Velox 与现有 KV 缓存淘汰/压缩方法（如 H2O、StreamingLLM）有何区别？

参考来源

1 条

1站内Velox用空间记忆加速视频世界模型Velox是一种免训练的注意力路由方法，利用流式几何中的视锥板对应关系做区域级上下文选择，将历史块表示为带深度区间的相机视锥板，从而抑制随 rollout 增长的 KV 缓存开销。在第48块时注意力加速4.36倍、去噪加速2.43倍，WBench导航任务精度仅差0.15分，让长视频世界模型交互更实时。Hugging Face Papershttps://huggingface.co/papers/2610.22311

AI 答案正在检索与综合…

站内相关条目

1 条 · 点击可看原文全文与中文译文

返回信息流

部署

Velox用空间记忆加速视频世界模型

Velox是一种免训练的注意力路由方法，利用流式几何中的视锥板对应关系做区域级上下文选择，将历史块表示为带深度区间的相机视锥板，从而抑制随 rollout 增长的 KV 缓存开销。在第48块时注意力加速4.36倍、去噪加速2.43倍，WBench导航任务精度仅差0.15分，让长视频世界模型交互更实时。

部署与算力·Hugging Face Papers·5 天前

#world-model