AI 搜索

带引用 · 可溯源

先用站内已采集内容作答；站内不足时联网检索，每条结论都给出来源链接

大家都在搜：vLLM12 agent10 alignment10 fine-tuning10 multi-agent10 post-training10 pretraining10 training10

AI 答案

资料有限基于 1 条来源 · 引用可点击溯源

现有资料不足以回答该问题。资料1仅提供了 SoftCache 的摘要，内容集中在扩散/流模型的免训练缓存机制本身：它指出动态缓存方法把网络输入的廉价探针累积为陈旧度信号，越过阈值才重新评估，属于“硬缓存”（刷新与复用之间的二值开关），并提出用信号低于阈值的余量（headroom）预测复用误差，从而实现“软缓存”1。但该摘要中：

未提及任何量化（quantization）相关的实验或方法；
未提及 prefix caching 或与其他推理优化技术的组合实验；
摘要文本在“不再”处截断，后续实验部分内容不可见1。

因此，无法从现有资料确认论文是否报告了与量化、prefix caching 等其他推理优化技术的组合实验结果。建议查阅该论文全文的实验章节，或补充论文 PDF/正文资料后再判断。

继续追问

SoftCache 的“软缓存”具体如何用 headroom 信号决定刷新时机？该论文的基线对比包含哪些免训练缓存方法（如 DeepCache、TeaCache 等）？扩散模型缓存加速能否与量化叠加使用，已有工作有哪些结论？

参考来源

1 条

1站内SoftCache让扩散模型缓存步长自适应扩散模型与流模型通过迭代步骤生成样本，每一步都需要对大型网络做一次完整的前向传播，而这次前向传播主导了生成成本。免训练缓存通过复用近期评估中的激活值而非重新计算来加速这一过程。动态缓存方法将网络输入的一个廉价探针累积为陈旧度信号，当该信号越过阈值时便执行一次新的评估，以此决定何时刷新。这类方法执行的是硬缓存：信号是刷新与复用之间的二值开关，且每一步——无论新算还是缓存——都按规定的步长推进。我们观察到，该信号所承载的信息远不止这个开关。它低于阈值的幅度，即其余量（headroom），可以预测复用所引入的误差。我们提出 SoftCache，执行软缓存：不再Hugging Face Papershttps://huggingface.co/papers/2610.22369

AI 答案正在检索与综合…

站内相关条目

1 条 · 点击可看原文全文与中文译文

返回信息流

部署

SoftCache让扩散模型缓存步长自适应

SoftCache是一种免训练缓存方法，利用动态缓存中陈旧度信号的余量预测复用误差，将二值刷新开关改为自适应步长：余量大时跳过多个调度节点，临近刷新时步长收缩回原值。在FLUX图像及HunyuanVideo、Wan2.1视频上实现3.5至6.9倍加速，四项保真度指标全面领先基线。

部署与算力·Hugging Face Papers·4 天前

#diffusion